Zum Inhalt springenKI, die auf Ihrer eigenen Infrastruktur läuft. Nichts verlässt Ihr Netz.Demo anfragen ↗

Für die IT-Abteilung

Was Sie für Oleron brauchen.

Oleron läuft auf Ihrer eigenen Infrastruktur, ohne Internetzugang. Die Installation ist so ausgelegt, dass sie sich in Ihre bestehende Umgebung einfügt, mit möglichst wenig Reibung. Hier die Eckpunkte; die genaue Dimensionierung stimmen wir mit Ihren Teams ab.

Die Installation

Passt sich Ihrer Arbeitsweise an.

Vom Schlanksten bis zum Schlüsselfertigen. Sie wählen das Format, das zu Ihrer IT-Landschaft und zu den Gewohnheiten Ihrer Teams passt, nicht umgekehrt.

Geführter CLI-Installer

Ein Befehl auf einem Linux-Server: Er richtet den Stack ein, konfiguriert internes TLS und legt das erste Administratorkonto an. Der einfachste Einstieg.

Container

Ein docker-compose-Bundle oder ein Helm-Deployment auf k3s, wenn Ihre Teams mit Kubernetes arbeiten und Hochverfügbarkeit wollen.

VM- / OVA-Image

Ein vorgefertigtes Image zum Import in VMware, Proxmox oder KVM. Alles ist vorinstalliert, einschließlich der Modelle.

Versiegelte Appliance

Ein vorkonfigurierter Server, bereit für den Air-Gap-Betrieb, schlüsselfertig geliefert. Die Installation übernehmen wir für Ihre IT-Abteilung.

Die Hardware

Zwei Stufen, je nach Nutzung.

Ein Server mit einer professionellen GPU deckt die meisten Fälle ab. Die genaue Dimensionierung legen wir gemeinsam mit Ihnen fest, je nach Anzahl der Räume und erwartetem Niveau der Zusammenfassungen.

Stufe Pilot

Machbarkeitsnachweis, ein bis zwei Räume

GPU
Professionelle GPU mit 24 GB ECC-Speicher (z. B. NVIDIA L4 oder RTX A5000)
CPU
8 Kerne min., 16 empfohlen
RAM
32 GB min., 64 GB empfohlen
Speicher
512 GB bis 1 TB NVMe, verschlüsselt
Netzwerk
Internes LAN, ohne Internet

Stufe Höchstqualität

Produktivbetrieb, mehrere Räume, hochwertige Zusammenfassungen

GPU
Professionelle GPU mit 48 GB ECC (z. B. NVIDIA L40S oder RTX A6000). 80 GB für mehrere Räume gleichzeitig
CPU
16 Kerne min., 32 empfohlen
RAM
64 GB min., 128 GB empfohlen
Speicher
2 bis 4 TB NVMe (RAID empfohlen), verschlüsselt
Netzwerk
Redundantes LAN möglich, ohne Internet

Wir setzen GPUs der Profiklasse ein (ECC-Speicher, zertifizierte Treiber für den Dauerbetrieb). Consumer-Karten kommen nicht infrage: Deren Lizenz untersagt den Einsatz im Rechenzentrum, und sie bieten nicht die Zuverlässigkeit, die im Gesundheitswesen erwartet wird. Die genaue Dimensionierung und die Netzwerkdetails werden in einem Abstimmungstermin mit Ihrem CISO festgelegt; auf dieser Seite sind sie nicht festgeschrieben.

Die Software-Basis

Nichts Exotisches zu installieren.

Ein Standard-Linux und ein GPU-Treiber. Alles andere steckt in der Lösung, isoliert und reproduzierbar.

Linux LTS: Ubuntu 22.04 oder 24.04, RHEL / Rocky 8 oder 9, oder Debian 11 / 12
Aktueller NVIDIA-Treiber (Zweig 550+) und Container-Runtime (Docker oder containerd)
Der Rest (CUDA, Modelle, Dienste) ist in der Lösung enthalten, auf dem Host ist nichts weiter zu installieren
Anbindung an Active Directory / LDAP oder SSO über OIDC / SAML, wenn Sie einen internen Identitätsanbieter haben

Das Netzwerk

Intern, und sonst nichts.

Kein ausgehender Datenverkehr, keine Telemetrie. Einige offene Ports in Ihrem internen Netz genügen. Vollständiger Air-Gap-Betrieb ist möglich.

PortVerwendung
443Interne Weboberfläche (HTTPS)
22Administration (SSH)
636Active-Directory-Verzeichnis (LDAPS)
123 / 53Internes NTP und DNS

Updates erfolgen über signierte Pakete, die Ihre Teams selbst einspielen, im Air-Gap-Betrieb über physische Datenträger. Sie behalten durchgehend die Kontrolle.

Wir dimensionieren gemeinsam mit Ihren Teams.

Eine Abstimmungssitzung, um Hardware und Installation auf Ihre tatsächliche Infrastruktur auszurichten.