Was ist STACKIT Compute Engine GPU?
STACKIT Compute Engine GPU bietet leistungsstarke GPU-beschleunigte Virtual Machines für KI-Training, ML-Inference und High-Performance Computing. Aktuell verfügbar sind NVIDIA H100 (als HGX-Variante mit bis zu 8 GPUs für sehr große Modelle sowie als NVL-Variante mit 1-4 GPUs), NVIDIA A100 PCIe (80GB, 1-4 GPUs) und NVIDIA L40S (48GB, 1-4 GPUs) für generative KI, Training, Inference sowie Rendering und 3D-Grafik. Alle GPU-Instanzen laufen ausschließlich in deutschen Rechenzentren.
Kernfunktionen
- NVIDIA H100 HGX mit 80 GB HBM3 und bis zu 8 GPUs pro Instanz für Modelle über 175 Milliarden Parameter
- NVIDIA H100 NVL mit 94 GB HBM3 und 1-4 GPUs für kleinere Modelle und Inference
- NVIDIA A100 PCIe mit 80 GB HBM2e für Training, Inference und Datenanalyse
- NVIDIA L40S mit 48 GB GDDR6 für generative KI, Training, Inference sowie Rendering und 3D-Grafik
- Flexible Skalierung von 1 bis 8 GPUs je nach Modell und Instanztyp
Typische Anwendungsfälle
AI Model Training: Training und Finetuning großer Sprachmodelle mit Multi-GPU-Setups auf H100- oder A100-Instanzen.
ML Inference: Produktions-Deployments von Inference-Workloads auf H100-NVL- oder L40S-Instanzen.
3D-Rendering und Grafik: GPU-beschleunigte Rendering-Workloads auf L40S-Instanzen.
High Performance Computing: Wissenschaftliche Simulationen und Datenanalyse auf A100- oder H100-Instanzen.
Vorteile
- Trainingsdaten bleiben DSGVO-konform in Deutschland
- Aktuelle NVIDIA-GPU-Generationen (Hopper, Ampere, Ada Lovelace)
- Flexible Pay-per-Use-Abrechnung stündlich
- Skalierung von Einzel-GPU bis Multi-GPU-Cluster
Integration mit innFactory
Als offizieller STACKIT Partner unterstützt innFactory Sie bei GPU Computing: Architektur, Auswahl der passenden GPU-Klasse, Migration, Betrieb und Kostenoptimierung.
Verfügbare Varianten & Optionen
NVIDIA L40S
- 48 GB GDDR6
- Generative AI, Training, Inference
- Rendering und 3D-Grafik
- Weniger Speicher als H100/A100 für sehr große Modelle
NVIDIA A100 PCIe
- 80 GB HBM2e
- Training, Inference, Datenanalyse
- 1-4 GPUs pro Instanz
- Geringerer Durchsatz als H100 bei sehr großen Modellen
NVIDIA H100 (HGX/NVL)
- 80 GB (HGX) bzw. 94 GB (NVL) HBM3
- HGX: bis zu 8 GPUs pro Instanz für Modelle über 175B Parameter
- NVL: 1-4 GPUs für kleinere Modelle und Inference
- Höhere Kosten als A100/L40S
Typische Anwendungsfälle
Technische Spezifikationen
Häufig gestellte Fragen
Welche GPU-Modelle sind aktuell verfügbar?
STACKIT bietet NVIDIA H100 (als HGX-Variante mit bis zu 8 GPUs und als NVL-Variante mit 1-4 GPUs), NVIDIA A100 PCIe (80GB, 1-4 GPUs) sowie NVIDIA L40S (48GB, 1-4 GPUs) an.
Welche GPU eignet sich für welchen Anwendungsfall?
H100 HGX eignet sich für Modelle über 175 Milliarden Parameter, Training und HPC. H100 NVL und A100 sind für kleinere Modelle, Training und Inference geeignet. L40S eignet sich zusätzlich für generative KI sowie Rendering und 3D-Grafik.
Kann ich mehrere GPUs in einer Instanz nutzen?
Ja. Je nach Modell stehen Multi-GPU-Instanzen mit bis zu 8 GPUs (H100 HGX) oder bis zu 4 GPUs (H100 NVL, A100, L40S) zur Verfügung.
Welche Compliance gilt für KI-Training auf STACKIT?
Die Instanzen laufen ausschließlich in deutschen Rechenzentren. Trainingsdaten verbleiben innerhalb der EU.
Wie erfolgt die Abrechnung?
Die Abrechnung erfolgt nutzungsbasiert mit stündlicher Abrechnung (Pay-per-use). Aktuelle Preise finden Sie im STACKIT-Preisrechner.
Hinweis: Alle Produktinformationen auf dieser Seite wurden sorgfältig zusammengestellt, sind jedoch ohne Gewähr und können veraltet oder unvollständig sein. Cloud-Services entwickeln sich schnell weiter — Funktionen, Preise, SLAs und Verfügbarkeit ändern sich laufend. Verbindliche und aktuelle Informationen finden Sie ausschließlich auf der offiziellen Produktseite von STACKIT (offizielle Dokumentation). Diese Seite stellt kein Angebot von STACKIT dar.
