Was ist STACKIT Compute Engine GPU?
STACKIT Compute Engine GPU bietet leistungsstarke GPU-beschleunigte Virtual Machines für KI-Training, ML-Inference und High-Performance Computing. Die Instanzen sind mit NVIDIA Enterprise-GPUs ausgestattet: T4 für kosteneffiziente Inference und A100 für das Training großer Modelle. Alle GPU-Instanzen laufen in deutschen Rechenzentren ohne US CLOUD Act-Risiko.
Kernfunktionen
- NVIDIA T4 (16GB) und A100 (40/80GB VRAM)
- Multi-GPU-Instanzen mit bis zu 8 GPUs
- NVLink auf A100 für High-Bandwidth Training
- CUDA 11.x/12.x und TensorRT Support
- PyTorch, TensorFlow und JAX kompatibel
Typische Anwendungsfälle
AI Model Training: Finetuning von LLMs wie LLaMA, Mistral oder GPT-J auf unternehmenseigenen Daten mit Multi-GPU-Setups.
ML Inference: Produktions-Deployments von Recommendation Engines und Computer Vision auf kosteneffizienten T4 GPUs.
3D Rendering: CUDA-beschleunigte Rendering-Workloads mit Blender, DaVinci Resolve und anderen Tools.
Vorteile
- Trainingsdaten bleiben DSGVO-konform in Deutschland
- Keine Datenweitergabe durch US CLOUD Act
- Flexible Pay-per-Use Abrechnung stündlich
- Mixed Precision Training mit Tensor Cores
Integration mit innFactory
Als offizieller STACKIT Partner unterstützt innFactory Sie bei GPU Computing: Architektur, Migration, Betrieb und Kostenoptimierung.
Verfügbare Varianten & Optionen
NVIDIA T4
- Cost-effective
- Good for inference
- Lower power consumption
- Limited memory for large models
NVIDIA A100
- High performance
- 40GB/80GB memory
- Ideal for training
- Higher cost
Typische Anwendungsfälle
Technische Spezifikationen
Häufig gestellte Fragen
Welche GPU-Modelle sind verfügbar?
NVIDIA T4 (16GB) für Inference und A100 (40/80GB) für Training. T4 ist kosteneffizient, A100 bietet maximale Performance.
Kann ich mehrere GPUs nutzen?
Ja. Multi-GPU-Instanzen mit bis zu 8 GPUs verfügbar. A100 mit NVLink für 600 GB/s Inter-GPU Bandwidth.
Ist CUDA vorinstalliert?
NVIDIA-Treiber als vorkonfigurierte Images verfügbar. CUDA Toolkit je nach Framework-Version installierbar.
Welche Compliance gilt für AI-Training?
100% deutsche Rechenzentren. Trainingsdaten verlassen nie die EU. Kein US CLOUD Act Zugriff.
