Was ist AWS Trainium?
AWS Trainium ist eine von AWS entwickelte Chipfamilie für Training und Inferenz von KI-Modellen. Die Produktseite nennt die Generationen Trainium, Trainium2 und Trainium3. Die Chips bilden die Grundlage der Amazon-EC2-Trn-Instanzen.
Mit Trn3 UltraServern, die AWS am 2. Dezember 2025 allgemein verfügbar gemacht hat, lassen sich bis zu 144 Trainium3-Chips zu einem System zusammenschalten. Für sehr große Trainingsläufe verweist AWS auf EC2 UltraCluster 3.0, die auf Hunderttausende Chips skalieren.
Kernfunktionen
- Drei Generationen: Trainium, Trainium2 und Trainium3 werden auf der Produktseite genannt
- Trainium3: Erster in 3-nm-Technologie gefertigter KI-Chip von AWS mit 2,52 Petaflops FP8 je Chip, 144 GB HBM3e und 4,9 TB/s Speicherbandbreite
- NeuronCore-Architektur: Acht große NeuronCore-Recheneinheiten mit den Untereinheiten Tensor, Vector, Scalar und GPSIMD sowie eigenen Kernen für kollektive Kommunikation
- Quantisierung: Hardwarebeschleunigte W4A8-Quantisierung
- Trn3 UltraServer: Bis zu 144 Chips, 362 Petaflops FP8, bis zu 20,7 TB HBM3e und 706 TB/s aggregierte Speicherbandbreite
- AWS Neuron SDK: Unterstützung von PyTorch, vLLM, HuggingFace Transformers und TorchTitan ohne Codeanpassung, Eager Mode und FSDP sowie das Neuron Kernel Interface (NKI)
- Orchestrierung: Zusammenspiel mit Ray, Amazon EKS, AWS Batch und SageMaker HyperPod
Typische Anwendungsfälle
Training großer Sprachmodelle: Trn3 UltraServer und EC2 UltraCluster 3.0 adressieren Trainingsläufe, die über einzelne Instanzen hinausgehen.
Inferenz im Produktionsmaßstab: AWS nennt für Trainium ausdrücklich auch Inferenz und stellt die Kosten je Token in den Vordergrund.
Verteiltes Training in bestehenden Umgebungen: Über Amazon EKS, AWS Batch, Ray und SageMaker HyperPod lassen sich Trainium-Ressourcen in vorhandene Abläufe einbinden.
Bestehende Frameworks weiternutzen: Das Neuron SDK unterstützt PyTorch, vLLM, HuggingFace Transformers und TorchTitan ohne Anpassungen am Modellcode.
Vorteile
- Deutliche Steigerungen bei Speicherkapazität und Bandbreite von Trainium2 auf Trainium3 laut Anbieterangabe
- Bis zu 4,4-fache Leistung und 4-fach bessere Leistung pro Watt der Trn3 UltraServer gegenüber Trn2 UltraServern laut AWS
- Nutzung gängiger Frameworks ohne Codeumstellung über das Neuron SDK
- Hardwarenaher Zugriff über das Neuron Kernel Interface für eigene Kernel
- Einbindung in vorhandene Orchestrierung über EKS, AWS Batch, Ray und SageMaker HyperPod
- Keine separate Preisposition, Abrechnung über die EC2-Trn-Instanzen
Integration mit innFactory
Als AWS Reseller unterstützt innFactory Sie bei AWS Trainium: Bewertung der Eignung Ihrer Trainings- und Inferenz-Workloads, Portierung über das AWS Neuron SDK, Auswahl der passenden Trn-Instanzen und UltraServer sowie Einbindung in bestehende Orchestrierung über Amazon EKS, AWS Batch oder SageMaker HyperPod.
Typische Anwendungsfälle
Technische Spezifikationen
Häufig gestellte Fragen
Was ist AWS Trainium?
AWS Trainium ist eine von AWS entwickelte Chipfamilie für KI-Workloads. Die Produktseite nennt die Generationen Trainium, Trainium2 und Trainium3. Die Chips sind die Grundlage der Amazon-EC2-Trn-Instanzen; die Produktseite verweist unter anderem auf Trn1- und Trn1n-Instanzen.
Was zeichnet Trainium3 aus?
AWS bezeichnet Trainium3 als seinen ersten in 3-nm-Technologie gefertigten KI-Chip und als KI-Chip der vierten Generation. Jeder Chip liefert laut Ankündigung 2,52 Petaflops FP8-Rechenleistung und verfügt über 144 GB HBM3e mit 4,9 TB/s Speicherbandbreite; das entspricht laut AWS dem 1,5-Fachen der Speicherkapazität und dem 1,7-Fachen der Bandbreite von Trainium2. Die Produktseite nennt acht große NeuronCore-Recheneinheiten mit vier spezialisierten Untereinheiten (Tensor, Vector, Scalar, GPSIMD), hardwarebeschleunigte W4A8-Quantisierung sowie eigene Kerne für kollektive Kommunikation.
Was sind Trn3 UltraServer?
Trn3 UltraServer skalieren laut AWS auf bis zu 144 Trainium3-Chips und erreichen damit 362 Petaflops FP8. Voll ausgebaut nennt AWS bis zu 20,7 TB HBM3e und 706 TB/s aggregierte Speicherbandbreite. Gegenüber Trn2 UltraServern gibt AWS bis zu 4,4-fache Leistung, 3,9-fach höhere Speicherbandbreite und eine 4-fach bessere Leistung pro Watt an. AWS hat Trn3 UltraServer am 2. Dezember 2025 allgemein verfügbar gemacht.
Wie werden Trainium-Chips programmiert?
Über das AWS Neuron SDK. Es unterstützt laut Produktseite Frameworks wie PyTorch, vLLM, HuggingFace Transformers und TorchTitan ohne Anpassungen. Genannt werden außerdem der Eager Mode und FSDP für Forschungsarbeiten sowie das Neuron Kernel Interface (NKI) für hardwarenahen Zugriff.
Mit welchen AWS-Diensten arbeitet Trainium zusammen?
Die Produktseite nennt Ray, Amazon EKS, AWS Batch und SageMaker HyperPod. Für sehr große Trainingsläufe verweist AWS auf EC2 UltraCluster 3.0, die auf Hunderttausende Chips skalieren.
Wie wird Trainium abgerechnet?
Trainium hat keine eigene Preisposition. Die Abrechnung erfolgt über die Preise der jeweiligen Amazon-EC2-Trn-Instanzen.
Hinweis: Alle Produktinformationen auf dieser Seite wurden sorgfältig zusammengestellt, sind jedoch ohne Gewähr und können veraltet oder unvollständig sein. Cloud-Services entwickeln sich schnell weiter — Funktionen, Preise, SLAs und Verfügbarkeit ändern sich laufend. Verbindliche und aktuelle Informationen finden Sie ausschließlich auf der offiziellen Produktseite von AWS (offizielle Dokumentation). Diese Seite stellt kein Angebot von AWS dar.