Was ist Model Armor?
Model Armor ist ein modell-agnostischer KI-Sicherheitsdienst von Google Cloud, der Prompts und Antworten von Large Language Models (LLMs) und KI-Agenten in Echtzeit prüft. Der Dienst erkennt Prompt Injection, Jailbreak-Versuche, den Abfluss sensibler Daten, schädliche URLs und unsichere Inhalte. So lässt sich der wachsende Angriffsvektor auf generative KI absichern, ohne die Modelle selbst anpassen zu müssen.
Model Armor schützt jedes LLM, etwa Gemini, OpenAI, Anthropic oder Llama, über eine REST-API, die unabhängig von Cloud und Infrastruktur nutzbar ist. Alternativ binden Sie den Dienst per No-Code-Inline-Integration an Google-Cloud-Komponenten wie die Gemini Enterprise Agent Platform (vormals Vertex AI), GKE oder Apigee an. Damit deckt die KI-Sicherheit von Model Armor sowohl eigenständige Anwendungen als auch komplexe Agenten-Architekturen ab.
Kernfunktionen
- Prompt Injection und Jailbreak Detection: Model Armor scannt Prompts und Antworten auf Inhalte, die Sicherheitsmechanismen umgehen oder manipulieren sollen.
- Sensitive Data Protection: Über die Integration mit Sensitive Data Protection erkennt und de-identifiziert der Dienst sensible Daten wie Kreditkartennummern, Finanzkonten und Google-Cloud-Anmeldedaten.
- Responsible-AI-Filter und URL-Prüfung: Standardmäßig aktive Filter erkennen Hassrede, Belästigung, sexuell explizite und gefährliche Inhalte sowie CSAM. Zusätzlich prüft Model Armor die ersten 40 URLs pro Anfrage auf Schädlichkeit.
- Dokumentenprüfung und Sprachunterstützung: Der Dienst prüft Dateien wie PDF, Word, Excel, PowerPoint, CSV und Text bis 4 MB und ist über neun Sprachen hinweg getestet, darunter Deutsch, Englisch, Französisch und Spanisch.
Typische Anwendungsfälle
Schutz von LLM-Anwendungen: Anwendungen mit Nutzereingaben aus unbekannten Quellen schalten Model Armor zwischen Eingabe und Modell, um Prompt Injection und Jailbreaks abzuwehren.
Verhindern von Datenabfluss: Bevor eine Antwort den Nutzer erreicht, prüft Model Armor sie auf sensible Daten und de-identifiziert PII, Anmeldedaten oder Finanzdaten.
Absicherung von KI-Agenten: Für autonome Agenten, die Tools aufrufen und Aktionen ausführen, prüft Model Armor Ein- und Ausgaben und reduziert das Risiko manipulierter Anweisungen.
Vorteile
- Modell-agnostisch über REST-API, dadurch unabhängig von Anbieter, Cloud und Infrastruktur
- Zwei Modi (nur prüfen oder prüfen und blockieren) für stufenweise Einführung ohne Produktionsrisiko
- Datenresidenz in EU-Regionen und über einen EU-Multi-Region-Endpunkt
Integration mit innFactory
Als zertifizierter Google Cloud Partner unterstützt innFactory Sie bei Einführung und Betrieb dieses Service.
Typische Anwendungsfälle
Häufig gestellte Fragen
Was ist Model Armor?
Model Armor ist ein modell-agnostischer KI-Sicherheitsdienst von Google Cloud. Er prüft Prompts und Antworten von LLMs und KI-Agenten auf Prompt Injection, Jailbreaks, sensible Daten, schädliche URLs und unsichere Inhalte. Die Anbindung erfolgt über eine REST-API oder über native Integrationen in Google-Cloud-Dienste.
Wann sollte ich Model Armor einsetzen?
Setzen Sie Model Armor ein, wenn Sie LLM-gestützte Anwendungen, Chatbots oder autonome Agenten in Produktion betreiben und Eingaben sowie Ausgaben absichern müssen. Typisch sind Szenarien mit Nutzereingaben aus unbekannten Quellen, mit Zugriff auf sensible Daten oder mit Compliance-Anforderungen an die Inhaltsprüfung.
Was kostet Model Armor?
Eigenständig sind bis zu 2 Millionen Token pro Monat kostenlos, darüber fallen 0,10 USD pro Million Token an. In den Tarifen Security Command Center Premium und Enterprise ist Model Armor enthalten.
Funktioniert Model Armor mit beliebigen LLMs und in der EU?
Ja. Model Armor ist modell-agnostisch und schützt unter anderem Gemini, OpenAI, Anthropic und Llama über eine REST-API, unabhängig von Cloud oder Infrastruktur. Für Datenresidenz stehen EU-Regionen sowie ein EU-Multi-Region-Endpunkt zur Verfügung.
Hinweis: Alle Produktinformationen auf dieser Seite wurden sorgfältig zusammengestellt, sind jedoch ohne Gewähr und können veraltet oder unvollständig sein. Cloud-Services entwickeln sich schnell weiter — Funktionen, Preise, SLAs und Verfügbarkeit ändern sich laufend. Verbindliche und aktuelle Informationen finden Sie ausschließlich auf der offiziellen Produktseite von Google Cloud (offizielle Dokumentation). Diese Seite stellt kein Angebot von Google Cloud dar.
