Was ist Vertex AI RAG Engine?
Vertex AI RAG Engine ist eine vollständig verwaltete Orchestrierungslaufzeit für Retrieval-Augmented Generation (RAG) auf Google Cloud. Der Dienst nimmt Ihnen den Aufbau und Betrieb einer kompletten RAG-Pipeline ab und reichert die Antworten von Large Language Models mit Ihren eigenen, privaten Daten an. Dadurch antworten Modelle wie Gemini präziser und Halluzinationen werden reduziert, weil die Generierung auf nachweisbaren Quellen aufsetzt statt allein auf dem Trainingswissen des Modells.
Vertex AI RAG Engine folgt einer sechsstufigen Pipeline: Datenaufnahme, Transformation mit Chunking, Embedding, Indexierung in einem Korpus, Retrieval und gegroundete Generierung. Chunk-Größe und Überlappung sind konfigurierbar, sodass sich die Retrieval-Qualität auf den Anwendungsfall abstimmen lässt. Der Dienst ist nativ in die Gemini API als Retrieval-Tool eingebunden und nutzt darüber hinaus hunderte Modelle aus dem Vertex AI Model Garden, darunter Gemini, Claude und Llama.
Kernfunktionen
- Sechsstufige RAG-Pipeline: Datenaufnahme, Transformation und Chunking, Embedding, Korpus-Indexierung, Retrieval und gegroundete Generierung als verwalteter, durchgängiger Ablauf mit konfigurierbarer Chunk-Größe und Überlappung.
- Native Gemini-Integration: Einbindung als Retrieval-Tool der Gemini API (VertexRagStore) sowie Zugriff auf hunderte Generierungsmodelle aus dem Model Garden wie Gemini, Claude und Llama.
- Pluggable Vektordatenbanken: Auswahl zwischen RagManagedDb (Standard, auf Spanner Enterprise), Vertex AI Vector Search, Vertex AI Feature Store, Pinecone, Weaviate und Cloud Spanner.
- Breite Datenquellen-Anbindung: Aufnahme aus Cloud Storage, Google Drive, BigQuery-Datasets, lokalen Dateien und Websites sowie über Konnektoren wie Jira und Slack.
Typische Anwendungsfälle
Wissensbasierte Chatbots und Assistenten: RAG Engine stützt Antworten auf interne Dokumente, Handbücher und Wissensdatenbanken. So beantworten Assistenten Fragen zu unternehmensspezifischen Inhalten, die kein allgemeines Modell kennt.
Frage-Antwort-Systeme mit Quellenbelegen: Durch das Grounding auf einen Korpus lassen sich Antworten auf konkrete Quellen zurückführen. Das erhöht die Nachvollziehbarkeit in Bereichen wie Support, Recht oder Compliance.
RAG-Backends für Agenten und Suche: RAG Engine dient als Retrieval-Schicht für Vertex-AI-Agenten und Suchanwendungen und liefert den relevanten Kontext, den Agenten zur Aufgabenlösung benötigen.
Vorteile
- Vollständig verwaltete Pipeline ohne eigenen Betrieb von Embedding-, Index- und Retrieval-Infrastruktur.
- Flexible Wahl von Vektordatenbank und Datenquellen, dadurch keine Bindung an eine einzelne Speicherlösung.
- Pay-per-use mit zusammengesetzten Kosten: Sie zahlen nur für genutzte Komponenten, der Standard-Parser für Datenquellen ist kostenfrei.
Integration mit innFactory
Als zertifizierter Google Cloud Partner unterstützt innFactory Sie bei Einführung und Betrieb dieses Service.
Typische Anwendungsfälle
Häufig gestellte Fragen
Was ist Vertex AI RAG Engine?
Vertex AI RAG Engine ist eine verwaltete Orchestrierungslaufzeit für Retrieval-Augmented-Generation auf Google Cloud. Der Dienst führt die komplette Pipeline aus: Datenaufnahme, Chunking, Embedding, Indexierung in einem Korpus, Retrieval und gegroundete Generierung. Er reichert die Antworten von LLMs mit Ihren eigenen Daten an, um Halluzinationen zu reduzieren.
Wann sollte ich Vertex AI RAG Engine einsetzen?
Setzen Sie RAG Engine ein, wenn Gemini- oder andere Modellantworten auf interne Dokumente, Wissensdatenbanken oder strukturierte Daten gestützt werden sollen. Typische Szenarien sind wissensbasierte Chatbots, Frage-Antwort-Systeme mit Quellenbelegen und RAG-Backends für Agenten, bei denen Sie die Pipeline nicht selbst betreiben wollen.
Was kostet Vertex AI RAG Engine?
RAG Engine rechnet pay-per-use mit zusammengesetzten Kosten ab. Der Zugriff auf Datenquellen über den Standard-Parser ist kostenlos, separat berechnet werden LLM-Parser-Aufrufe, Vektorspeicher (etwa die zugrunde liegende Spanner-Instanz bei RagManagedDb), Embedding sowie die Nutzung des Generierungsmodells. Es gibt keine pauschale Gebühr.
Welche Vektordatenbanken und Datenquellen unterstützt Vertex AI RAG Engine?
Als Vektorspeicher sind RagManagedDb (Standard, auf Spanner Enterprise), Vertex AI Vector Search, Vertex AI Feature Store, Pinecone, Weaviate und Cloud Spanner anbindbar. Als Datenquellen lassen sich Cloud Storage, Google Drive, BigQuery-Datasets, lokale Dateien, Websites sowie Konnektoren wie Jira und Slack nutzen.
