Was ist Foundry Tools?
Foundry Tools ist die Werkzeugsammlung innerhalb der Microsoft Foundry Plattform für die Entwicklung von KI-Anwendungen. Die Tools umfassen Prompt Flow für visuelle Workflow-Entwicklung, Playground für interaktives Modell-Testing, Evaluation Framework für systematische Qualitätsmessung und Deployment-Tools für den Produktionsbetrieb.
Das Herzstück ist Prompt Flow: Ein visueller Editor, in dem Sie Nodes verbinden, um komplexe LLM-Workflows zu erstellen. Nodes können LLM-Aufrufe, Python-Code, Azure AI Search Queries oder externe API-Calls sein. Der fertige Flow wird als REST-API oder Azure Function deployed.
Kernfunktionen
- Prompt Flow für visuelle Workflow-Entwicklung
- Playground für interaktives Modell-Testing
- Evaluation Framework mit Built-in und Custom Metrics
- Data Connectors für Azure Storage, SharePoint, Datenbanken
- Deployment als REST API oder Azure Function
Typische Anwendungsfälle
KI-Entwickler nutzen Prompt Flow, um RAG-Pipelines visuell zu erstellen. Ein typischer Flow: User Query eingeben, Azure AI Search für relevante Dokumente abfragen, Dokumente als Kontext an LLM übergeben, Response generieren.
Data Scientists vergleichen Modelle im Playground. GPT-4, GPT-4o und Llama werden mit denselben Prompts getestet, Responses werden bewertet, die beste Option für den Use Case identifiziert.
DevOps-Teams deployen fertige Flows als skalierbare REST-APIs. CI/CD-Pipelines integrieren Evaluation-Runs, um Qualität vor Deployment zu validieren.
Vorteile
- Beschleunigte Entwicklung durch visuelle Tools
- Konsistente Qualität durch integrierte Evaluation
- Nahtloser Übergang von Entwicklung zu Produktion
- Wiederverwendbare Flows und Komponenten
Integration mit innFactory
Als Microsoft Solutions Partner unterstützt innFactory Sie bei Foundry Tools: Prompt Flow Entwicklung, RAG-Architektur, Evaluation-Strategie und Produktionsdeployment.
Typische Anwendungsfälle
Häufig gestellte Fragen
Was ist im Prompt Flow enthalten?
Ein visueller Editor zum Erstellen von LLM-Workflows mit Nodes für Prompts, Python-Code, Azure AI Search und APIs. Flows können versioniert und als REST-APIs deployed werden.
Wie funktioniert Modellvergleich?
Im Playground können Sie denselben Prompt an verschiedene Modelle senden und Responses vergleichen. Evaluation Datasets ermöglichen systematischen Vergleich mit Metriken.
Kann ich Foundry Tools lokal nutzen?
Ja, VS Code Extension und Azure AI CLI ermöglichen lokale Entwicklung. Flows werden in Azure deployed, können aber lokal getestet werden.
Wie integriere ich eigene Daten für RAG?
Über Data Connectors zu Azure Blob Storage, SharePoint, Azure SQL oder APIs. Dokumente werden in Azure AI Search indiziert und für Retrieval verfügbar.
