Verstehen Sie, wie Sie Ihr Sprachmodell verankern.

Sprachmodelle zeichnen sich durch die Generierung ansprechender Texte aus und sind ideal als Basis für Agents. Agents bieten Benutzern eine intuitive chatbasierte Anwendung, um Unterstützung bei ihrer Arbeit zu erhalten. Wenn Sie einen Agent für einen bestimmten Anwendungsfall entwerfen, sollten Sie sicherstellen, dass Ihr Sprachmodell fundiert ist und sachliche Informationen verwendet, die für die Bedürfnisse der benutzenden Person relevant sind.

Obwohl Sprachmodelle auf eine große Menge an Daten trainiert werden, haben sie möglicherweise keinen Zugriff auf das Wissen, das Sie Ihren Benutzerinnen und Benutzern zur Verfügung stellen möchten. Um sicherzustellen, dass ein Agent auf spezifischen Daten basiert, um genaue und domänenspezifische Antworten zu liefern, können Sie Retrieval Augmented Generation (RAG) verwenden.

Verständnis von RAG

RAG ist eine Technik, die Sie verwenden können, um ein Sprachmodell zu verankern. Anders ausgedrückt: Es handelt sich um einen Prozess zum Abrufen von Informationen, die für die ursprüngliche Eingabeaufforderung von der Benutzerin und dem Benutzer relevant sind. Im Allgemeinen beinhaltet das RAG-Muster die folgenden Schritte:

1. Abrufen (retrieve) von Groundingdaten basierend auf dem ursprünglichen Benutzerprompt
2. Anreichern (augment) des Prompts mit Groundingdaten
3. Verwenden eines Sprachmodells, um eine fundierte Antwort zu generieren

Durch das Abrufen des Kontexts aus einer angegebenen Datenquelle stellen Sie sicher, dass das Sprachmodell relevante Informationen verwendet, wenn sie antworten, anstatt sich auf seine Trainingsdaten zu verlassen.

Die Verwendung von RAG ist eine leistungsstarke und einfach anzuwendende Technik für viele Fälle, in denen Sie Ihr Sprachmodell erden und die sachliche Genauigkeit der Antworten Ihrer generative KI-App verbessern möchten.

Hinzufügen von Groundingdaten zu einem Azure KI-Projekt

Sie können Microsoft Foundry verwenden, um einen benutzerdefinierten Agenten zu erstellen, der Ihre eigenen Daten nutzt, um Eingabeaufforderungen zu untermauern. Microsoft Foundry unterstützt eine Reihe von Datenverbindungen, die Sie zum Hinzufügen von Daten zu einem Projekt verwenden können, einschließlich:

• Azure Blob Storage
• Azure Data Lake Storage Gen2
• Microsoft OneLake

Sie können Dateien oder Ordner auch in den Speicher hochladen, der von Ihrem AI Foundry-Projekt verwendet wird.