Hinweis
Für den Zugriff auf diese Seite ist eine Autorisierung erforderlich. Sie können versuchen, sich anzumelden oder das Verzeichnis zu wechseln.
Für den Zugriff auf diese Seite ist eine Autorisierung erforderlich. Sie können versuchen, das Verzeichnis zu wechseln.
In diesem Artikel werden DSPy beschrieben und Beispielnotizbücher bereitgestellt, die zeigen, wie Sie DSPy auf Azure Databricks verwenden, um generative KI-Agents zu erstellen und zu optimieren.
Was ist DSPy?
DSPy ist ein Framework zum programmgesteuerten Definieren und Optimieren von generativen KI-Agents. DSPy kann das Prompt-Engineering automatisieren und die Feinabstimmung von LLMs orchestrieren, um die Leistung zu verbessern.
DSPy besteht aus mehreren Komponenten, die die Agententwicklung vereinfachen und die Agentqualität verbessern:
- Module: In DSPy sind dies Komponenten, die bestimmte Texttransformationen behandeln, z. B. beantworten von Fragen oder Zusammenfassungen. Sie ersetzen traditionelle handschriftliche Eingabeaufforderungen und können aus Beispielen lernen, wodurch sie anpassbarer werden.
- Signaturen: Eine Beschreibung der natürlichen Sprache des Eingabe- und Ausgabeverhaltens eines Moduls. Beispielsweise gibt "Frage -> Antwort" an, dass das Modul eine Frage als Eingabe annehmen und eine Antwort zurückgeben soll.
- Compiler: Dies ist das Optimierungstool von DSPy. Sie verbessert LM-Pipelines, indem Module angepasst werden, um eine Leistungsmetrik zu erfüllen, entweder durch das Generieren besserer Eingabeaufforderungen oder das Feinabstimmen von Modellen.
- Programm (DSPy): Eine Reihe von Modulen, die mit einer Pipeline verbunden sind, um komplexe Aufgaben auszuführen. DSPy-Programme sind flexibel, sodass Sie sie mithilfe des Compilers optimieren und anpassen können.
Erstellen eines DSPy-Programms für Textklassifizierer
Das folgende Notizbuch zeigt, wie Sie DSPy-Programm erstellen, das die Textklassifizierung durchführt. In diesem Beispiel wird veranschaulicht, wie DSPy funktioniert und welche Komponenten verwendet werden.
Erstellen eines DSPy-Programmnotizbuchs für textklassifizierer
Verwenden eines Vektorsuchindex mit einem DSPy-Programm für RAG
Das folgende Notizbuch zeigt, wie Sie einen Vektorsuchindex erstellen und mit einem DSPy-Programm verwenden, das RAG ausführt.
Erstellen eines DSPy-Programmnotizbuchs für textklassifizierer
Multi-Agent-System mit Genie und DSPy
Das folgende Notizbuch zeigt, wie Sie ein Multi-Agent-System erstellen, das diese Arten von Agents koordiniert:
- Genie-Räume
- In Model Serving bereitgestellte Agenten
- UC-Funktionsaufruf-Agenten, die mit DSPy erstellt wurden.
Multi-Agent mit Genie und DSPy
Erstellen eines DSPy-Programms für RAG
Diese Notizbücher zeigen Ihnen, wie Sie ein grundlegendes RAG-Programm mit DSPy erstellen und optimieren. Bei diesen Notizbüchern wird davon ausgegangen, dass Sie serverlose Berechnungen verwenden und Pakete auf Notizbuchebene installieren, um sicherzustellen, dass sie unabhängig von der Databricks-Runtime-Version ausgeführt werden.
Teil 1: Vorbereiten des Daten- und Vektorsuchindex für ein RAG DSPy-Programmnotizbuch
Teil 2: Ein DSPy-Programm für das RAG-Notizbuch erstellen und optimieren
Migrieren von LangChain zu DSPy
Diese Notizbücher zeigen, wie LangChain-Modellcode zu DSPy migriert und optimiert wird, um eine bessere Leistung zu erzielen. Bei diesen Notizbüchern wird davon ausgegangen, dass Sie serverlose Berechnungen verwenden und Pakete auf Notizbuchebene installieren, um sicherzustellen, dass sie unabhängig von der Databricks-Runtime-Version ausgeführt werden.