Hinweis
Für den Zugriff auf diese Seite ist eine Autorisierung erforderlich. Sie können versuchen, sich anzumelden oder das Verzeichnis zu wechseln.
Für den Zugriff auf diese Seite ist eine Autorisierung erforderlich. Sie können versuchen, das Verzeichnis zu wechseln.
Mosaik AI unterstützt sowohl einfache als auch komplexe GenAI-Anwendungen, von Retrieval Augmented Generation (RAG)-Chatbots bis hin zu Tool-Calling-Agents. In diesem Leitfaden werden wichtige Konzepte für GenAI-Apps und Agentsysteme auf Databricks erläutert und Anleitungen zum Erstellen, Bewerten und Skalieren von GenAI-Apps bereitgestellt.
| Seite | Description |
|---|---|
| Erste Schritte: No-Code GenAI | Probieren Sie AI Playground für UI-basierte Tests und Prototypen aus. |
| Erste Schritte: MLflow 3 für GenAI | Testen Sie MLflow für GenAI-Verfolgung, Auswertung und menschliches Feedback. |
| Konzepte: GenAI auf Databricks | Erfahren Sie mehr über GenAI-Modelle, Agents, Tools und Apps. |
| Plattform: Wichtige GenAI-Features | Hier finden Sie Details zu den wichtigsten Features von GenAI in Azure Databricks. |
Erste Schritte beim Erstellen von GenAI-Apps
Testen Sie UI-basierte und codebasierte GenAI auf Azure Databricks.
| Tutorial | Description |
|---|---|
| Erste Schritte: Abfragen von LLMs und Prototyp-KI-Agents ohne Code | Machen Sie sich mit AI Playground für UI-basierte Tests und Prototypen vertraut. |
| Erste Schritte: MLflow 3 für GenAI | Testen Sie MLflow für die GenAI-Ablaufverfolgung , -auswertung und das menschliche Feedback. |
| Erste Schritte beim Abfragen von LLMs auf Databricks | Verwenden Sie Foundation Model-APIs , um GenAI-Modelle mithilfe von Code abzufragen. |
Lernen Sie GenAI-Konzepte kennen
Machen Sie sich mit grundlegenden GenAI-Konzepten wie Modellen, Agents, Tools und Apps vertraut.
| Guide | Description |
|---|---|
| Konzepte: Generative KI auf Azure Databricks | Erfahren Sie mehr über GenAI-Modelle, Agents, Tools und Apps. |
| Wichtige Herausforderungen beim Erstellen von GenAI-Apps | Erfahren Sie mehr über die wichtigsten Herausforderungen von GenAI und wie Databricks sie behandelt. |
| Agentsystementwurfsmuster | Erfahren Sie mehr über Optionen und Kompromisse für Agentendesigns, von einfachen Ketten bis hin zu komplexen Multi-Agent-Systemen. |
Verwenden von Azure Databricks-Features zum Erstellen von GenAI-Apps
Bei No-Code- oder Low-Code-Ansätzen sollten Sie sich zunächst vertraut machen mit:
| Merkmal | Description |
|---|---|
| Agent Bricks | Erstellen und optimieren Sie domänenspezifische, qualitativ hochwertige KI-Agent-Systeme für häufige Anwendungsfälle. |
| KI-Spielplatz | Führen Sie Abfragen zu GenAI-Modellen und -Agenten durch, betreiben Sie Prompt Engineering und entwickeln Sie Prototypen für Werkzeugaufruf-Agenten in einer Benutzeroberfläche. |
| KI-Funktionen | Rufen Sie integrierte SQL-Funktionen für KI-Aufgaben auf. |
Machen Sie sich zunächst mit den folgenden Code-First-Ansätzen vertraut:
| Merkmal | Description |
|---|---|
| MLflow für GenAI | Verwenden Sie MLflow für Ablaufverfolgung und Observierbarkeit, Auswertung und Überwachung. |
| Grundlagenmodelle in Model Serving | Verwenden Sie GenAI-Modellendpunkte, einschließlich von Databricks gehosteten Foundation Models-APIs und externen Modellen. |
| Vektorsuche | Erstellen und Abfragen von Vektorindizes für RAG und andere Agent-Systeme. |
| Mosaik AI Agent Framework | Erstellen und Bereitstellen von KI-Agents mithilfe von Code. |
| KI-Gateway | Steuern und Überwachen des Zugriffs auf GenAI-Modelle und -Endpunkte. |
Eine detailliertere Liste finden Sie unter Mosaik KI-Funktionen für GenAI.
Allgemeine Intelligenz im Vergleich zu Datenintelligenz
- Allgemeine Intelligenz bezieht sich auf das, was die LLM inhärent von einer breiten Vorschulung auf vielfältigen Text weiß. Dies ist nützlich für Sprachflüssigkeit und allgemeines Denken.
- Datenintelligenz bezieht sich auf die domänenspezifischen Daten und APIs Ihrer Organisation. Dies kann Kundendatensätze, Produktinformationen, Wissensdatenbanken oder Dokumente umfassen, die Ihre einzigartige Geschäftsumgebung widerspiegeln.
Agentsysteme mischen diese beiden Wissensquellen: Sie beginnen mit dem breiten, generischen Wissen eines LLM und bringen dann Echtzeit- oder domänenspezifische Daten ein, um detaillierte Fragen zu beantworten oder spezielle Aktionen auszuführen. Mit Azure Databricks können Sie Datenintelligenz auf jeder Ebene in Ihre GenAI-Apps einbetten:
- Datenquellen wie Vektorindizes und Genie
- Agents, einschließlich benutzerdefinierter Agentendesigns und automatisierte Designs von Agent Bricks
- Auswertungsdaten und Metriken
- Eingabeaufforderungsoptimierung basierend auf Auswertungsdaten
- Modell-Feinabstimmung, einschließlich benutzerdefinierter Feinabstimmung und automatisierter Optimierung durch Agent Bricks
GenAI vs. ML vs. Deep Learning
Die Grenzen zwischen generativer künstlicher Intelligenz (GenAI), Machine Learning (ML) und Deep Learning (DL) können fuzzy sein. Dieser Leitfaden konzentriert sich auf GenAI, aber die folgenden Databricks-Plattformfeatures unterstützen ML, Deep Learning und GenAI:
- Model Serving unterstützt ML-, Deep Learning- und GenAI-Modelle. Sie können es für GenAI-Batchinferenz und zum Bereitstellen von Agenten oder fein abgestimmten Modellen mit benutzerdefinierter Modellbereitstellung verwenden.
- Serverlose GPU-Compute - und GPU-fähige Databricks-Runtime für Maschinelles Lernen können verwendet werden, um ML-, Deep Learning- und GenAI-Modelle zu trainieren und zu optimieren.
- MLflow Experiment Tracking kann verwendet werden, um klassische ML- und GenAI-Experimente und -Läufe zu verfolgen.
- Der Databricks Feature Store kann zum Verwalten und Bedienen strukturierter Daten für klassische ML und GenAI verwendet werden.