Freigeben über


Erstellen von KI-Apps der Generation auf Azure Databricks

Diese Seite enthält eine Übersicht über die Tools zum Entwickeln von generativen KI-Apps in Azure Databricks, einschließlich Erstellen, Bereitstellen und Verwalten von generativen KI-Apps.

Gen-KI-Modelle bereitstellen und abfragen

Stellen Sie eine kuratierte Reihe von KI-Modellen der Generation von LLM-Anbietern wie OpenAI und Anthropic bereit und stellen Sie sie über sichere, skalierbare APIs zur Verfügung.

Feature Description
Foundation Models Stellen Sie generative KI-Modelle bereit, einschließlich Open-Source- und Drittanbietermodelle wie Meta Llama, Anthropic Claude, OpenAI GPT und weitere.

Erstellen von KI-Agents auf Unternehmensniveau

Entwickeln und setzen Sie Ihre eigenen Agenten ein, einschließlich Agenten, die Werkzeuge aufrufen, Retrieval-Augmented-Generation-Apps und Multi-Agenten-Systeme.

Feature Description
AI Playground (kein Code) Prototyp und testet KI-Agenten in einer No-Code-Umgebung. Experimentieren Sie schnell mit Agentverhalten und Toolintegrationen, bevor Sie Code für die Bereitstellung generieren.
Mosaik AI Agent Framework Erstellen, Bereitstellen und Auswerten von Agents in Python. Unterstützt Agenten, die mit jeder Programmbibliothek geschrieben wurden, einschließlich LangChain, LangGraph und Agenten in reinem Python-Code. Unterstützt Unity-Katalog für Governance und MLflow zur Nachverfolgung.
Agent-Ziegel Erstellen und optimieren Sie domänenspezifische KI-Agent-Systeme mit einer einfachen Schnittstelle. Konzentrieren Sie sich auf Ihre Daten und Metriken, während Agent Bricks die Implementierung optimiert.

Bewerten, Debuggen und Optimieren von Agents

Verfolgen Sie die Leistung von Agenten, sammeln Sie Feedback und treiben Sie Qualitätsverbesserungen mit Evaluierungs- und Tracking-Tools voran.

Feature Description
Agent-Auswertung Verwenden Sie agent Evaluation und MLflow, um Qualität, Kosten und Latenz zu messen. Sammeln Sie Feedback von Projektbeteiligten und Fachexperten über integrierte Prüf-Apps und verwenden Sie LLM-Richter, um Qualitätsprobleme zu identifizieren und zu beheben.
MLflow-Ablaufverfolgung Verwenden Sie MLflow Tracking für End-to-End-Beobachtbarkeit. Protokollieren Sie jeden Schritt, den Ihr Agent unternimmt, und vereinfachen Sie das Debuggen, Überwachen und Auditieren des Agent-Verhaltens in der Entwicklung und Produktion.

Produzieren von KI-Agents

Implementierung und Verwaltung von Agents in der Produktion mit integrierten skalierbaren Endpunkten, Überwachbarkeit und Governance.

Task Description
Protokollieren und Registrieren von Agenten Protokollieren Sie Agent-Code, Konfigurationen und Artefakte im Unity-Katalog, um Governance und Lebenszyklusverwaltung sicherzustellen.
Bereitstellen von Agents Stellen Sie Agents als verwaltete, skalierbare Endpunkte bereit.
Überwachen von Agents Verwenden Sie dieselbe Auswertungskonfiguration (LLM-Richter und benutzerdefinierte Metriken) in der Offlineauswertung und Onlineüberwachung.