Partager via


Créer des applications IA gen sur Azure Databricks

Cette page est une vue d’ensemble des outils disponibles pour le développement d’applications IA génératives sur Azure Databricks, notamment la création, le déploiement et la gestion d’applications IA génératives.

Servir et interroger des modèles d'IA générative

Servez un ensemble organisé de modèles IA de génération provenant de fournisseurs LLM tels qu’OpenAI et Anthropic et les rendent disponibles via des API sécurisées et évolutives.

Feature Description
Modèles de base Servir des modèles d'IA générative, notamment des modèles open source et tiers tels que Meta Llama, Anthropic Claude, OpenAI GPT, etc.

Créer des agents IA de qualité professionnelle

Créez et déployez vos propres agents, notamment les agents de gestion des outils, les applications de génération augmentée par la récupération et les systèmes multi-agents.

Feature Description
AI Playground (sans code) Prototyper et tester des agents IA dans un environnement sans code. Expérimentez rapidement les comportements de l’agent et les intégrations d’outils avant de générer du code pour le déploiement.
Cadre de l’assistant IA de Mosaic Créer, déployer et évaluer des agents en Python. Prend en charge les agents écrits avec n’importe quelle bibliothèque de création, notamment LangChain, LangGraph et les agents de code Python purs. Prend en charge le catalogue Unity pour la gouvernance et MLflow pour le suivi.
Briques de l’agent Créez et optimisez des systèmes d’agent IA spécifiques au domaine avec une interface simple. Concentrez-vous sur vos données et métriques, tandis que Agent Bricks simplifie l’implémentation.

Évaluer, déboguer et optimiser les agents

Suivez les performances de l’agent, collectez des commentaires et apportez des améliorations de qualité avec les outils d’évaluation et de suivi.

Feature Description
Évaluation de l’agent Utilisez l’évaluation de l’agent et MLflow pour mesurer la qualité, le coût et la latence. Recueillez des commentaires des parties prenantes et des experts en matière par le biais d’applications intégrées de révision et utilisez les juges LLM pour identifier et résoudre les problèmes de qualité.
Suivi MLflow Utilisez le suivi MLflow pour l’observabilité de bout en bout. Journalisez chaque étape que votre agent prend, ce qui facilite le débogage, la surveillance et l’audit du comportement de l’agent dans le développement et la production.

Mise en production des agents IA

Déployez et gérez des agents en production avec des points de terminaison évolutifs, une observabilité et une gouvernance intégrés.

Task Description
Journaliser et inscrire des agents Enregistrez le code de l'agent de log, la configuration et les artefacts dans Unity Catalog pour la gouvernance et la gestion du cycle de vie.
Déployer des agents Déployez des agents en tant que points de terminaison managés et évolutifs.
Surveiller les agents Utilisez la même configuration d’évaluation (juges LLM et métriques personnalisées) dans l’évaluation hors connexion et la surveillance en ligne.