Compartilhar via


Criar aplicativos de IA generativos usando o DSPy no Azure Databricks

Este artigo descreve o DSPy e fornece notebooks de exemplo que demonstram como usar o DSPy no Azure Databricks para criar e otimizar agentes de IA generativos.

O que é DSPy?

O DSPy é uma estrutura para definir e otimizar programaticamente agentes de IA generativos. O DSPy pode automatizar a engenharia de prompts e orquestrar o ajuste de LLM para melhorar o desempenho.

O DSPy consiste em vários componentes que simplificam o desenvolvimento de agentes e melhoram a qualidade do agente:

  • Módulos: no DSPy, são componentes que lidam com transformações de texto específicas, como responder perguntas ou resumir. Eles substituem prompts tradicionais escritos à mão e podem aprender com exemplos, tornando-os mais adaptáveis.
  • Assinaturas: uma descrição de linguagem natural do comportamento de entrada e saída de um módulo. Por exemplo, "pergunta -> resposta" especifica que o módulo deve fazer uma pergunta como entrada e retornar uma resposta.
  • Compilador: essa é a ferramenta de otimização do DSPy. Ele melhora os pipelines de LM ajustando os módulos para atender a uma métrica de desempenho, gerando melhores prompts ou realizando ajuste fino de modelos.
  • Programa (DSPy): um conjunto de módulos conectados a um pipeline para executar tarefas complexas. Os programas DSPy são flexíveis, permitindo que você os otimize e adapte-os usando o compilador.

Criar um programa DSPy de classificador de texto

O notebook a seguir mostra como criar um programa DSPy que executa a classificação de texto. Este exemplo demonstra como o DSPy funciona e os componentes que ele usa.

Criar um notebook do programa DSPy classificador de texto

Obter laptop

Usar um índice de pesquisa de vetor com um programa DSPy para RAG

O notebook a seguir mostra como criar um índice de pesquisa de vetor e usá-lo com um programa DSPy que executa o RAG.

Criar um notebook do programa DSPy classificador de texto

Obter laptop

Sistema multi-agente com Genie e DSPy

O notebook a seguir mostra como criar um sistema de vários agentes que orquestra esses tipos de agentes:

  • Espaços Genie
  • Agentes implantados no Model Serving
  • Agentes de chamada de função UC criados usando DSPy.

Vários agentes usando o Genie e o DSPy

Obter laptop

Criar um programa DSPy para RAG

Esses notebooks mostram como criar e otimizar um programa RAG básico usando o DSPy. Esses notebooks pressupõem que você esteja usando a computação sem servidor e instalam pacotes no nível do notebook para garantir que eles sejam executados independentemente da versão do Databricks Runtime.

Parte 1: Preparar dados e índice de pesquisa de vetores para um notebook de programa RAG DSPy

Obter laptop

Parte 2: Criar e otimizar um programa DSPy para o notebook RAG

Obter laptop

Migrar o LangChain para o DSPy

Esses notebooks mostram como migrar o código do modelo LangChain para o DSPy e otimize-o para melhor desempenho. Esses notebooks pressupõem que você esteja usando a computação sem servidor e instalam pacotes no nível do notebook para garantir que eles sejam executados independentemente da versão do Databricks Runtime.

Migrar o código do modelo LangChain para o notebook DSPy

Obter laptop

Otimize o notebook do modelo DSPy migrado.

Obter laptop