Compartir a través de

Conceptos: IA generativa en Azure Databricks

Una aplicación genAI es una aplicación que usa modelos de IA generativos (como modelos de lenguaje grande, modelos de generación de imágenes y modelos de texto a voz) para crear nuevas salidas, automatizar tareas complejas o interactuar con interacciones inteligentes basadas en la entrada del usuario.

Una aplicación GenAI se puede potenciar con llamadas sencillas a grandes modelos de lenguaje u otros modelos de GenAI, o con agentes complejos de IA. Obtenga más información sobre los niveles de complejidad.

Los agentes, las herramientas, la evaluación, los modelos y otros aspectos de las aplicaciones de GenAI se pueden personalizar con sus datos propietarios. Esta personalización controlada por datos conduce a la inteligencia de datos, lo que le permite ir más allá de la inteligencia general que ofrecen los modelos de inteligencia artificial cannada.

Aplicaciones de GenAI

Una aplicación de GenAI orientada al usuario puede adoptar muchas formas, como:

El éxito con las aplicaciones de GenAI a menudo requiere dos conjuntos de aptitudes: desarrollo de aplicaciones y evaluación de IA. El desarrollo de aplicaciones de GenAI es muy similar al desarrollo de aplicaciones que no son de IA, lo que requiere aptitudes de software que dependen del tipo de aplicación. Sin embargo, la evaluación de las aplicaciones de GenAI requiere herramientas y técnicas especializadas para controlar la complejidad y las respuestas abiertas de GenAI.

Para más información sobre la creación de aplicaciones genAI específicas del sector en Azure Databricks, consulte:

Evaluación de GenAI

Los modelos, agentes y aplicaciones de GenAI suelen tener un comportamiento complejo y abierto. Se puede permitir que los usuarios escriban cualquier consulta. Se puede permitir que un agente de IA recopile texto, imágenes y mucho más durante la ejecución. La salida puede ser texto arbitrario, imágenes u otros medios, y puede haber muchas respuestas "buenas".

Estas complicaciones dificultan la evaluación de GenAI. La evaluación adecuada requiere:

  • Automatización mediante IA para evaluar la inteligencia artificial
  • Comentarios humanos de expertos y usuarios para recopilar la verdad y calibrar la evaluación automatizada
  • Profundización en agentes complejos para comprender y depurar el comportamiento

Azure Databricks-managed MLflow y las herramientas relacionadas proporcionan las bases para la evaluación de GenAI:

Agents

Un sistema de agente o agente es un sistema impulsado por IA que es capaz de percibir, decidir y actuar de manera autónoma en un entorno para lograr objetivos. A diferencia de un modelo genAI independiente que solo genera una salida cuando se le solicita, un sistema de agente posee un grado de agencia. Los agentes de inteligencia artificial modernos usan un modelo genAI como el "cerebro" de un sistema que:

  1. Recibe solicitudes de usuario o mensajes de otro agente.
  2. Razones sobre cómo proceder: qué datos se van a recopilar, qué lógica se va a aplicar, qué herramientas se deben utilizar o si se debe solicitar más información del usuario.
  3. Ejecuta un plan y posiblemente llama a varias herramientas o delega a subagentes.
  4. Devuelve una respuesta o solicita al usuario una aclaración adicional.

Al poner en puente la inteligencia general (las funcionalidades preentrenadas del modelo de GenAI) y la inteligencia de datos (el conocimiento especializado y las API específicas de su negocio), los sistemas de agentes permiten casos de uso empresariales de alto impacto, como flujos avanzados de servicio al cliente, bots de análisis enriquecidos y orquestación multiagente para tareas operativas complejas.

Hay un continuo de modelos Gen AI simples a agentes complejos. Para más información, consulte Patrones de diseño del sistema del agente.

Azure Databricks proporciona una variedad de opciones para crear agentes, desde una guía completa a una personalizada:

  • Agent Bricks proporciona generadores de agentes guiados para aplicaciones clave como asistentes de conocimiento y extracción de información.
  • AI Playground proporciona una interfaz de usuario para crear prototipos de agentes de llamada a herramientas, desde los que puede exportar el código del agente generado.
  • Agent Framework permite compilar e implementar agentes mediante código personalizado o bibliotecas de creación de agentes de terceros.

Herramientas

Los agentes de inteligencia artificial pueden llamar a herramientas para recopilar información o realizar acciones. Las herramientas son funciones de interacción única que un LLM puede invocar para realizar una tarea bien definida. El modelo de IA normalmente genera parámetros para cada llamada de herramienta y la herramienta proporciona una interacción directa de entrada y salida.

Entre las categorías de herramientas comunes se incluyen:

  • Herramientas que recuperan o analizan datos
    • Recuperación semántica: consulte un índice vectorial para buscar texto relevante u otros datos no estructurados.
    • Recuperación estructurada: ejecute consultas SQL o use API para recuperar información estructurada.
    • Herramienta de búsqueda web: busque Internet o un corpus web interno.
    • Modelos clásicos de ML: invoque modelos de aprendizaje automático para realizar clasificaciones, regresiones u otras predicciones.
    • GenAI models: generan resultados especializados como código o imágenes.
  • Herramientas que modifican el estado de un sistema externo
    • Llamada API: llame a puntos de conexión de CRM, servicios internos u otras integraciones de terceros.
    • Integración de aplicaciones de correo electrónico o mensajería: publique un mensaje o envíe una notificación.
  • Herramientas que ejecutan lógica o realizan una tarea específica
    • Ejecución de código: Ejecutar código proporcionado por el usuario o generado por un LLM (Modelo de Lenguaje de Gran Escala) en un espacio aislado.

Las herramientas se pueden integrar en lógica agente o acceder a ellas mediante interfaces estandarizadas como MCP.

Herramientas frente a agentes:

  • Las herramientas realizan una única operación bien definida. Los agentes pueden realizar tareas más abiertas.
  • Por lo general, las herramientas no tienen estado y no mantienen el contexto continuo más allá de cada invocación. Los agentes mantienen el estado a medida que resuelven tareas de forma iterativa.

Control y seguridad de errores de herramientas:

Dado que cada llamada a herramienta es una operación externa, como una llamada API, el sistema debe controlar los errores correctamente. Los tiempos de espera, las respuestas con formato incorrecto o las entradas no válidas no deben hacer que el propio agente produzca un error por completo. En producción, limite el número de llamadas a herramientas permitidas, tenga una respuesta de reserva si se produce un error en las llamadas a herramientas y establezca barreras de seguridad para asegurarse de que el sistema del agente no intente repetidamente la misma acción fallida.

Obtenga más información sobre las herramientas de inteligencia artificial en Databricks:

Modelos y LLM de GenAI

Los modelos de lenguaje grande (LLM) son modelos de inteligencia artificial entrenados en conjuntos de datos de texto masivos que pueden comprender, generar y razonar sobre el lenguaje humano. Los LLMs potencian aplicaciones como bots de chat, asistentes de código y herramientas de generación de contenido mediante la predicción y producción de texto contextualmente relevante en función de las solicitudes de entrada.

Por lo general, los modelos genAI o los modelos fundamentales se entrenan en texto masivo, imagen, vídeo, audio u otros datos para obtener información sobre los modos más allá del texto. Los modelos multimodales aprenden a conectar el lenguaje humano con imágenes, audio y otros medios. Las LLM son un tipo de modelo genAI o de base, aunque estos términos a menudo se usan de forma flexible e intercambiable.

Los modelos de GenAI proporcionan la inteligencia detrás de los agentes y aplicaciones de GenAI. Las aplicaciones sencillas suelen crearse con un único modelo personalizado con ingeniería de indicaciones.

Obtenga información sobre el uso de modelos de GenAI en Azure Databricks:

Ingeniería rápida

Por lo general, los modelos de GenAI toman indicaciones o instrucciones que indican al modelo cómo controlar la entrada del usuario. Las indicaciones se pueden personalizar en gran medida con pasos detallados, conocimientos expertos, datos y otra información.

Azure Databricks proporciona maneras flexibles de realizar ingeniería rápida. Por ejemplo:

  • Agent Bricks automatiza la ingeniería de prompts internamente, basándose en tus datos y comentarios.

Ajuste de modelos

Los modelos de GenAI también se pueden personalizar mediante el ajuste fino, que adapta un modelo a un dominio o una aplicación específicos usando tus datos personalizados.

Azure Databricks proporciona maneras flexibles de ajustar modelos. Por ejemplo:

¿Qué es una plataforma genAI?

GenAI requiere una plataforma combinada de datos e inteligencia artificial. Para los desarrolladores y administradores, los componentes clave de GenAI deben estar conectados y regidos en una plataforma sencilla y unificada.

Los componentes clave incluyen:

  • Recursos de inteligencia artificial, como modelos, agentes y aplicaciones
  • Recursos de datos como archivos, tablas, canalizaciones de procesamiento, índices vectoriales y almacenes de características
  • Implementaciones de inteligencia artificial como puntos de conexión para modelos y agentes
  • Herramientas para compilar e implementar recursos de inteligencia artificial y datos

Entre las funcionalidades clave de gobernanza se incluyen:

Consulte también Capacidades de IA de Mosaic para GenAI y la arquitectura de Databricks.

Aprende más

  • Last updated on