Estrategias de IA generativa para consultas matemáticas y de datos

Actualmente, hay distintas opiniones sobre cómo funcionan las herramientas como ChatGPT u otros modelos de lenguaje que controlan las consultas matemáticas y de datos. En este artículo, vamos a identificar estrategias y establecer expectativas al compilar agentes en Copilot Studio que controlan las consultas matemáticas y de datos.

Definiciones de consultas matemáticas y de datos en este artículo

El objetivo de este artículo no es evaluar si la inteligencia artificial generativa puede ayudar a calcular el perímetro de un rectángulo o el diámetro de un círculo. Matemáticas, en este contexto, hace referencia a preguntas típicas del lenguaje natural que alguien haría un agente. Estas preguntas asumen que la IA puede agregar e interpretar sumas, promedios y tendencias en las fuentes de conocimiento o tablas de datos utilizadas para fundamentar los modelos.

El resultado deseado, en este caso, no es responder a una ecuación matemática. En su lugar, es ayudar al usuario a evaluar o comprender los datos de forma más eficaz. Cuando los usuarios buscan análisis profundos de datos, como buscar análisis predictivos avanzados o prescriptivos, un agente personalizado no suele ser la herramienta que prefiera. Sin embargo, hay varios agentes en Microsoft Stack que se centran más directamente en el análisis. Por ejemplo, los siguientes agentes complementan el modelo de lenguaje con código de las aplicaciones de Microsoft para este propósito:

• Agregar Copilot para usuarios de aplicación en aplicaciones basadas en modelos
• Visualizar datos en una vista con el servicio Power BI
• Ventas Microsoft 365 Copilot
• Insertar un informe de Power BI con una imagen narrativa de Copilot
• Identificar información con Copilot en Excel

Agregados de datos en Comprensión del lenguaje natural

Cuando establecemos un agente en nuestras propias fuentes de conocimiento, simplificamos la detección de información solicitada por un usuario en lenguaje natural. Tenga en cuenta que los modelos de lenguaje están diseñados para predecir la siguiente palabra en una secuencia en lugar de realizar cálculos matemáticos rigurosos. Sin embargo, todavía pueden proporcionar información útil y explicaciones. Esta información es más rápida para el descubrimiento de información que examinar los resultados de búsqueda de palabras clave o desplazarse manualmente por todos los registros de una tabla.

Los agentes de Copilot Studio pueden examinar orígenes de conocimiento en nuestro nombre. Estos agentes resumen las respuestas en temas, herramientas y orígenes de conocimiento, independientemente de si implican agregados de datos numéricos o no. Sin embargo, a medida que basemos los modelos con nuestros datos, debemos contextualizar los datos necesarios para que la inteligencia artificial responda. En función de esta comprensión, sabemos cuándo debemos proporcionar más nodos de contexto o tema. Esta comprensión adicional es relevante cuando se encuentran términos de nicho o lenguaje altamente técnico en los orígenes de datos. A continuación se muestran ejemplos de consultas de datos que implican expresiones matemáticas:

Claridad de solicitud y estructura

Los modelos de lenguaje dependen en gran medida de la forma en que se frase la pregunta. Un aviso bien estructurado que explica claramente el problema matemático, define las variables y divide la tarea en pasos conduce a respuestas más precisas. Por ejemplo, pedir una respuesta directa a un problema aritmético simple probablemente funciona bien, pero es posible que las preguntas vagas o multicapa sin contexto claro confundan el modelo.

Estos son algunos mensajes de ejemplo basados en un origen de conocimiento estructurado, como una tabla de Dataverse. En este ejemplo se muestra la adición de una tabla de Dataverse de Power Apps, como se muestra en la imagen siguiente.

La tabla Dataverse se agregó como origen de conocimiento y se le dio una descripción precisa del conocimiento, junto con sinónimos y definiciones de glosario para ayudar a la inteligencia artificial a interpretar los datos.

Avisos específicos

Estas solicitudes son específicas y se limitan a la información que se solicita.

• "¿Puede proporcionar detalles completos sobre la referencia del pedido de cambio PCO-1003, incluido el nombre de la cuenta, la cantidad solicitada y el motivo de la solicitud?"
• "¿Cuántas cuentas enviaron solicitudes de cambio en agosto de 2024?"
• "¿Cuál es el número total de pedidos de cambio solicitados hasta la fecha?"
• "¿Qué cliente envió el mayor impacto en el costo en 2024?"

Indicaciones generalizadas

Estas indicaciones son generalizadas y es poco probable que agreguen todos los resultados de manera consistente, ya que probablemente solo devuelvan los tres primeros resultados.

• "Por favor, enumere nuestras cuentas en el orden de sus respectivos ingresos."
• "Por favor, enumere las solicitudes de cambio que se presentaron este año en agosto e incluya los importes y el estado de los cambios".
• "¿Puede enumerar todas las solicitudes de pedido de cambio enviadas a la fecha?"

Sugerencias y trucos

Estas son algunas sugerencias al trabajar con Copilot Studio que le ayudan a establecer expectativas en torno a respuestas generativas que dependen de expresiones matemáticas.

• Planee escenarios que resalte las principales tendencias, en lugar de esperar cálculos en miles de registros. Aumentar el conocimiento de este enfoque conversacional que resume en lugar de crear elementos, en su lugar.

• Favorece los orígenes de conocimiento estructurados (tabular sobre no tabulares) para optimizar las expresiones matemáticas.

• Admita escenarios específicos y comprenda las dependencias de las diferencias. Por ejemplo, tenga en cuenta la diferencia entre estas dos preguntas:

  • ¿Cuál de nuestros clientes presentó la mayor cantidad de solicitudes de cambio? Cuenta los identificadores de solicitud y devuelve al cliente la mayoría de las solicitudes: omitir otras columnas

  • ¿Cuál de nuestros clientes tiene el mayor impacto en el costo en las solicitudes de cambio? Suma la columna de impacto del costo por parte del cliente y devuelve el cliente que envió el importe total de dólar más alto. Solo devuelve esta información si encuentra una columna adecuada basada en valores numéricos o en moneda.

• Asegúrese de identificar y definir las columnas numéricas para los cálculos. Asegúrese de que tienen el formato con el tipo de datos adecuado; tanto en el nivel de origen de conocimiento como en cualquier variable de Copilot Studio. Cuando sea posible, incluya una descripción clara e incluya sinónimos comunes para las columnas pertinentes en las tablas, columnas o descripciones de herramientas.

  Propina

  Con la comprensión del lenguaje natural, si los encabezados de tabla son demasiado técnicos en su protocolo de nomenclatura, es posible que la inteligencia artificial no pueda responder a las preguntas centradas en el ser humano durante el flujo de conversación. Agregue descriptores con el lenguaje típico utilizado por sus usuarios.

• Reconozca que las personas solo obtienen respuestas sobre los datos que tienen permiso para ver. Por ejemplo, una tabla Ventas de Dataverse solo podría exponer algunos registros a grupos empresariales específicos, pero no a todos. Por lo tanto, asegúrese de que el agente no establezca las expectativas incorrectas sobre cómo se resumen los datos. Por ejemplo, una solicitud de ventas totales en 2024 solo suma los registros compartidos o propiedad.

• Establezca siempre las expectativas del consumidor para las respuestas controladas por IA. Utilice el inicio de la conversación del agente o el primer mensaje después de los desencadenadores de temas para resaltar suavemente el propósito y las restricciones de una o más fuentes de conocimiento relevantes.

Usar solicitudes como herramientas

Las Solicitudes le permiten agregar funcionalidades de inteligencia artificial generativa de Power Apps a sus agentes y soluciones en Copilot Studio. Esta característica le permite realizar tareas como clasificación, resumen, generación de borradores de contenido, transformación de datos y mucho más. Con las indicaciones, también puede personalizar las respuestas de IA generativas para usar filtros y agregaciones específicos de tablas.