Estratégias de IA generativa para consultas matemáticas e de dados

Atualmente, existem opiniões divergentes sobre a forma como ferramentas como o ChatGPT ou outros modelos de linguagem processam consultas matemáticas e de dados. Neste artigo, vamos identificar estratégias e definir expectativas ao construir agentes no Copilot Studio que processam consultas matemáticas e de dados.

Definições de consultas matemáticas e de dados neste artigo

O objetivo deste artigo não é avaliar se a IA generativa pode ajudar a calcular o perímetro de um retângulo ou o diâmetro de um círculo. A matemática, neste contexto, refere-se a perguntas típicas de linguagem natural que alguém faria a um agente. Estas perguntas assumem que a IA pode agregar e interpretar somas, médias e tendências através das fontes de conhecimento ou tabelas de dados usadas para fundamentar os modelos.

O resultado desejado, neste caso, não é responder a uma equação matemática. Em vez disso, serve para ajudar o utilizador a avaliar ou compreender os dados de forma mais eficiente. Quando os utilizadores procuram análises de dados profundas, como análises preditivas ou prescritivas avançadas, um agente personalizado normalmente não é a ferramenta de eleição. No entanto, existem vários agentes no Microsoft Stack que estão mais diretamente focados na análise. Por exemplo, os seguintes agentes complementam o modelo de linguagem com código de aplicação Microsoft para este fim:

• Adicionar o Copilot para utilizadores da aplicação em aplicações condicionadas por modelo
• Visualizar dados numa vista com o serviço Power BI
• Sales no Microsoft 365 Copilot
• Incorpore um relatório do Power BI com um visual narrativo do Copilot
• Identificar informações com o Copilot no Excel

Agregados de dados na Compreensão de Linguagem Natural

Quando baseamos um agente nas nossas próprias fontes de conhecimento, estamos a simplificar a descoberta de informações pedidas por um utilizador em linguagem natural. Tenha em mente que os modelos de linguagem são concebidos para prever a próxima palavra numa sequência, em vez de realizar cálculos rigorosos. No entanto, ainda podem fornecer informações e explicações úteis. Estas informações são mais rápidas para a descoberta de informação do que navegar por resultados de pesquisa por palavras-chave ou percorrer manualmente todos os registos numa tabela.

Os agentes do Copilot Studio podem analisar fontes de conhecimento em nosso nome. Estes agentes resumem respostas em vários tópicos, ferramentas e fontes de conhecimento, quer envolvam agregados de dados numéricos ou não. No entanto, ao fundamentarmos os modelos com os nossos dados, temos de contextualizar os dados necessários para que a IA responda. Com base nesta compreensão, sabemos quando devemos fornecer mais contexto ou nós do tópico. Esta compreensão extra é relevante quando se encontram termos de nicho ou linguagem altamente técnica nas origens de dados. Seguem-se exemplos de consultas de dados que envolvem expressões matemáticas:

Clareza e estrutura do pedido

Os modelos de linguagem dependem muito da forma como a pergunta é formulada. Um pedido bem estruturado que explica claramente o problema matemático, define variáveis e divide a tarefa em passos conduz a respostas mais precisas. Por exemplo, pedir uma resposta direta a um problema aritmético simples provavelmente funciona bem, mas perguntas vagas ou com várias camadas sem contexto claro podem confundir o modelo.

Aqui estão alguns pedidos de exemplo baseados numa fonte de conhecimento estruturada, como uma tabela Dataverse. Este exemplo ilustra a adição de uma tabela Power Apps Dataverse, como mostrado na imagem seguinte.

A tabela Dataverse foi adicionada como fonte de conhecimento e recebeu uma descrição precisa do conhecimento, juntamente com sinónimos e definições de glossário para ajudar a IA a interpretar os dados.

Pedidos específicos

Estes pedidos são específicos e têm o âmbito da informação solicitada.

• "Pode fornecer todos os detalhes sobre a referência da ordem de alteração PCO-1003, incluindo nome da conta, montante solicitado e motivo do pedido?"
• "Quantas contas submeteram pedidos de alteração em agosto de 2024?"
• "Qual é o número total de ordens de alteração solicitadas até à data?"
• "Que cliente apresentou o maior impacto de custos em 2024?"

Pedidos generalizados

Estes pedidos são generalizados e dificilmente agregam consistentemente todos os resultados, provavelmente devolvendo apenas os três primeiros resultados.

• "Por favor, liste as nossas contas pela ordem das respetivas receitas."
• "Por favor, liste os pedidos de alteração que foram submetidos este ano, em agosto, e inclua os montantes e o estado das alterações."
• "Pode listar todos os pedidos de alterações submetidos até à data?"

Sugestões e truques

Aqui ficam algumas sugestões ao trabalhar com o Copilot Studio que o ajudam a definir expectativas em torno de respostas generativas que dependem de expressões matemáticas.

• Planeie cenários que destaquem as principais tendências, em vez de esperar cálculos sobre milhares de registos. Aumente a consciencialização para esta abordagem conversacional que resume em vez de detalhar, em vez disso.

• Favoreça fontes de conhecimento estruturadas (tabulares em vez de não tabulares) para otimizar expressões matemáticas.

• Apoiar cenários específicos e compreender as dependências das diferenças. Por exemplo, note a diferença entre estas duas perguntas:

  • Qual dos nossos clientes submeteu mais pedidos de alteração? Conta IDs de pedidos e devolve o cliente com mais pedidos – ignorando outras colunas

  • Qual dos nossos clientes tem maior impacto de custos em termos de pedidos de alteração? Soma a coluna de impacto de custos por cliente e devolve o cliente que submeteu o montante total em dólares mais elevado. Só devolve esta informação se encontrar uma coluna apropriada que seja numérica ou baseada em moeda.

• Não se esqueça de identificar e definir quaisquer colunas numéricas para cálculos. Certifique-se de que estão formatados com o tipo de dado apropriado; tanto ao nível da fonte de conhecimento, como quando usado em quaisquer variáveis do Copilot Studio. Sempre que possível, inclua uma descrição clara e sinónimos comuns para as colunas relevantes nas tabelas, colunas ou descrições de ferramentas.

  Sugestão

  Com a compreensão da linguagem natural, se os cabeçalhos das tabelas forem demasiado técnicos no protocolo de nomenclatura, a IA pode não conseguir responder às perguntas centradas no ser humano feitas durante o fluxo da conversação. Adicione descritores com a verbosidade típica usada pelos seus utilizadores.

• Reconheça que as pessoas só obtêm respostas através dos dados que lhes é permitido ver. Por exemplo, uma tabela de Vendas no Dataverse pode expor apenas alguns registos a grupos de negócio específicos, mas não a todos. Por isso, certifique-se de que o seu agente não define expectativas erradas sobre como os dados são resumidos. Por exemplo, um pedido de vendas totais em 2024 apenas soma os registos detidos ou partilhados.

• Defina sempre as expectativas do consumidor para respostas baseadas em IA. Use o Início de conversação do agente ou a primeira mensagem após os acionadores do tópico, para destacar ligeiramente o propósito e as restrições de uma ou mais fontes de conhecimento relevantes.

Utilizar pedidos como ferramentas

Os pedidos permitem-lhe adicionar capacidades de IA generativa do Power Apps aos seus agentes e soluções no Copilot Studio. Esta funcionalidade permite-lhe realizar tarefas como classificação, resumo, geração de conteúdo de rascunho, transformação de dados e muito mais. Com pedidos, também pode adaptar respostas de IA generativa para usar filtros e agregações específicas de tabelas.