Otimizar agentes para minimizar a latência

Este artigo compartilha algumas práticas importantes e ajuda a otimizar os agentes que dependem de informações de fontes externas, para reduzir o tempo de espera dos clientes durante as conversas.

Defina um atraso máximo de tempo limite para variáveis globais definidas externamente. Para agentes com variáveis globais configuradas para receber contexto de fontes externas, defina o valor de tempo limite opcional para que seus agentes não travem por mais tempo.

Deixe o usuário saber que o agente precisa de um momento. O agente não responder por mais de alguns segundos pode fazer o usuário se perguntar se o sistema está funcionando ou não. Considere enviar uma breve mensagem no início do tópico aplicável indicando que o agente está procurando informações. Desta forma, o usuário sabe que a operação pode demorar um pouco, e as coisas estão funcionando.

Minimize e otimize operações longas fora do agente. Chamar sistemas externos para procurar informações para personalizar uma solicitação pode proporcionar uma ótima experiência, mas também pode levar um tempo desconfortavelmente longo. Se essa personalização for necessária, certifique-se de que a chamada seja otimizada e que o sistema que está sendo chamado seja escalável.

Use nós de solicitação HTTP para solicitações rápidas. O uso de um fluxo Power Automate pode tornar possível concluir operações sofisticadas facilmente, no entanto, pode envolver uma sobrecarga considerável. Se você precisar apenas de uma única chamada de pesquisa off-box, o nó Solicitação HTTP pode ser uma opção mais leve para operações tão simples.

Para chamadas Power Automatic, use o painel Power Automate para revisar as durações das solicitações. O Copilot Studio não fornece informações sobre quanto tempo levam operações fora do agente, como chamadas Power Automatic. Portanto, pode ser difícil entender onde o tempo está sendo gasto. No Copilot Studio, essas chamadas off-box são síncronas, o que significa que nenhuma atividade adicional acontece na conversa até que um fluxo Power Automate seja concluído. Considere usar o painel Power Automate para seu fluxo. Este painel pode fornecer informações sobre as taxas de sucesso e falha das operações e quanto tempo elas demoram.