Otimizar agentes para minimizar a latência

Este artigo compartilha algumas práticas-chave e ajuda você a otimizar agentes que dependem de informações de fontes externas para reduzir o tempo de espera dos clientes durante as conversas.

Defina um atraso máximo de tempo limite para variáveis globais definidas externamente. Para agentes com variáveis globais configuradas para receber contexto de fontes externas, defina o valor de tempo limite opcional para que seus agentes não fiquem travados por mais tempo.

Informe ao usuário que o agente precisa de um momento. O agente que não responde por mais de alguns segundos pode fazer o usuário se perguntar se o sistema está funcionando ou não. Considere enviar uma breve mensagem no início do tópico aplicável indicando que o agente está procurando informações. Dessa forma, o usuário sabe que a operação pode demorar um pouco e as coisas estão funcionando.

Minimizar e otimizar operações longas fora do agente. Chamar sistemas externos para pesquisar informações para personalizar uma solicitação pode fazer uma ótima experiência, mas também pode levar muito tempo. Se essa personalização for necessária, verifique se a chamada está otimizada e se o sistema que está sendo chamado é escalonável.

Use nós de solicitação HTTP para solicitações rápidas. O uso de um fluxo do Power Automate pode tornar possível concluir operações sofisticadas facilmente, no entanto, pode envolver uma sobrecarga considerável. Se você precisar apenas de uma única chamada de pesquisa off-box, o nó solicitação HTTP poderá ser uma opção mais leve para operações simples.

Para chamadas do Power Automate, use o painel do Power Automate para examinar as durações da solicitação. O Copilot Studio não fornece insights sobre quanto tempo as operações fora do agente, como chamadas do Power Automate, levam. Portanto, pode ser difícil entender onde o tempo está sendo gasto. No Copilot Studio, essas chamadas off-box são síncronas, o que significa que nenhuma atividade adicional acontece na conversa até que um fluxo do Power Automate seja concluído. Considere usar o painel do Power Automate para seu fluxo. Esse painel pode fornecer insights sobre as taxas de êxito e falha das operações e quanto tempo elas levam.