Nota
O acesso a esta página requer autorização. Podes tentar iniciar sessão ou mudar de diretório.
O acesso a esta página requer autorização. Podes tentar mudar de diretório.
[Este artigo é uma documentação de pré-lançamento e está sujeito a alterações.]
A funcionalidade de supervisão humana permite que a ferramenta de utilização do computador escale o problema para o revisor que configurar nas definições de Supervisão humana quando detetar possíveis preocupações de segurança, atualmente dentro da categoria instruções maliciosas.
Nota
Esta funcionalidade está a ser implementada gradualmente em ambientes do ciclo de lançamento antecipado na região dos Estados Unidos e pode ainda não estar disponível no seu ambiente.
Importante
Este artigo contém documentação de pré-visualização do Microsoft Copilot Studio e está sujeito a alterações.
As funcionalidades de pré-visualização não se destinam à produção e poderão ter caraterísticas restritas. Estas funcionalidades estão disponíveis antes de uma versão oficial para que possa aceder antecipadamente e enviar comentários.
Se está a criar um agente pronto para produção, consulte Descrição Geral do Microsoft Copilot Studio.
O modelo de IA realiza a deteção avaliando imagens de capturas de ecrã em busca de conteúdo adverso que possa alterar o comportamento do modelo. Quando o modelo sinaliza estas instruções durante a execução (o que antes provocava uma paragem imediata), agora encaminha o pedido para um ser humano para validação. O revisor humano decide se o problema de segurança sinalizado é genuíno e deve parar a execução, ou se o modelo o sinalizou incorretamente e o processo pode continuar em segurança. Nestes casos, o sistema envia um pedido de revisão aos revisores humanos configurados por e-mail (Outlook). Caso não haja resposta dentro do período de tempo limite especificado, a execução do programa de utilização do computador será interrompida assim que esse limite de tempo for atingido.
Importante
- Os agentes que utilizam computadores podem deparar-se com avisos de ataque de injeção, nos quais instruções ocultas em capturas de ecrã, páginas Web ou outras entradas tentam influenciar ações de formas não intencionais. Para minimizar este risco, opere estes agentes em ambientes fiáveis e isolados e aplique verificações de validação robustas antes de executar quaisquer instruções. A ativação da supervisão humana acrescenta visibilidade e controlo extra, permitindo que os revisores humanos autorizados validem as ações sinalizadas quando o modelo deteta instruções potencialmente prejudiciais ou maliciosas, o que pode reduzir a probabilidade de comportamentos indesejados.
- As verificações de segurança realizadas pelo agente de utilização do computador podem ser acionadas por uma única resposta, entrada ou captura de ecrã, ou por múltiplos elementos deste contexto. As verificações de segurança têm como objetivo estimular a revisão humana antes que ações potencialmente irreversíveis ou não permitidas sejam executadas pelo agente de utilização do computador, mas o agente de utilização do computador pode cometer erros ao realizar as verificações. Por exemplo, o agente de utilização do computador pode não detetar determinadas ações ou pode solicitar a revisão quando a segurança não é uma preocupação. As verificações de segurança não substituem o design responsável e a orientação do agente.
- A funcionalidade de supervisão humana solicita a revisão de ações potencialmente irreversíveis ou não permitidas, mas atualmente não suporta pedidos gerais de confirmação, avisos de informações em falta ou outros tipos de verificações de segurança.
Rever atividade de utilização do computador e do agente
Quando o agente de utilização do computador deteta instruções potencialmente maliciosas ou prejudiciais, os revisores configurados recebem um e-mail do Outlook. Antes de responder, é fundamental confirmar qual a atividade do agente que está a ser realizada e a que atividade de utilização do computador se refere o pedido.
Nota
Cada execução do agente e a sua atividade estão ligadas ao utilizador que a inicia. Se escolher um revisor diferente da pessoa que executa o agente de utilização do computador, é provável que não veja a atividade, uma vez que não foi ele quem iniciou a execução. Se configurar vários revisores humanos, cada um receberá um e-mail, mas apenas quem iniciou a execução terá acesso aos detalhes da atividade.
A tabela seguinte mostra as principais informações incluídas num pedido de revisão humana por e-mail:
| Campo | Descrição |
|---|---|
| Agente que utiliza a ferramenta | O nome do agente do Copilot Studio. |
| Ferramenta de utilização do computador | O nome da ferramenta de utilização do computador que acionou o pedido. |
| ID da Conversa | O ID da conversa que pode utilizar para encontrar uma determinada atividade. |
| Tempo limite do pedido | A data e hora do limite de tempo do pedido. |
| Pedido por | O criador (proprietário da ligação) da ferramenta de utilização do computador. |
| Submeter (com opções) | A decisão Sim ou Não do revisor final para prosseguir ou parar a execução da utilização do computador. |
Rever pedidos de revisão humana para utilização do computador
Nota
Para rever os pedidos de revisão humana no painel lateral de ação de utilização do computador no mapa de atividade do agente, precisa de ativar a funcionalidade Atividade avançada de utilização do computador no seu ambiente. Se a experiência da atividade avançada de utilização do computador não aparecer no mapa de atividades, o seu administrador pode ter desativado esta funcionalidade para o seu ambiente. Saiba mais em atividades avançadas de utilização do computador.
Para rever pedidos de revisão humana:
- Copie o ID da Conversa da (GUID) do corpo do e-mail de pedido de revisão humana.
- Selecione a ligação Agente que utiliza a ferramenta no e-mail para abrir a página de descrição geral do agente no Microsoft Copilot Studio.
- Aceda a Atividades.
- Na parte superior da lista de atividades, selecione Procurar execução por ID e introduza o ID da conversa copiado.
- Localize a ação de utilização do computador com o nome da ferramenta de utilização do computador configurada e abra o painel lateral correspondente.
- Na secção Atividade do painel lateral, reveja a lista de atividades. As atividades que aguardam revisão humana apresentam um símbolo de espera junto ao texto da resposta do modelo. As verificações de segurança realizadas pelo agente de utilização do computador podem ser acionadas por uma única resposta, entrada ou captura de ecrã, ou por múltiplos elementos deste contexto. Consequentemente, a captura de ecrã apresentada num pedido de revisão humana pode não conter, por si só, qualquer conteúdo potencialmente malicioso.
- Analise cuidadosamente o histórico de atividades e as capturas de ecrã para determinar se a verificação de segurança do modelo de utilização do computador é válida.
- Quando concluir, volte à notificação por e-mail no Outlook e tome as medidas adequadas com base nas suas conclusões.