Determinar confiança, rastreabilidade e transparência

A confiança, rastreabilidade e transparência ajudam a garantir que os sistemas de agentes cumprem princípios responsáveis de IA, mantenham operações auditáveis e proporcionem uma visibilidade clara sobre os processos de gestão e tomada de decisão dos dados. Este artigo estabelece as bases para implementações de agentes seguras, compatíveis e responsáveis em ambientes empresariais.

• A Trust assegura que os agentes seguem princípios responsáveis de IA, cumprem regulamentos e mantêm a segurança dos dados em todas as operações.
• A rastreabilidade exige que todas as ações e decisões sejam claras e revisíveis, permitindo aos utilizadores compreender e auditar as operações dos agentes de forma abrangente.
• A transparência garante que utilizadores e administradores compreendem as localizações de armazenamento de dados e os padrões de utilização e podem verificar as fontes de informação de forma consistente.

Mecanismos de transparência

Os mecanismos de transparência garantem que utilizadores e administradores mantenham a visibilidade sobre as operações dos agentes, o tratamento de dados e os processos de tomada de decisão. Estes mecanismos incluem registo de auditorias, sourcing de respostas e comunicação clara sobre as capacidades e limitações dos agentes.

A transparência eficaz exige que os agentes forneçam atribuição clara às fontes de informação, expliquem processos de raciocínio quando apropriado e mantenham registos abrangentes de todas as operações para fins de conformidade e resolução de problemas.

Monitorização contínua e conformidade

Confiança, rastreabilidade e transparência exigem monitorização e avaliação contínuas para garantir que os agentes continuam a operar dentro dos limites estabelecidos de segurança e conformidade. Este requisito inclui avaliações regulares de segurança, auditorias de conformidade e recolha de feedback dos utilizadores para identificar potenciais problemas antes que afetem as operações.

Os sistemas de monitorização devem monitorizar o desempenho dos agentes, os eventos de segurança, a satisfação dos utilizadores e métricas de conformidade para proporcionar uma visibilidade abrangente sobre as operações e a eficácia dos agentes ao longo do tempo.

Use os seguintes artigos para determinar confiança, rastreabilidade e transparência:

• Fundamentos de segurança e conformidade: Compreenda os compromissos de segurança e as certificações de conformidade disponíveis nas plataformas de agentes de IA da Microsoft.
• IA Responsável: Implemente os princípios de IA Responsável da Microsoft ao desenhar e implementar soluções baseadas em agentes.
• Modelos de governação e administração: Mantenha a segurança e o controlo compreendendo os modelos subjacentes de governação e administração ao implementar agentes no Microsoft 365.
• Fluxos de dados de referência e modelos de ameaça para avaliações de segurança: Compreenda os fluxos de dados dos agentes para identificar limites de segurança, requisitos de confiança e potenciais vulnerabilidades nos sistemas dos agentes.