Determinar la confianza, la trazabilidad y la transparencia

La confianza, la trazabilidad y la transparencia ayudan a garantizar que los sistemas de agentes sigan los principios responsables de IA, mantengan operaciones auditables y proporcionen una visibilidad clara sobre el manejo de datos y los procesos de toma de decisiones. Este artículo sienta las bases para despliegues de agentes seguros, conformes y responsables dentro de entornos empresariales.

• Trust garantiza que los agentes sigan los principios responsables de la IA, cumplan con la normativa y mantengan la seguridad de los datos en todas las operaciones.
• La trazabilidad requiere que todas las acciones y decisiones sean claras y revisables, permitiendo a los usuarios comprender y auditar las operaciones de los agentes de forma completa.
• La transparencia garantiza que los usuarios y administradores comprendan las ubicaciones y patrones de uso de los datos y puedan verificar las fuentes de información de forma consistente.

Mecanismos de transparencia

Los mecanismos de transparencia aseguran que usuarios y administradores mantengan la visibilidad sobre las operaciones de los agentes, el manejo de datos y los procesos de toma de decisiones. Estos mecanismos incluyen registro de auditorías, búsqueda de respuestas y comunicación clara sobre las capacidades y limitaciones de los agentes.

La transparencia efectiva requiere que los agentes proporcionen una atribución clara a las fuentes de información, expliquen los procesos de razonamiento cuando sea apropiado y mantengan registros completos de todas las operaciones para fines de cumplimiento y resolución de problemas.

Supervisión continua y cumplimiento

La confianza, la trazabilidad y la transparencia requieren un seguimiento y evaluación continuos para garantizar que los agentes sigan operando dentro de los límites establecidos de seguridad y cumplimiento. Este requisito incluye evaluaciones periódicas de seguridad, auditorías de cumplimiento y recogida de opiniones de los usuarios para identificar posibles problemas antes de que afecten a las operaciones.

Los sistemas de monitorización deben hacer un seguimiento del rendimiento del agente, los eventos de seguridad, la satisfacción del usuario y las métricas de cumplimiento para proporcionar una visibilidad completa de las operaciones y la eficacia de los agentes a lo largo del tiempo.

Utiliza los siguientes artículos para determinar la confianza, la trazabilidad y la transparencia:

• Fundamentos de seguridad y cumplimiento: Comprende los compromisos de seguridad y las certificaciones de cumplimiento disponibles en las plataformas de agentes de IA de Microsoft.
• IA responsable: Implementar los principios de IA responsable de Microsoft al diseñar y desplegar soluciones basadas en agentes.
• Modelos de gobernanza y administración: Mantener la seguridad y el control comprendiendo los modelos subyacentes de gobernanza y administración al desplegar agentes en Microsoft 365.
• Flujos de datos de referencia y modelos de amenazas para evaluaciones de seguridad: Comprender los flujos de datos de los agentes para identificar límites de seguridad, requisitos de confianza y posibles vulnerabilidades en los sistemas de los agentes.