Protección de agentes de inteligencia artificial en Windows

A medida que los agentes con tecnología de inteligencia artificial se vuelven integrales en la forma en que trabajamos y creamos, Windows se compromete a hacer que estas experiencias sean más productivas y seguras para individuos y empresas. Recientemente, anunciamos hacer de cada pc Windows 11 una IA que facilita la IA potente en Windows 11. Una de las nuevas experiencias que presentamos es una característica experimental llamada Acciones de Copilot. Copilot Actions on Windows 11 se basa en nuestro anuncio de mayo, donde anunciamos Acciones de Copilot en la web que permite a Copilot tomar acciones reales en su nombre, como reservar una mesa en su restaurante favorito o pedir comestibles.

Próximamente en Windows Insiders en Copilot Labs, vamos a obtener una vista previa de un modo experimental para acciones de Copilot para expandirse más allá del explorador y realizar acciones directamente en archivos locales en Windows.

¿Qué es Copilot Actions?

Acciones de Copilot es un agente de inteligencia artificial que completa las tareas automáticamente interactuando con sus aplicaciones y archivos, usando la visión y el razonamiento avanzado para hacer clic, escribir y desplazarse como lo haría un humano. Esta funcionalidad transforma los agentes de asistentes pasivos en colaboradores digitales activos que pueden llevar a cabo tareas complejas para mejorar la eficiencia y la productividad, como la actualización de documentos, la organización de archivos, la reserva de entradas o el envío de correos electrónicos. Después de conceder acceso al agente, cuando se integra con Windows, el agente puede aprovechar lo que ya tiene en el equipo, como las aplicaciones y los datos, para completar tareas por usted.

Por qué importa la seguridad

La inteligencia artificial agentic tiene funcionalidades eficaces hoy en día. Por ejemplo, puede completar muchas tareas complejas en respuesta a las solicitudes del usuario, transformando el modo en que los usuarios interactúan con sus equipos. A medida que presentamos nuevas funcionalidades, los modelos de inteligencia artificial siguen teniendo limitaciones funcionales en términos de cómo se comportan. En ocasiones, pueden ser incorrectos y generar salidas inesperadas. Además, las aplicaciones de inteligencia artificial agentic presentan nuevos riesgos de seguridad, como la inyección de mensajes cruzados (XPIA), donde el contenido malintencionado insertado en elementos o documentos de la interfaz de usuario puede invalidar las instrucciones del agente, lo que conduce a acciones no deseadas, como la filtración de datos o la instalación de malware. Consulte Protección del protocolo de contexto del modelo: creación de un futuro agenteico más seguro en Windows para obtener más información. A medida que comenzamos a crear funcionalidades de agente en Windows, nuestro compromiso es incluir controles sólidos de seguridad y privacidad que permitan a los clientes explorar su potencial con confianza con el apoyo de instrucciones claras y barreras de protección adecuadas.

Principios de seguridad y privacidad del agente

Abordar los desafíos de seguridad de los agentes de inteligencia artificial requiere la adhesión a un conjunto sólido de principios de seguridad para garantizar que los agentes actúan en consonancia con la intención del usuario y protegen su información confidencial. Estamos estableciendo un conjunto de principios de seguridad y privacidad duraderos que debe cumplir para hacer uso de las nuevas funcionalidades de agente en Windows:

• Cuentas de agente distintas: estamos creando la capacidad de que los agentes de Windows funcionen con cuentas de agente dedicadas distintas de la cuenta de usuario del dispositivo. Esta funcionalidad facilita una aplicación de directiva específica del agente que puede ser diferente de las reglas aplicadas a otras cuentas, como las de los usuarios humanos. Puede compartir el acceso a archivos y otros recursos a estas cuentas de agente dedicadas de la misma manera que lo hace con otros usuarios del dispositivo, como familiares o compañeros de trabajo.
• Privilegios de agente limitados: un agente comienza con permisos limitados y solo obtiene acceso a los recursos a los que se proporciona permiso explícitamente, como los archivos locales. Hay un límite bien definido para las acciones del agente y no tiene capacidad de realizar cambios en el dispositivo sin la intervención. Puede revocar este acceso en cualquier momento.
• Confianza operativa: los agentes que se integran con Windows deben estar firmados por un origen de confianza para que los agentes malintencionados o mal comportados puedan revocarse y bloquearse con una serie de medidas de defensa en profundidad, como la validación de certificados y el antivirus.
• Diseño que conserva la privacidad: Windows está diseñado para ayudar a los agentes a cumplir los compromisos de Microsoft contraídos en la Declaración de privacidad de Microsoft y la Standard de inteligencia artificial responsable. Windows admite agentes para recopilar y procesar datos solo con fines claramente definidos, lo que garantiza transparencia y confianza. Consulte el Informe de privacidad de Microsoft para obtener más información sobre nuestros compromisos con el avance de la inteligencia artificial de forma responsable y, al mismo tiempo, proteger la privacidad y otros derechos fundamentales.

El desarrollo de agentes y la seguridad relacionada con la inteligencia artificial siguen siendo un campo de investigación que se mueve rápidamente con la participación activa de Microsoft en asociación con la comunidad de seguridad más amplia. Como parte del compromiso de La iniciativa de futuro seguro de Microsoft, ayudar a los usuarios, empresas y desarrolladores a abordar estos desafíos es nuestra prioridad principal a medida que las personas comienzan a interactuar con los agentes como parte de sus flujos de trabajo diarios.

Controles de seguridad

Copilot Actions pone en práctica nuestros principios de seguridad y privacidad. Aprendemos y perfeccionamos continuamente nuestro enfoque a medida que recopilamos comentarios del mundo real de la versión preliminar cuando está disponible. Hemos agregado cuatro nuevos bloques de creación a Windows 11 para admitir esta exploración. Durante el período de versión preliminar, seguimos agregando controles de seguridad y privacidad más pormenorizados antes de hacer que estas características estén disponibles ampliamente:

• Control de usuario: Las acciones de Copilot están deshabilitadas de forma predeterminada y solo se habilitan cuando el usuario activa la siguiente configuración de Windows en Configuración> Componentes > deIAdel sistema>Herramientas> delagente Características agente experimentales.
• Cuentas de agente: una cuenta estándar independiente en el dispositivo que los agentes usan al actuar en su nombre, lo que habilita la autorización de nivel de agente y el control de acceso.
• Área de trabajo del agente: un entorno independiente donde los agentes pueden trabajar en paralelo con un usuario humano, lo que permite el aislamiento en tiempo de ejecución y permisos granulares. Este entorno proporciona al agente funcionalidades como su propio escritorio, a la vez que limita la visibilidad y el acceso que el agente tiene a la actividad de escritorio del usuario. El área de trabajo del agente se basa en los límites de seguridad reconocidos que Microsoft defiende de acuerdo con nuestros criterios de mantenimiento de seguridad de larga duración. Para obtener más información sobre las áreas de trabajo del agente, consulte Características del agente experimental: más información.
• Transparencia del usuario: una manera de que los usuarios autoricen, supervisen y tomen las acciones del agente en el área de trabajo del agente.

Próximamente se vuelven a crear más bloques de creación, como Microsoft Entra y compatibilidad con identidades de MSA.

Las aplicaciones y acciones controladas por Acciones de Copilot se ejecutan en la cuenta del agente en lugar de en la cuenta del usuario del equipo que ha iniciado sesión. Esta distinción separa claramente el trabajo realizado por el agente de otras acciones en el sistema, como las realizadas por el usuario del equipo. Las cuentas de agente solo se aprovisionan cuando los usuarios habilitan el área de trabajo del agente.

Durante la versión preliminar experimental de Acciones de Copilot, el agente tiene acceso a un conjunto limitado de carpetas conocidas locales del usuario(como Documentos, Descargas, Escritorio o Imágenes) y otros recursos accesibles para todas las cuentas del sistema. Acciones de Copilot solo puede acceder a datos fuera de estas carpetas cuando el usuario proporciona autorización. Standard mecanismos de seguridad de Windows, como las listas de control de acceso (ACL), ayudan a evitar el uso no autorizado.

Mientras Acciones de Copilot funciona, los usuarios pueden supervisar su progreso, mantenerse informados en cada paso y tomar el control en cualquier momento. Cuando intervienen acciones confidenciales o decisiones importantes, Acciones de Copilot podría solicitar la aprobación adicional del usuario para realizar esos pasos específicos, lo que garantiza su consentimiento y los pone a cargo antes de que ocurra algo crítico.

Mirando hacia delante

La seguridad es un compromiso continuo. A medida que expandimos las funcionalidades de agente en Windows, seguimos evolucionando nuestras defensas. Con la próxima versión preliminar de Acciones de Copilot para Windows Insiders en Copilot Labs, esperamos recopilar comentarios valiosos que nos ayuden a dar forma a la experiencia más adelante de una versión más amplia. Además, la plataforma Windows y sus controles de seguridad estarán disponibles para que otros desarrolladores en versión preliminar prueben y proporcionen entradas próximamente.

Windows 11 es la versión más segura de Windows jamás creada. A medida que entramos en esta nueva era de agentes, nuestro compromiso es claro: Windows será la plataforma más segura, de confianza y centrada en el usuario para la informática de agentes.