Compartir a través de

Protección de los agentes de inteligencia artificial (versión preliminar)

  • Se aplica a: Microsoft Defender for XDR, Microsoft Defender for Cloud Apps, Microsoft Defender for Cloud

A medida que las organizaciones adoptan agentes de inteligencia artificial para simplificar las operaciones y mejorar la productividad, también se enfrentan a nuevos riesgos de seguridad que estas herramientas pueden presentar.

Sin una visibilidad y controles fuertes, los agentes de inteligencia artificial mal configurados pueden exponer datos confidenciales, habilitar el acceso no autorizado, escalar privilegios y desencadenar acciones no deseadas que debilitan la posición de seguridad de su organización.

Para proporcionar una protección contra amenazas completa, se incluye la administración de posturas para minimizar el panorama de amenazas de ataque, mientras que, al mismo tiempo, operamos bajo la suposición de que se puede producir una infracción.

Características de protección del agente de inteligencia artificial

Microsoft Defender le protege contra amenazas de seguridad con una protección completa del agente de inteligencia artificial, que ofrece administración proactiva de la exposición y búsqueda avanzada de amenazas con estas características:

  • Detecta todos los agentes de inteligencia artificial creados con Microsoft Copilot Studio o Azure AI Foundry.
  • Recopila registros de auditoría de los agentes de inteligencia artificial, supervisa continuamente a los agentes para detectar actividad sospechosa y habilita detecciones y alertas. Para habilitar esta supervisión, asegúrese de que:
  • Para Copilot Studio agentes de inteligencia artificial, Microsoft Defender:
    • Integra datos de Copilot Studio agentes de inteligencia artificial en búsqueda avanzada para la detección proactiva de amenazas. Puede usar estos datos para crear consultas personalizadas y buscar posibles amenazas.
    • Protege su entorno en tiempo real para bloquear las acciones sospechosas o dañinas iniciadas por los agentes de inteligencia artificial de Copilot Studio durante el tiempo de ejecución del agente y desencadena una alerta informativa integrada en el entorno de alertas e incidentes XDR.
  • Para Azure agentes de AI Foundry AI, Microsoft Defender:
    • Supervisa los agentes de inteligencia artificial para detectar configuraciones incorrectas y vulnerabilidades, e identifica posibles rutas de acceso de ataque.
    • Proporciona recomendaciones de seguridad para mejorar la posición de seguridad de los agentes de inteligencia artificial.

Requisitos previos

Para habilitar el inventario y la detección del agente de inteligencia artificial, debe participar en las características de Microsoft Defender versión preliminar de:

  • Microsoft Defender for Cloud Apps
  • Microsoft Defender for Cloud
  • Microsoft Defender XDR

Detección de los agentes de inteligencia artificial con el inventario de agentes de inteligencia artificial en el portal de Defender (versión preliminar)

Microsoft Defender detecta todos los agentes de inteligencia artificial creados con Microsoft Copilot Studio y Azure AI Foundry. Este inventario ayuda a los equipos de seguridad a detectar, catalogar y supervisar continuamente los agentes de inteligencia artificial en toda la organización.

Página de inventario del agente de inteligencia artificial

La página de inventario del agente de inteligencia artificial de Microsoft Defender proporciona una vista centralizada de todos los agentes de inteligencia artificial detectados, junto con sus atributos clave y el estado de seguridad.

  1. Inicie sesión en el portal de Microsoft Defender.

  2. En el panel de navegación izquierdo, seleccione Activos>agentes de inteligencia artificial.

    Aparece una lista de todos los agentes de inteligencia artificial detectados.

    Captura de pantalla que muestra el inventario del agente de inteligencia artificial en el portal de Defender.

  3. Seleccione Copilot Studio o Azure AI Foundry para ver una lista filtrada de agentes de inteligencia artificial en función de la herramienta utilizada para crear el agente.

  4. Para ver información detallada sobre un agente de inteligencia artificial específico, seleccione el agente en la lista.

Detalles del agente de inteligencia artificial

Al seleccionar un agente de inteligencia artificial del inventario, se abre el panel Agente , que proporciona información detallada sobre el agente seleccionado. La información mostrada varía en función de si el agente se creó en Azure AI Foundry o Copilot Studio.

-- Seleccione Abrir página del agente para abrir la página Agente de inteligencia artificial.

Captura de pantalla que muestra los detalles de los agentes de IA de Foundry en el portal de Defender.

Se muestran estos detalles del agente de inteligencia artificial:

Información del agente de inteligencia artificial Descripción
Id. Identificador único del agente asignado en Azure AI Foundry
Nombre Nombre para mostrar del agente
Cuenta La cuenta o inquilino en el que opera el agente de inteligencia artificial, normalmente vinculada a la propiedad de la organización.
Implementación Detalles sobre dónde y cómo se implementa el agente de inteligencia artificial (por ejemplo, entorno en la nube, local e híbrido).
Rutas de acceso de ataque Rutas o métodos potenciales que se podrían aprovechar para poner en peligro el agente de inteligencia artificial o su entorno.
Factores de riesgo Vulnerabilidades o condiciones clave que aumentan la probabilidad de amenazas de seguridad para el agente de inteligencia artificial.
Hora de creación Fecha y hora en que se creó el agente
Project Proyecto o iniciativa asociado al que el agente de inteligencia artificial admite o pertenece.
Model Modelo subyacente de inteligencia artificial o aprendizaje automático que alimenta el agente, incluidos los detalles de la versión o la arquitectura.
Recomendaciones Acciones sugeridas o procedimientos recomendados para mejorar la seguridad, el rendimiento o el cumplimiento del agente de inteligencia artificial.

Vea también

  • Last updated on