Udostępnij przez

Ochrona agentów sztucznej inteligencji (wersja zapoznawcza)

  • Dotyczy: Microsoft Defender for XDR, Microsoft Defender for Cloud Apps, Microsoft Defender for Cloud

Ponieważ organizacje korzystają z agentów sztucznej inteligencji, aby usprawnić operacje i zwiększyć produktywność, muszą również zmierzyć się z nowymi zagrożeniami bezpieczeństwa, które mogą wprowadzić te narzędzia.

Bez silnego wglądu i kontroli nieprawidłowo skonfigurowani agenci sztucznej inteligencji mogą uwidaczniać poufne dane, włączać nieautoryzowany dostęp, eskalować uprawnienia i wyzwalać niezamierzone działania, które osłabiają stan bezpieczeństwa organizacji.

Aby zapewnić kompleksową ochronę przed zagrożeniami, uwzględniamy zarówno zarządzanie stanem, aby zminimalizować poziom zagrożenia atakiem, a jednocześnie działamy przy założeniu, że może dojść do naruszenia.

Funkcje ochrony agenta sztucznej inteligencji

Microsoft Defender chroni przed zagrożeniami bezpieczeństwa dzięki kompleksowej ochronie agenta sztucznej inteligencji, oferując proaktywne zarządzanie narażeniem i zaawansowane wyszukiwanie zagrożeń dzięki następującym funkcjom:

  • Wykrywa wszystkich agentów sztucznej inteligencji utworzonych za pomocą Microsoft Copilot Studio lub Azure AI Foundry.
  • Zbiera dzienniki inspekcji dla agentów sztucznej inteligencji, stale monitoruje agentów pod kątem podejrzanych działań oraz umożliwia wykrywanie i alerty. Aby włączyć to monitorowanie, upewnij się, że:
  • W przypadku agentów Copilot Studio sztucznej inteligencji Microsoft Defender:
    • Integruje dane z agentów Copilot Studio sztucznej inteligencji z zaawansowanym wyszukiwaniem zagrożeń w celu proaktywnego wykrywania zagrożeń. Te dane umożliwiają tworzenie niestandardowych zapytań i wyszukiwanie potencjalnych zagrożeń.
    • Chroni środowisko w czasie rzeczywistym, aby blokować podejrzane lub szkodliwe akcje inicjowane przez agentów Copilot Studio sztucznej inteligencji w czasie wykonywania agenta i wyzwala alert informacyjny zintegrowany ze środowiskiem zdarzeń i alertów XDR.
  • W przypadku agentów Azure AI Foundry AI Microsoft Defender:
    • Monitoruje agentów sztucznej inteligencji pod kątem błędnej konfiguracji i luk w zabezpieczeniach oraz identyfikuje potencjalne ścieżki ataku.
    • Udostępnia zalecenia dotyczące zabezpieczeń w celu poprawy stanu zabezpieczeń agentów sztucznej inteligencji.

Wymagania wstępne

Aby włączyć spis i wykrywanie agentów sztucznej inteligencji, należy wyrazić zgodę na funkcje Microsoft Defender wersji zapoznawczej:

  • Microsoft Defender for Cloud Apps
  • Microsoft Defender for Cloud
  • Microsoft Defender XDR

Odnajdywanie agentów sztucznej inteligencji za pomocą spisu agentów sztucznej inteligencji w portalu usługi Defender (wersja zapoznawcza)

Microsoft Defender wykrywa wszystkich agentów sztucznej inteligencji utworzonych za pomocą Microsoft Copilot Studio i Azure AI Foundry. Ten spis ułatwia zespołom ds. zabezpieczeń odnajdywanie, katalogowanie i ciągłe monitorowanie agentów sztucznej inteligencji w całej organizacji.

Strona spisu agenta sztucznej inteligencji

Strona spisu agentów sztucznej inteligencji w Microsoft Defender udostępnia scentralizowany widok wszystkich wykrytych agentów sztucznej inteligencji wraz z ich atrybutami klucza i stanem zabezpieczeń.

  1. Zaloguj się do portalu Microsoft Defender.

  2. W okienku nawigacji po lewej stronie wybierz pozycję ZasobyAgenci sztucznej inteligencji>.

    Zostanie wyświetlona lista wszystkich wykrytych agentów sztucznej inteligencji.

    Zrzut ekranu przedstawiający spis agentów sztucznej inteligencji w portalu usługi Defender.

  3. Wybierz pozycję Copilot Studio lub Azure AI Foundry, aby wyświetlić filtrowaną listę agentów sztucznej inteligencji na podstawie narzędzia użytego do utworzenia agenta.

  4. Aby wyświetlić szczegółowe informacje na temat określonego agenta sztucznej inteligencji, wybierz agenta z listy.

Szczegóły agenta sztucznej inteligencji

Po wybraniu agenta sztucznej inteligencji ze spisu zostanie otwarte okienko Agent zawierające szczegółowe informacje o wybranym agencie. Wyświetlane informacje różnią się w zależności od tego, czy agent został utworzony w Azure AI Foundry, czy Copilot Studio.

— Wybierz pozycję Otwórz stronę agenta, aby otworzyć stronę Agent sztucznej inteligencji.

Zrzut ekranu przedstawiający szczegóły agentów Foundry AI w portalu usługi Defender.

Zostaną wyświetlone szczegóły agenta sztucznej inteligencji:

Informacje o agencie sztucznej inteligencji Opis
ID Unikatowy identyfikator agenta przypisanego do niego w Azure AI Foundry
Name (Nazwa) Nazwa wyświetlana agenta
Rachunek Konto lub dzierżawa, w ramach której działa agent sztucznej inteligencji, zwykle połączone z własnością organizacji.
Wdrożenie Szczegółowe informacje o tym, gdzie i jak jest wdrażany agent sztucznej inteligencji (np. środowisko w chmurze, środowisko lokalne, hybrydowe).
Ścieżki ataku Potencjalne trasy lub metody, które mogą zostać wykorzystane w celu naruszenia zabezpieczeń agenta sztucznej inteligencji lub jego środowiska.
Czynniki ryzyka Kluczowe luki w zabezpieczeniach lub warunki, które zwiększają prawdopodobieństwo zagrożeń bezpieczeństwa dla agenta sztucznej inteligencji.
Czas tworzenia Data i godzina utworzenia agenta
Project Skojarzony projekt lub inicjatywa, do której agent sztucznej inteligencji obsługuje lub do którego należy.
Model Bazowy model sztucznej inteligencji/uczenia maszynowego obsługujący agenta, w tym szczegóły wersji lub architektury.
Zalecenia Sugerowane akcje lub najlepsze rozwiązania w celu poprawy bezpieczeństwa, wydajności lub zgodności agenta sztucznej inteligencji.

Zobacz też

  • Last updated on