Ochrona korzystania z aplikacji i danych sztucznej inteligencji w organizacji

W tym artykule opisano sposób używania funkcji specyficznych dla ochrony aplikacji sztucznej inteligencji i danych, z którymi korzystają.

• Ochrona poufnych danych w monitach użytkownika i danych generowanych przez sztuczną inteligencję
• Obrona przed pojawiającymi się zagrożeniami, takimi jak wstrzyknięcia poleceń

Jest to trzeci artykuł z serii. Jeśli nie wykonano jeszcze zadań opisanych w artykule Przygotowanie do zabezpieczeń sztucznej inteligencji i Odnajdywanie aplikacji i danych sztucznej inteligencji, zacznij od tych artykułów, aby przygotować środowisko z funkcjami określonymi w tym artykule.

Użyj tego artykułu razem z tym zasobem:

• Cloud Adoption Framework (CAF) for AI — proces zabezpieczania sztucznej inteligencji

Firma Microsoft oferuje szeroki zestaw możliwości ochrony aplikacji i danych sztucznej inteligencji. W tym artykule omówiono je w dwóch kategoriach — ochrona danych i ochrona przed zagrożeniami.

W poniższych dwóch tabelach opisano ilustrację, a także przedstawiono kroki implementowania tych funkcji.

Tabela 1 — możliwości ochrony danych

Tabela 2 — Możliwości ochrony przed zagrożeniami

Ochrona danych sztucznej inteligencji

Te możliwości pomagają wydajnie dowiedzieć się i ograniczyć najważniejsze zagrożenia związane z nadmiernym udostępnianiem danych, użyciem poufnych danych i ryzykownymi zachowaniami użytkowników. Te możliwości są ograniczone do ochrony aplikacji i danych sztucznej inteligencji w danym środowisku.

Krok 1. Stosowanie kontrolek oversharing programu SharePoint

Kontrole nadmiernego udostępniania w SharePoint obejmują wbudowane mechanizmy, takie jak uprawnienia o określonym zakresie, oraz dodatkowe funkcjonalności w usłudze SharePoint Advanced Management, które wzmacniają zarządzanie zawartością podczas wdrażania rozwiązania Microsoft Copilot. Kontrolki oversharing programu SharePoint ułatwiają:

• Tymczasowo ogranicz wyszukiwanie narzędzia Copilot do listy określonych witryn (wyszukiwanie w programie SharePoint z ograniczeniami).
• Szybko zidentyfikuj witryny, które potencjalnie zawierają zbyt udostępnione dane lub poufną zawartość (raporty dotyczące zarządzania dostępem do danych).
• Oflaguj witryny, aby użytkownicy nie mogli znaleźć ich za pośrednictwem funkcji wyszukiwania w całej organizacji ani wyszukiwania w całej organizacji (funkcja odnajdywania zawartości z ograniczeniami w usłudze SharePoint Advanced Management).
• utwórz nieaktywne zasady witryny, aby automatycznie zarządzać nieaktywne witryny i zmniejszać je (Zarządzanie zaawansowane programu SharePoint).
• Ogranicz dostęp do witryn programu SharePoint i usługi OneDrive do użytkowników w określonej grupie (zasady kontroli dostępu z ograniczeniami w usłudze SharePoint Advanced Management).

Aby rozpocząć korzystanie z kontrolek oversharing, użyj następujących zasobów.

Krok 2 — Ochrona danych za pośrednictwem dsPM dla sztucznej inteligencji

Użyj DSPM w kontekście sztucznej inteligencji, aby dowiedzieć się, gdzie odbywa się nadmierne udostępnianie, i zidentyfikować luki w zakresie polityk dotyczących etykiet poufności i zasad DLP.

Doskonałym miejscem na początek jest zapoznanie się z raportem ocen tygodniowych.

Możesz przejść do szczegółów poszczególnych raportów, aby dowiedzieć się więcej o tym, gdzie występują luki w kontrolach zapobiegających nadmiernemu udostępnianiu, etykietach i zasadach ochrony przed utratą danych (DLP), dzięki czemu możesz te problemy szybko naprawić.

Dla każdego raportu DSPM dla sztucznej inteligencji udostępnia zalecenia dotyczące poprawy bezpieczeństwa danych. Użyj linku Wyświetl wszystkie zalecenia lub Zalecenia w okienku nawigacji, aby wyświetlić wszystkie dostępne zalecenia dla Twojego dzierżawcy i ich stan.

Skorzystaj z poniższych zasobów, aby chronić aplikacje i dane sztucznej inteligencji za pomocą platformy DSPM dla sztucznej inteligencji.

Krok 3. Kontynuuj identyfikowanie luk w etykietach poufności i zasadach DLP

W obszarze Przygotowanie do zabezpieczeń sztucznej inteligencji użyto narzędzi do zarządzania stanem zabezpieczeń danych usługi Microsoft Purview, DSPM i DSPM dla sztucznej inteligencji, aby określić priorytety ochrony poufnych danych. Przejdź ponownie do tych narzędzi, aby zidentyfikować luki w zakresie zasad i dowiedzieć się, gdzie należy nadal inwestować w stosowanie etykiet poufności i zasad DLP. Ponadto rozszerz etykiety poufności i zasady DLP do aplikacji SaaS przy użyciu usługi Defender for Cloud Apps.

Skorzystaj z poniższych zasobów, aby poczynić postępy w usłudze Microsoft Purview.

Krok 4. Stosowanie szablonu ryzykownej sztucznej inteligencji w rozwiązaniu Insider Risk Management (IRM)

Usługa Microsoft Purview Insider Risk Management (IRM) zawiera wstępnie zdefiniowane szablony zasad, które można zastosować do środowiska, w tym ryzykowne użycie sztucznej inteligencji. Szablony usługi IRM to wstępnie zdefiniowane warunki zasad definiujące typy wskaźników ryzyka i model oceniania ryzyka używany przez zasady.

Zasady użycia ryzykownej sztucznej inteligencji mogą pomóc wykrywać i włączać ocenianie ryzyka dla monitów i odpowiedzi w narzędziach sztucznej inteligencji w organizacji. IRM pomaga badać i podejmować działania w odniesieniu do ryzykownych działań związanych ze sztuczną inteligencją.

Skorzystaj z poniższych zasobów, aby rozpocząć pracę z usługą Insider Risk Management i zastosować szablon zasad ryzykownych użycia sztucznej inteligencji.

Krok 5—Konfigurowanie adaptacyjnej ochrony na potrzeby zarządzania ryzykiem wynikającym z działań wewnętrznych

Adaptacyjna ochrona w rozwiązaniu Microsoft Purview Insider Risk Management dynamicznie przypisuje użytkownikom poziom ryzyka, a następnie stosuje zasady tworzone dla użytkowników z umiarkowanym lub podwyższonym ryzykiem. Zasady mogą implementować zwiększone akcje zapobiegania utracie danych, zachowywanie usuniętej zawartości lub wymuszanie wyższych wymagań dotyczących dostępu warunkowego.

Skorzystaj z poniższych zasobów, aby rozpocząć pracę z funkcją Adaptacyjna ochrona.

Jak najlepiej wykorzystać ochronę przed zagrożeniami dla sztucznej inteligencji

Usługi Defender for Cloud Apps i Defender for Cloud obejmują możliwości informowania o nowym użyciu aplikacji sztucznej inteligencji i stosowaniu odpowiednich mechanizmów kontroli.

Krok 1. Klasyfikacja i ochrona aplikacji sztucznej inteligencji za pomocą usługi Defender for Cloud Apps

Poprzedni artykuł z tej serii : Odnajdywanie aplikacji sztucznej inteligencji i danych koncentruje się na używaniu usługi Defender for Cloud Apps do odnajdywania aplikacji sztucznej inteligencji w twoim środowisku. Ten artykuł zachęca organizacje do korzystania z usługi Defender for Cloud Apps, aby śledzić nowe aplikacje sztucznej inteligencji, oceniać ryzyko, które stwarzają one dla Twojego środowiska, zatwierdzać lub blokować te aplikacje oraz stosować mechanizmy kontroli sesji do aplikacji.

Najpierw utwórz zasady, aby automatycznie wyzwolić alert, gdy nowa aplikacja generacyjna sztucznej inteligencji jest używana w organizacji.

Następnie oceń ocenę ryzyka dla nowo odnalezionych aplikacji. Możesz również dostosować ocenę ryzyka. Na przykład wysoce regulowane organizacje mogą chcieć zmienić wagę określonych atrybutów oceny ryzyka. Można również zastąpić ocenę ryzyka.

Zdecyduj, czy podjąć sankcje, czy zablokować każdą aplikację. Organizacje mogą blokować użycie aplikacji z różnych powodów. Niektórzy obawiają się, że poufne dane będą nieświadomie udostępniane aplikacjom i udostępniane później odbiorcom spoza organizacji. Może to spowodować zablokowanie użycia przez organizację wszystkich niezarządzanych aplikacji sztucznej inteligencji. Podczas gdy inne organizacje muszą upewnić się, że wszystkie aplikacje używane są zgodne z różnymi standardami, takimi jak SOC2 lub HIPAA.

Na koniec w przypadku aplikacji, które usankcjonujesz, zdecyduj, czy chcesz zastosować zasady sesji w celu zapewnienia większej kontroli i widoczności. Zasady sesji umożliwiają stosowanie parametrów do sposobu, w jaki aplikacje w chmurze są używane przez organizację. Można na przykład skonfigurować zasady sesji, które umożliwiają dostęp tylko zarządzanym urządzeniom do aplikacji sztucznej inteligencji. Prostszym przykładem może być skonfigurowanie zasad w celu monitorowania ruchu z urządzeń niezarządzanych, dzięki czemu można analizować ryzyko związane z tym ruchem przed zastosowaniem bardziej rygorystycznych zasad.

Na tej ilustracji:

• Dostęp do sankcjonowanych aplikacji w chmurze przez użytkowników i urządzenia w organizacji jest kierowany przez usługę Defender for Cloud Apps, gdzie zasady sesji mogą być stosowane do określonych aplikacji.
• Aplikacje w chmurze, które nie zostały zaakceptowane lub wyraźnie odrzucone, nie są dotknięte.

Usługa Defender for Cloud Apps dodatkowo udostępnia dedykowane wykrycia dla rozwiązania Microsoft 365 Copilot. Zespoły ds. zabezpieczeń mogą wykrywać podejrzane interakcje użytkownika z rozwiązaniem Copilot i reagować na nie i ograniczać zagrożenie. Na przykład gdy użytkownik uzyskuje dostęp do poufnych danych za pośrednictwem ryzykownego adresu IP, usługa Defender for Cloud Apps wyzwala alert flagujący tę podejrzaną aktywność z ważnymi szczegółami, w tym techniką ataku MITRE, adresem IP i innymi polami, których zespoły ds. zabezpieczeń mogą użyć do dalszego zbadania tego alertu.

Użyj następujących zasobów jako następnych kroków.

Krok 2. Stosowanie ochrony sztucznej inteligencji w usłudze Defender for Cloud

W poprzednim artykule z tej serii „Odkryj aplikacje AI i dane” skupiono się na odkrywaniu obciążeń generatywnej AI i modeli działających w Twoim środowisku. Ten artykuł koncentruje się na ochronie aplikacji GenAI w całym cyklu życia aplikacji podczas tworzenia i używania niestandardowych aplikacji sztucznej inteligencji.

Organizacje wybierają tworzenie nowych aplikacji GenAI i osadzanie sztucznej inteligencji w istniejących aplikacjach w celu zwiększenia wydajności biznesowej i produktywności. Osoby atakujące coraz częściej chcą wykorzystać aplikacje w celu zmiany zaprojektowanego celu modelu sztucznej inteligencji przy użyciu nowych ataków, takich jak wstrzyknięcia monitów, ataki portfelowe, kradzież modelu i zatrucie danych, przy jednoczesnym zwiększeniu podatności na znane zagrożenia, takie jak naruszenia danych i odmowa usługi. Zespoły ds. zabezpieczeń muszą być przygotowane i upewnić się, że mają odpowiednie mechanizmy kontroli zabezpieczeń dla aplikacji sztucznej inteligencji i wykrywania, które dotyczą nowego środowiska zagrożeń.

Usługa Microsoft Defender for Cloud pomaga organizacjom zabezpieczyć środowiska hybrydowe i wielochmurowe z kodu do chmury. Usługa Defender dla chmury obejmuje funkcje zabezpieczeń i ochrony przed zagrożeniami, aby umożliwić organizacjom ochronę aplikacji GenAI utworzonych w przedsiębiorstwie w całym cyklu życia aplikacji:

• Ciągłe odnajdywanie składników aplikacji GenAI i artefaktów sztucznej inteligencji z kodu do chmury.
• Eksplorowanie i korygowanie zagrożeń dla aplikacji GenAI za pomocą wbudowanych zaleceń w celu wzmocnienia poziomu zabezpieczeń.
• Identyfikowanie i korygowanie toksycznych kombinacji w aplikacjach GenAI przy użyciu analizy ścieżki ataku.
• Wykrywanie w aplikacjach GenAI obsługiwanych przez osłony zabezpieczeń zawartości usługi Azure AI, sygnały analizy zagrożeń firmy Microsoft i kontekstowe monitorowanie aktywności.
• Wyszukiwanie i badanie ataków w aplikacjach GenAI z wbudowaną integracją z usługą Microsoft Defender.

Zacznij od możliwości zarządzania stanem zabezpieczeń z wykorzystaniem sztucznej inteligencji w Defender Cloud Security Posture Management (CSPM). Usługa Defender CSPM automatycznie i stale odnajduje wdrożone obciążenia sztucznej inteligencji, zapewniając bezagentowy i szczegółowy wgląd w obecność i konfigurację modeli AI, zestawów SDK i technologii używanych w usługach sztucznej inteligencji, takich jak Azure OpenAI Service, Azure Machine Learning i Amazon Bedrock.

CSPM stale przedstawia kontekstowe problemy z zabezpieczeniami i sugeruje zalecenia dotyczące zabezpieczeń oparte na ryzyku dostosowane do określania priorytetów krytycznych luk w obciążeniach sztucznej inteligencji. Odpowiednie zalecenia dotyczące zabezpieczeń są również wyświetlane w obrębie samego zasobu usługi Azure OpenAI w witrynie Azure Portal, zapewniając deweloperom lub właścicielom obciążeń bezpośredni dostęp do zaleceń i pomagając w szybszym korygowaniu.

Możliwość analizy ścieżki ataku może identyfikować zaawansowane zagrożenia dla obciążeń związanych ze sztuczną inteligencją, w tym scenariusze bezpieczeństwa danych, w których dane dotyczące uzgadniania lub dostrajania są wystawione na działanie internetu poprzez ruch boczny i są wrażliwe na ataki zatrucia danych.

Następnie, zachowaj bezpieczeństwo w czasie działania dzięki ochronie przed zagrożeniami dla pracy sztucznej inteligencji. Usługa Defender for Cloud obejmuje ochronę przed zagrożeniami dla obciążeń sztucznej inteligencji. Ochrona przed zagrożeniami dla sztucznej inteligencji korzysta z natywnej integracji z usługą Azure OpenAI Service, osłonami bezpieczeństwa zawartości usługi Azure AI i analizą zagrożeń firmy Microsoft w celu dostarczania kontekstowych i praktycznych alertów zabezpieczeń. Ochrona przed zagrożeniami dla obciążeń sztucznej inteligencji umożliwia zespołom ds. zabezpieczeń monitorowanie aplikacji opartych na usłudze Azure OpenAI w czasie rzeczywistym pod kątem złośliwych działań związanych z bezpośrednimi i pośrednimi atakami polegającymi na wstrzyknięciu, wyciekami poufnych danych, zanieczyszczeniem danych, a także nadużyciami zasobów portfela lub atakami typu "odmowa usługi".

Aby wykonać następne kroki, skorzystaj z poniższych zasobów.

Następny krok zabezpieczania sztucznej inteligencji

Po ochronie aplikacji i danych sztucznej inteligencji w organizacji następnym krokiem jest nadzorowanie aplikacji sztucznej inteligencji w celu spełnienia wymagań dotyczących zgodności z przepisami:

• Ocenianie i wzmacnianie poziomu zgodności z przepisami.
• Zaimplementuj kontrolki, aby zarządzać użyciem aplikacji i danych sztucznej inteligencji.

Zobacz następny artykuł z tej serii: Jak mogę zarządzać sztuczną inteligencją pod kątem zgodności?