Nota
O acesso a esta página requer autorização. Podes tentar iniciar sessão ou mudar de diretório.
O acesso a esta página requer autorização. Podes tentar mudar de diretório.
A proteção contra ameaças para serviços de IA no Microsoft Defender for Cloud protege os serviços de IA em uma assinatura do Azure, fornecendo informações sobre ameaças que podem afetar seus aplicativos de IA generativos.
Pré-requisitos
Leia Visão geral - Proteção contra ameaças de IA.
Precisará de uma subscrição do Microsoft Azure. Se não tiver uma subscrição do Azure, pode inscrever-se numa subscrição gratuita.
Habilite o Defender for Cloud em sua assinatura do Azure.
Recomendamos não desativar alertas acionados baseados em prompt para filtragem de conteúdo do Azure OpenAI. Desativar e remover esse recurso pode afetar a capacidade do Defender for Cloud de monitorar e detetar esses ataques.
Habilite a proteção contra ameaças para serviços de IA
Habilite a proteção contra ameaças para serviços de IA.
Inicie sessão no portal do Azure.
Procure e selecione Microsoft Defender para a Cloud.
No menu do Defender for Cloud, selecione Configurações do ambiente.
Selecione a subscrição do Azure relevante.
Na página de planos do Defender, alterne os serviços de IA para Ativado.
Habilitar evidência de prompt do usuário
Com o plano de proteção contra ameaças de serviços de IA ativado, você pode controlar se os alertas incluem segmentos suspeitos diretamente dos prompts do usuário ou as respostas do modelo de seus aplicativos ou recursos de IA. Ativar evidências de interações do utilizador ajuda a priorizar, classificar alertas e compreender as intenções do utilizador.
A evidência de prompt do usuário consiste em prompts e respostas de modelo. Ambos são considerados seus dados. As provas estão disponíveis através do portal do Azure, do portal Defender e de quaisquer integrações de parceiros anexadas.
Inicie sessão no portal do Azure.
Procure e selecione Microsoft Defender para a Cloud.
No menu do Defender for Cloud, selecione Configurações do ambiente.
Selecione a subscrição do Azure relevante.
Localize os serviços de IA e selecione Configurações.
Alternar Ativar evidência de prompt do usuário para Ativado.
Selecione Continuar.
Habilite a segurança de dados para a IA do Azure com o Microsoft Purview
Observação
Esse recurso requer uma licença do Microsoft Purview, que não está incluída no plano Defender for AI Services do Microsoft Defender for Cloud.
Para começar a usar o Microsoft Purview DSPM para IA, consulte Configurar o Microsoft Purview DSPM para IA.
Habilite o Microsoft Purview para acessar, processar e armazenar dados de prompt e resposta, incluindo metadados associados, dos Serviços de IA do Azure. Essa integração suporta os principais cenários de segurança e conformidade de dados, como:
Classificação de tipo de informação sensível (SIT)
Análise e relatórios através do Microsoft Purview DSPM para IA
Gestão de Riscos Internos
Conformidade de Comunicações
Auditoria do Microsoft Purview
Gerenciamento do ciclo de vida dos dados
Deteção de Dados Eletrónicos
Esse recurso ajuda sua organização a gerenciar e monitorar dados gerados por IA em alinhamento com as políticas corporativas e os requisitos normativos.
Observação
As Políticas de Segurança de Dados para interações com os Azure AI Services são suportadas apenas para chamadas de API que utilizem a autenticação Microsoft Entra ID com um token de contexto do utilizador, ou para chamadas de API que incluam explicitamente o contexto do utilizador. Para saber mais, consulte Obter contexto de usuário final para chamadas de API do Azure AI. Para todos os outros cenários de autenticação, as interações do utilizador captadas no Purview aparecem apenas no Purview Audit e no DSPM para o AI Activity Explorer.
Inicie sessão no portal do Azure.
Procure e selecione Microsoft Defender para a Cloud.
No menu do Defender for Cloud, selecione Configurações do ambiente.
Selecione a subscrição do Azure relevante.
Localize os serviços de IA e selecione Configurações.
Ativar/desativar a segurança de dados para interações de IA para Ativado.
Selecione Continuar.
Troubleshooting
Se não vir interações de utilizador para utilizadores autenticados com Entra ID no Microsoft Purview Activity Explorer após ativar o interruptor, siga estas etapas para resolver o problema:
Execute os seguintes comandos no Azure PowerShell
- Instale os seguintes módulos Az (se necessário):
Install-Module -Name Az -AllowClobber Import-Module Az.Accounts - Ligue-se ao Azure PowerShell como administrador de inquilino:
Connect-AzAccount -Tenant $yourTenantIdHere - Na página web que abre, inicia sessão usando as credenciais de administrador do inquilino.
- Verifique se o principal do serviço Microsoft Purview está no seu tenant:
Get-AzADServicePrincipal -ApplicationId "9ec59623-ce40-4dc8-a635-ed0275b5d58a" - Se o principal do serviço não existir, adicione o principal do serviço de aplicação Microsoft Purview ao inquilino:
New-AzADServicePrincipal -ApplicationId "9ec59623-ce40-4dc8-a635-ed0275b5d58a"