Proteger agentes de IA no Windows

À medida que os agentes baseados em IA se tornam parte integrante da forma como trabalhamos e criamos, o Windows está empenhado em tornar estas experiências mais produtivas e seguras para indivíduos e empresas. Recentemente, anunciámos a opção Tornar todos os Windows 11 PC num PC de IA que facilitam a Windows 11. Uma das novas experiências que introduzimos é uma funcionalidade experimental chamada Copilot Actions. A copilot Actions on Windows 11 baseia-se no nosso anúncio em Maio, onde anunciámos a Copilot Actions na Web, permitindo que Copilot tome medidas reais em seu nome, como reservar uma mesa no seu restaurante favorito ou encomendar mantimentos.

Brevemente nos Windows Insiders no Copilot Labs, estamos a pré-visualizar um modo experimental para as Ações copiadoras expandirem-se para além do browser para efetuar ações diretamente em ficheiros locais no Windows.

O que é o Copilot Actions?

O Copilot Actions é um agente de IA que conclui as suas tarefas ao interagir com as suas aplicações e ficheiros, através da visão e do raciocínio avançado para clicar, escrever e deslocar como um humano faria. Esta capacidade transforma agentes de assistentes passivos em colaboradores digitais ativos que podem realizar tarefas complexas para melhorar a eficiência e produtividade, como atualizar documentos, organizar ficheiros, reservar bilhetes ou enviar e-mails. Depois de conceder acesso ao agente, quando integrado no Windows, o agente pode tirar partido do que já tem no PC, como as suas aplicações e dados, para concluir as tarefas por si.

Por que motivo a segurança é importante

A IA agente tem capacidades avançadas atualmente. Por exemplo, pode concluir muitas tarefas complexas em resposta a pedidos do utilizador, transformando a forma como os utilizadores interagem com os seus PCs. À medida que introduzimos novas capacidades, os modelos de IA ainda enfrentam limitações funcionais em termos de comportamento. Ocasionalmente, podem estar incorretas e produzir saídas inesperadas. Além disso, as aplicações de IA agente introduzem novos riscos de segurança, como a injeção de linhas cruzadas (XPIA), em que conteúdos maliciosos incorporados em elementos de IU ou documentos podem substituir instruções do agente, o que leva a ações não intencionais, como a instalação de software maligno ou exfiltração de dados. Consulte Proteger o Protocolo de Contexto do Modelo: Criar um futuro agente mais seguro no Windows para obter mais informações. À medida que começamos a criar capacidades agentes no Windows, o nosso compromisso é incluir controlos robustos de segurança e privacidade que capacitam os clientes a explorar o seu potencial com confiança com o suporte de orientações claras e proteções adequadas.

Princípios de segurança e privacidade agentes

A resolução dos desafios de segurança dos agentes de IA exige a adesão a um conjunto forte de princípios de segurança para garantir que os agentes atuam em conformidade com a intenção do utilizador e protejam as informações confidenciais. Estamos a estabelecer um conjunto de princípios de segurança e privacidade duráveis que tem de cumprir para utilizar novas capacidades agentes no Windows:

• Contas de agente distintas: estamos a criar a capacidade de os agentes no Windows operarem com contas de agente dedicadas distintas da conta de utilizador no seu dispositivo. Esta capacidade facilita a aplicação de política específica do agente que pode ser diferente das regras aplicadas a outras contas, como as dos utilizadores humanos. Pode partilhar o acesso a ficheiros e outros recursos para estas contas de agente dedicadas da mesma forma que faz com outros utilizadores no seu dispositivo, como familiares ou colegas de trabalho.
• Privilégios agentes limitados: um agente começa com permissões limitadas e obtém apenas acesso aos recursos aos quais fornece explicitamente permissão, como os seus ficheiros locais. Existe um limite bem definido para as ações do agente e não tem capacidade para fazer alterações no seu dispositivo sem a sua intervenção. Pode revogar este acesso em qualquer altura.
• Confiança operacional: os agentes que se integram com o Windows têm de ser assinados por uma origem fidedigna para que os agentes mal comportados ou mal comportados possam ser revogados e bloqueados com uma série de medidas de defesa em profundidade, como a validação de certificados e o antivírus.
• Design de preservação da privacidade: o Windows foi concebido para ajudar os agentes a cumprir os compromissos assumidos pela Microsoft na Declaração de Privacidade da Microsoft e na Standard de IA Responsável. O Windows suporta agentes na recolha e processamento de dados apenas para fins claramente definidos, garantindo transparência e confiança. Consulte o Relatório de Privacidade da Microsoft para obter detalhes sobre os nossos compromissos em avançar com a IA de forma responsável, salvaguardando a privacidade e outros direitos fundamentais.

O desenvolvimento de agentes e a segurança relacionada com IA continuam a ser um campo de investigação em rápida mudança com a participação ativa da Microsoft em parceria com a comunidade de segurança mais ampla. Como parte do compromisso da Iniciativa Secure Future da Microsoft, ajudar os utilizadores, empresas e programadores a enfrentar estes desafios é a nossa principal prioridade à medida que as pessoas começam a interagir com os agentes como parte dos seus fluxos de trabalho diários.

Controlos de segurança

As Ações copiais colocam em prática os nossos princípios de segurança e privacidade. Aprendemos e refinamos continuamente a nossa abordagem à medida que recolhemos feedback do mundo real a partir da pré-visualização quando ficar disponível. Adicionámos quatro novos blocos modulares a Windows 11 para apoiar esta exploração. Durante o período de pré-visualização, continuamos a adicionar controlos de privacidade e segurança mais granulares antes de disponibilizar estas funcionalidades amplamente disponíveis:

• Controlo do Utilizador: as Ações copiais estão desativadas por predefinição e só são ativadas quando o utilizador ativa a seguinte definição do Windows em Definições Componentes> de IA dosistema>Ferramentas> de agenteFuncionalidades>agente experimentais.
• Contas de agente: uma conta padrão separada no seu dispositivo que os agentes utilizam quando atuam em seu nome, ativando a autorização ao nível do agente e o controlo de acesso.
• Área de trabalho do agente: um ambiente contido onde os agentes podem trabalhar em paralelo com um utilizador humano, o que permite o isolamento do runtime e as permissões granulares. Este ambiente fornece ao agente capacidades como o seu próprio ambiente de trabalho, ao mesmo tempo que limita a visibilidade e o acesso que o agente tem à atividade de ambiente de trabalho do utilizador. A área de trabalho do agente baseia-se em limites de segurança reconhecidos que a Microsoft defende de acordo com os nossos critérios de manutenção de segurança de longa data. Para obter mais informações sobre as áreas de trabalho do agente, veja Funcionalidades agentes experimentais – Saiba Mais.
• Transparência do Utilizador: uma forma de os utilizadores autorizarem, monitorizarem e assumirem as ações do agente na área de trabalho do agente.

Mais blocos modulares, como Microsoft Entra e suporte de identidades MSA, estarão disponíveis em breve.

As aplicações e ações condicionadas pelas Ações Copilot são executadas na conta do agente em vez da conta do utilizador de PC com sessão iniciada. Esta distinção separa claramente o trabalho realizado pelo agente de outras ações no sistema, como as executadas pelo utilizador do PC. As contas de agente só são aprovisionadas quando os utilizadores ativam a área de trabalho do agente.

Durante a pré-visualização experimental do Copilot Actions, o agente tem acesso a um conjunto limitado de pastas conhecidas locais do utilizador , como Documentos, Transferências, Ambiente de Trabalho ou Imagens, e outros recursos que estão acessíveis a todas as contas no sistema. As Ações copilot só podem aceder a dados fora destas pastas quando o utilizador fornecer autorização. Standard mecanismos de segurança do Windows, como listas de controlo de acesso (ACLs), ajudam a impedir a utilização não autorizada.

Enquanto o Copilot Actions está a funcionar, os utilizadores podem monitorizar o seu progresso, manter-se informados em cada passo e assumir o controlo a qualquer momento. Quando estão envolvidas ações confidenciais ou decisões importantes, as Ações copilot podem pedir aprovação adicional do utilizador para efetuar esses passos específicos, garantindo o seu consentimento e colocando-os no comando antes de acontecer algo crítico.

Olhando para o futuro

A segurança é um compromisso contínuo. À medida que expandimos as capacidades agentes no Windows, continuamos a desenvolver as nossas defesas. Com a próxima versão de pré-visualização do Copilot Actions para Windows Insiders no Copilot Labs, estamos ansiosos por recolher feedback valioso que nos ajude a moldar a experiência ainda mais antes do lançamento mais amplo. Além disso, a plataforma windows e os respetivos controlos de segurança estarão disponíveis para outros programadores em pré-visualização em breve para testar e fornecer entradas.

Windows 11 é a versão mais segura do Windows alguma vez criada. À medida que efetuamos esta nova era agente, o nosso compromisso é claro: o Windows será a plataforma mais segura, fidedigna e centrada no utilizador para computação agente.