컴퓨터 사용 관련 연구원 질문과 대답

이제 연구원 에이전트는 프롬프트에 대해 "컴퓨터 사용" 옵션을 제공합니다. 컴퓨터 사용을 사용하는 옵션을 선택합니다. 관리자는 연구원과 함께 컴퓨터 사용을 사용하려면 먼저 기능에 대한 액세스를 허용해야 합니다. 자세한 내용은 컴퓨터 사용을 사용하는 연구원 개요를 참조하세요.

컴퓨터 사용이 트리거되면 대화 전용 샌드박스 환경이 만들어집니다. 이 환경은 Microsoft에서 설정한 엄격한 브라우저 및 네트워크 정책을 따릅니다. 인트라넷과 사용자의 디바이스 모두에서 격리됩니다. 관리자는 허용 또는 차단 목록에 특정 도메인을 추가하여 샌드박스를 사용자 지정할 수 있습니다. 연구원 에이전트의 명령이 안전하게 전송됩니다. 샌드박스 환경은 장기간 사용되지 않으며 임시 환경입니다. 적용된 정책을 사용하여 웹에만 액세스할 수 있으며 샌드박스 내/외부에 사용자 자격 증명이 저장되거나 전송되지 않습니다. 가상 머신은 에이전트용 Windows 365 실행되며 Linux를 실행하는 컨테이너를 호스트합니다.

관리자는 기능 사용 또는 사용 안 함, 회사 콘텐츠에 대한 액세스, 허용된 사이트 구성 등 컴퓨터 사용 설정을 관리할 수 있습니다. 자세한 내용은 컴퓨터 사용 관리자 구성을 사용하는 연구원 에이전트를 참조하세요.

예- 관리자는 연구원과 함께 컴퓨터 사용을 Microsoft 365 관리 센터 특정 사용자 또는 그룹으로 제한할 수 있습니다.

예. 연구원은 엔터프라이즈 보안을 염두에 두고 설계되었습니다. Microsoft 365 데이터 경계 내에서 작동하며 Microsoft 365와 동일한 엔터프라이즈급 규정 준수 및 거버넌스 표준을 따릅니다. 또한 관리자는 이 기능을 세부적으로 제어할 수 있습니다. 자세한 내용은 컴퓨터 사용 관리자 구성을 사용하는 연구원 에이전트를 참조하세요.

가상 머신의 스크린샷은 컨트롤의 모델이 탐색, 콘텐츠 읽기 또는 도구 액세스에 도움이 될 때만 수행됩니다. 스크린샷은 사용자가 인증, captcha 확인 등과 같은 중요하거나 중요한 작업을 제어할 때는 수행되지 않으며, 사용자는 '생각의 체인'의 대화 기록에서 액세스할 수 있습니다. 사용자는 대화 기록을 삭제하여 스크린샷을 포함하여 해당 대화와 연결된 모든 데이터를 삭제할 수 있습니다.

예, 컴퓨터 사용을 사용하는 연구원은 모든 보안, 개인 정보 보호, 규정 준수 및 책임 있는 AI 정책을 따릅니다. 또한 사용을 더욱 보호하기 위해 컴퓨터 사용에 대한 RAI 검사를 구현했습니다.

이제 연구원의 안전 스택은 쿼리 및 도구 출력을 넘어설 수 있습니다. 샌드박스 환경의 모든 네트워크 작업은 다음을 위해 설계된 향상된 분류자를 통해 검사됩니다.

• 도메인 안전 확인 - 아웃바운드 웹 액세스가 안전한지 확인합니다.
• 관련성 유효성 검사 - 네트워크 요청이 사용자의 쿼리와 일치하는지 확인합니다.
• 콘텐츠 형식 분석 - 이미지, 이진 데이터 및 텍스트를 구분합니다.

Microsoft 365 Copilot 연구원 에이전트는 Microsoft의 내부 사용량 및 공개 데이터 외에도 광범위한 수동 및 자동화된 테스트를 사용하여 평가되었습니다. 추가 평가는 공격적이고 악의적인 프롬프트(사용자 질문) 및 응답을 위해 사용자 지정 데이터 세트를 사용하여 수행되었습니다.

Copilot에는 프롬프트에서 불쾌한 언어를 차단하고 중요한 컨텍스트에서 제안을 합성하지 않도록 하는 필터가 포함되어 있습니다. 우리는 더 지능적으로 공격 출력을 감지하고 제거하기 위해 필터 시스템을 개선하기 위해 계속 노력하고 있습니다. 공격적인 출력이 표시되면 안전 장치를 개선할 수 있도록 엄지 손가락 위로/엄지 손가락 아래로 아이콘을 사용하여 피드백을 친절하게 제출하세요. Microsoft는 이 피드백을 진지하게 받아들이고 이를 해결하기 위해 최선을 다하고 있습니다.