Microsoft 365 Copilot 구성 및 계획 가이드는 호주와 뉴질랜드에 민감한 민감하고 규제된 고객을 위한 것입니다. 이 가이드는 Microsoft 365 용 보안 클라우드 구성 지침에 대한 ASD(Australian Signals Directorate) 청사진 과 일치합니다.
이 문서에서는 ASD 청사진을 포함하여 Copilot의 보안 및 규정 준수 기능을 이해하는 데 필수적인 서비스 구성 요소 및 서비스 경계를 살펴봅니다.
서비스 구성 요소
Microsoft 글로벌 네트워크
Microsoft 글로벌 네트워크는 안전하고 효율적인 데이터 흐름을 보장하여 Microsoft 365 서비스 경계를 지원하는 방대한 인프라입니다. 여기에는 Microsoft 글로벌 네트워크와의 네트워크 또는 ISP(인터넷 서비스 공급자) 피어링과 연결을 최적화하고 대기 시간을 줄이는 데 도움이 되는 150개 이상의 피어링 위치가 포함됩니다. 이 네트워크는 Microsoft 365 서비스에 대한 사용자 연결이 가능한 가장 짧은 경로를 가장 가까운 Microsoft 글로벌 네트워크 진입점으로 가져와 고성능 및 안정성을 유지하도록 합니다.
Microsoft 글로벌 네트워크는 웹의 최신 정보와 응답을 근거로 하는 Bing API 서비스 및 기관이 암호화된 흐름을 통해 연결할 수 있는 기타 Microsoft 서비스를 호스트합니다.
Microsoft 365 서비스 경계
Microsoft 365에는 다양한 Microsoft 365 서비스를 포괄하는 서비스 경계가 있어 Microsoft 365의 아키텍처, 소프트웨어 엔지니어링, 보안, 규정 준수 및 개인 정보 표준 및 제어를 준수합니다. 이 경계는 광범위한 Microsoft Cloud 제품에서 Microsoft 365 서비스의 scope 표시하고 해당 구성 요소 간에 일관된 표준을 유지 관리합니다. 경계 내의 시스템에는 Microsoft 365의 엄격한 규정 준수 표준이 적용됩니다.
Microsoft 365 Copilot는 Microsoft 365 서비스 경계 내에서 작동하므로 SharePoint, Exchange, Teams, Planner, Microsoft 365 Search 등과 같은 다른 서비스와 함께 Microsoft 365 제품군의 필수적인 부분입니다. Microsoft 365 Copilot는 핵심 온라인 서비스로, Microsoft 제품 약관 내에서 가장 강력한 보안 및 규정 준수 계약 약정의 적용 을 받습니다.
코필로트 오케스트레이터
Microsoft 365 Copilot로 표현되는 Copilot Orchestrator는 모든 관련 상호 작용을 관리합니다. Copilot Orchestrator는 AI가 아니라 Copilot 환경을 구성하는 AI 모델, 데이터 원본 및 플러그 인 전반의 코디네이터입니다.
Copilot Orchestrator는 최종 사용자로부터 상호 작용을 수신하고 RAG(Retrieval-Augmented-Generation) 프로세스를 시작하여 자연어 응답을 생성합니다. 이 프로세스는 사용자에게 다시 전달되기 전에 여러 단계를 통해 처리됩니다.
Retrieval-Augmented-Generation 프로세스에 대한 자세한 내용은 Microsoft의 Azure OpenAI Service 온라인 설명서를 참조하세요. Microsoft는 Microsoft 365 Copilot에 대한 데이터 개인 정보 보호 약정 과 웹 검색 구성 요소에 대한 정보를 문서화했습니다.
대규모 언어 모델
LLM(큰 언어 모델)은 자연어와 유사한 방식으로 텍스트를 해석하고 생성하는 고급 AI 도구입니다. 방대한 양의 텍스트 데이터를 학습하고 다양한 언어 관련 작업을 수행할 수 있는 통계 관계를 학습합니다. LLM은 일관되고 상황에 맞는 텍스트를 생성하고, 언어를 번역하고, 콘텐츠를 요약하고, 질문에 답변하고, 창의적인 쓰기 또는 코드 생성에 도움을 줄 수 있습니다.
Microsoft 365 Copilot는 투명도 참고에서 자세히 설명하는 대형 언어 모델의 조합을 사용합니다.
Microsoft는 Azure OpenAI Service의 instance Microsoft 365 Copilot에서 사용하는 대규모 언어 모델을 호스트합니다. Azure OpenAI Service의 이 instance Microsoft 365 전용이며 Microsoft 365 서비스 경계 내에 있습니다. Microsoft는 고객 데이터에 대한 대규모 언어 모델을 학습시키지 않으며 Azure OpenAI Service는 고객 데이터를 유지하지 않습니다. Microsoft 365 Copilot는 상호 작용을 시작하는 최종 사용자의 콘텐츠 액세스 권한과 함께 Microsoft 365에 설정된 organization 보안, 규정 준수 및 개인 정보 보호 정책을 자동으로 상속합니다.
Microsoft Graph
그래프는 모든 organization Microsoft 365 테넌트의 필수적인 부분입니다. 검색 인덱스가 있는 위치이며 고객의 콘텐츠에 대한 액세스를 제어하는 메커니즘입니다. Graph는 콘텐츠의 게이트키퍼이며 모든 Microsoft 365 상호 작용에서 필수적인 역할을 합니다. 고객의 콘텐츠에 존재하는 보안 권한을 적용하고 해당 콘텐츠에 대한 안전하고 규정을 준수하며 감사 가능한 액세스를 제공합니다.
Microsoft 365 Copilot는 사용자가 파일에 액세스하거나 매일 검색을 수행할 때 상호 작용하는 것과 동일한 메커니즘을 통해 콘텐츠에 액세스합니다.
이러한 방식으로 Microsoft 365 Copilot는 최종 사용자가 이미 액세스할 수 있는 콘텐츠에만 액세스할 수 있습니다. 따라서 대용량 언어 모델은 Copilot 외부의 다른 시나리오에서 사용자를 제한하는 동일한 메커니즘에 의해 제한되므로 사용자가 액세스할 수 없는 콘텐츠에 액세스하도록 결정할 수 없습니다.
Microsoft 365 Copilot는 개념 및 언어에 대한 의미 체계 이해를 Microsoft Graph에 포함하고 Copilot 및 Microsoft 365 Search를 사용하여 자연어 식을 더 잘 이해할 수 있도록 하는 추가 검색 인덱싱 방법을 소개합니다. 이 인덱싱 방법은 Copilot가 가장 관련성이 큰 콘텐츠를 찾고 사용하는 기능을 크게 향상시킵니다. 이 추가 자연어 데이터를 의미 체계 인덱스라고 합니다.
코필로트 에이전트
Copilot 에이전트 는 Microsoft 365 Copilot 에코시스템의 일부입니다. 고급 AI 기능을 통해 작업 및 프로세스를 자동화하여 생산성을 향상시킵니다. Microsoft 365 Copilot 및 Copilot Chat 환경에서 모두 사용할 수 있습니다.
Copilot 에이전트는 organization 지식 및 데이터 원본에 연결합니다. 이렇게 하면 특정 문서, 데이터베이스 및 기타 정보 리포지토리에 액세스하고 활용하여 정확하고 상황에 맞는 응답을 제공할 수 있습니다. 이 연결은 에이전트를 다양한 데이터 원본에 연결하는 API 및 커넥터를 통해 촉진되므로 필요한 정보를 실시간으로 검색하고 처리할 수 있습니다. 또한 Copilot 에이전트는 확장 가능하도록 설계되어 개발자가 특정 비즈니스 요구에 맞는 새로운 기술과 기능을 갖출 수 있습니다.
서비스 아키텍처 및 정보 흐름
Microsoft 365 Copilot 서비스 아키텍처
다음 다이어그램은 Microsoft 365 Copilot 고객이 서비스 아키텍처를 이해하고 이 페이지의 컨텍스트를 제공하는 데 도움이 됩니다.
다음은 Microsoft 365 Copilot 서비스를 통한 일반적인 정보 흐름입니다.
- Microsoft 365 앱에서 사용자가 Copilot에 프롬프트를 입력합니다.
- Copilot는 접지를 사용하여 입력 프롬프트를 전처리하고 사용자의 테넌트에서 또는 활성화된 경우 다른 플랫폼에서 Microsoft Graph에 액세스합니다.
- 웹 접지를 사용하도록 설정하면 Copilot는 Bing Index에서 정보를 수집합니다.
- Copilot는 접지 프롬프트를 LLM에 보냅니다. LLM은 프롬프트를 사용하여 사용자의 작업과 컨텍스트적으로 관련된 응답을 생성합니다.
- Copilot는 앱 및 사용자에 대한 응답을 반환합니다. 프롬프트와 결과는 모두 기록되며 관리자가 Microsoft Purview의 AI 기능에 대한 데이터 보안 태세 관리(DSPM)를 통해 볼 수 있습니다.
Microsoft 365 Copilot의 작동 방식에 대한 자세한 내용은 아키텍처 연습을 참조하세요.
Copilot Chat 서비스 아키텍처
Copilot Chat 추가 비용 없이 엔터프라이즈 데이터 보호를 통해 적격 고객에게 제공됩니다.
다음은 Microsoft 365 Copilot 서비스의 하위 집합인 Copilot Chat 서비스를 통한 일반적인 정보 흐름입니다.
- 사용자는 Copilot Chat 인터페이스를 사용하여 Microsoft Teams의 브라우저 또는 고정된 애플리케이션을 통해 프롬프트를 입력합니다.
- 사용자가 프롬프트의 일부로 문서를 포함하는 경우 문서는 Microsoft 365 서비스 경계 내의 사용자의 OneDrive에 저장됩니다. 조직 데이터와 다른 상호 작용은 불가능합니다. Copilot가 응답을 생성하는 데 사용하는 모든 데이터는 전송 중에 암호화됩니다.
- 웹 접지가 사용하도록 설정된 경우 Copilot Chat 사용자의 프롬프트를 구문 분석하고 웹의 정보가 응답 품질을 향상시키는 용어를 식별합니다. 이러한 용어에 따라 Copilot는 Bing API로 보내는 검색 쿼리를 생성합니다. 여기서 Bing 인덱스는 최신 검색 결과를 가져오는 데 사용됩니다. 상호 작용에 대한 보안을 통해 Bing Index는 이 상호 작용에서 '학습'하지 않습니다. 관리자는 Bing Index 상호 작용을 켜거나 끌 수 있습니다. 웹 접지가 꺼져 있으면 이 상호 작용이 수행되지 않고 흐름이 다음 상호 작용으로 직접 이동합니다. Microsoft 365 Copilot 및 Microsoft 365 Copilot Chat 웹 검색을 위한 데이터, 개인 정보 보호 및 보안은 웹 기반 Copilot 서비스를 사용할 때 Microsoft의 데이터 개인 정보 보호 및 보안 약정을 간략하게 설명합니다. Microsoft 365 Copilot 및 Copilot Chat 웹 콘텐츠(Bing 통합)에 대한 액세스는 정부 및 규제 대상 고객을 위한 권장 지침을 캡처합니다.
- Copilot는 웹 기반 프롬프트를 LLM으로 보내거나(웹 접지가 꺼진 경우) 원본 프롬프트가 첨부된 파일과 함께 처리를 위해 LLM으로 전송됩니다. LLM은 프롬프트를 사용하여 사용자의 작업과 컨텍스트적으로 관련된 응답을 생성합니다(세계에 대한 개념적 이해와 논리적 결론을 추론하는 기능 적용).
- Copilot는 앱 및 사용자에 대한 응답을 반환합니다. 프롬프트와 결과는 모두 기록되며 관리자가 Microsoft Purview의 AI 기능에 대한 데이터 보안 태세 관리(DSPM)를 통해 볼 수 있습니다.
Microsoft 365 Copilot와 Copilot Chat 차이점은 Microsoft 커뮤니티 허브 블로그 게시물에 자세히 설명되어 있습니다.
참고
Microsoft는 정부 전체의 모든 사용자에 대해 Copilot를 고정하는 것이 좋습니다.
예제 시나리오 연습
Copilot Chat 서비스는 광범위한 Microsoft 365 서비스 경계 내에서 작동합니다. 다음 시나리오에서는 웹 접지 사용과 사용자 상호 작용의 논리적 흐름을 설명합니다.
시나리오 1: Microsoft에서 릴리스한 최신 패치에 대한 웹 검색(Microsoft Teams의 Copilot Chat 앱을 통해 제출됨)
다음 시퀀스는 Copilot Chat 시나리오 1을 실행하는 방법을 설명합니다.
- 사용자는 Copilot Chat 다음 프롬프트를 입력합니다. 표에서 지난 30일 동안 Microsoft에서 Windows 11 위해 릴리스한 모든 보안 패치 업데이트 목록을 제공할 수 있나요? IT 및 최종 사용자에게 미치는 영향에 대한 평가를 열에 포함합니다. 또한 각 패치가 해결하려는 ISM 컨트롤과 ISM을 준수하는 실행에 필요한 기간을 포함합니다.
- 이 쿼리에 첨부된 문서가 없으므로 API를 통해 Bing Index 호출이 수행되지 않습니다.
- Copilot는 최신 정보를 검색하기 위해 Bing Index에 키워드 집합을 보냅니다. 여러 참조의 콘텐츠를 입력으로 사용하여 응답을 컴파일할 수 있습니다.
- 최신 검색 결과는 기존 정보 외에도 응답이 공식화되는 초기 프롬프트와 함께 LLM으로 전송됩니다.
- Copilot는 유효성을 검사하기 위해 사용자에게 응답 및 연결된 참조를 반환합니다. 프롬프트와 결과는 모두 기록되며 관리자가 AI용 DSPM 통해 볼 수 있습니다.
시나리오 2: 부서별 프로젝트에 대한 웹 검색은 Copilot Chat
다음 시퀀스는 Copilot Chat 시나리오 2를 실행하는 방법을 설명합니다.
- 사용자는 브라우저의 Copilot Chat 다음 프롬프트를 입력합니다. Project Sunshine에 대한 세부 정보를 제공할 수 있나요?
<department name> - 이 쿼리에 첨부된 문서가 없습니다.
- Copilot는 최신 정보를 검색하기 위해 Bing Index에 키워드 집합을 보냅니다. 내부 프로젝트이므로 Bing Index에서 정보를 사용할 가능성은 거의 없습니다. Bing은 이 상호 작용에서 학습하지 않습니다.
- 검색 결과는 LLM으로 전송됩니다. 여기서 기존 정보 외에도 응답이 공식화됩니다.
- Copilot는 유효성을 검사하기 위해 사용자에게 응답 및 연결된 참조를 반환합니다. 참조에는 정보를 찾을 수 없는 프로젝트에 대한 정보를 검색한 원본이 포함될 수 있습니다. 프롬프트와 결과는 모두 기록되며 관리자가 AI용 DSPM 통해 볼 수 있습니다.
시나리오 3: 보호됨으로 분류된 문서를 참조하는 Copilot 채팅 프롬프트
다음 시퀀스는 Copilot Chat 시나리오 3을 실행하는 방법을 설명합니다.
- 사용자는 보호됨으로 분류된 문서를 Copilot Chat 업로드하고 브라우저의 Copilot Chat 다음 프롬프트를 입력합니다. 요약
<document name>을 제공할 수 있나요? - 문서 이름 보호된 Report.docx 쿼리에 연결됩니다. 문서는 사용자의 OneDrive 내에서 내 파일>Microsoft Copilot 채팅 파일에 업로드됩니다.
- 기존 정보 요약에 대한 요청이므로 Bing Index에서 요청된 정보가 없습니다.
- 문서 콘텐츠는 LLM으로 전송되며, 여기서 문서의 요약이 작성됩니다.
- Copilot는 유효성을 검사하기 위해 사용자에게 응답 및 연결된 참조를 반환합니다. 참조에는 요약을 생성하는 데 사용된 원본이 포함됩니다. 프롬프트와 결과는 모두 기록되며 관리자가 AI용 DSPM 통해 볼 수 있습니다.
시나리오 4: 사용자가 보호됨으로 분류된 PowerPoint 문서에서 작업 중이며 Copilot Chat 쪽 창을 사용합니다.
다음 시퀀스는 Copilot Chat 시나리오 4를 실행하는 방법을 설명합니다.
- 사용자가 보호됨으로 분류된 PowerPoint 프레젠테이션 문서를 열고 측면 창의 Copilot Chat 다음 정보를 입력합니다. 문서 분석 및 개선 방법에 대한 제안
- 문서 콘텐츠를 이미 사용할 수 있으므로 문서의 복사본은 사용자의 OneDrive 내에 저장되지 않습니다.
- Copilot는 Bing Index에 키워드 집합을 보내 키워드(keyword) 일치를 기반으로 최신 정보를 검색합니다. Bing Index는 개선 사항 분석과 관련된 정보를 반환합니다. Bing은 이 상호 작용에서 학습하지 않습니다.
- 검색 결과는 LLM으로 전송됩니다. 여기서 기존 정보 외에도 응답이 공식화됩니다.
- Copilot는 유효성을 검사하기 위해 사용자에게 응답 및 연결된 참조를 반환합니다. 참조에는 요약을 생성하는 데 사용된 원본이 포함됩니다. 프롬프트와 결과는 모두 기록되며 관리자가 AI용 DSPM 통해 볼 수 있습니다.
커넥터 및 플러그 인
co
커넥터와 플러그 인은 모두 Microsoft 365 외부의 데이터 및 시스템에 대한 액세스를 만듭니다. 기본적으로 Microsoft 365 서비스 경계 외부의 데이터 및 시스템에 연결합니다.
| 커넥터 | 플러그 인 |
|---|---|
| 외부 데이터 액세스 | 새 기술 추가 |
| 일정에 따라 실행 | 실시간으로 실행 |
| 단방향 데이터 흐름(읽기) | 양방향 데이터 흐름(읽기 및 쓰기)을 지원할 수 있습니다. |
| 파일 공유, 인트라넷 및 기술 자료와 같은 정적 데이터 세트에 적합합니다. | 웹 검색과 같은 제약이 없는 데이터 세트 및 여행 예약 또는 사례 관리와 같은 앱 통합에 적합합니다. |
Copilot Studio Copilot용 사용자 지정 커넥터 및 플러그 인을 개발하기 위한 로우 코드/코드 없는 도구 집합을 제공합니다. Copilot Studio Microsoft 365 Copilot 구독에 포함되며 사용자별로 사용하거나 사용하지 않도록 설정할 수 있습니다. 자세한 내용은 라이선스 할당을 참조하세요.
커넥터
커넥터는 일정에 따라 실행하여 외부 데이터를 Microsoft Graph에 인덱싱합니다. 외부 콘텐츠를 그래프로 인덱싱하면 Copilot에서 해당 콘텐츠에 액세스할 수 있습니다. 커넥터는 또한 사용자를 위한 Microsoft 365 검색 환경을 개선합니다.
커넥터는 비즈니스 콘텐츠의 대규모 외부 리포지토리를 연결하는 데 유용합니다. 커넥터의 몇 가지 일반적인 예로는 파일 공유, 온-프레미스 인트라넷, 기술 자료 및 organization 자체 공용 웹 사이트가 있습니다. 이러한 커넥터는 상대적으로 정적이며 제한된 데이터 집합입니다. 특정 상호 작용 또는 사용자 컨텍스트에 대한 응답으로 데이터가 생성되지 않는다는 점에서 정적입니다.
사용자는 이러한 데이터 원본을 Microsoft Graph에 인덱싱하여 원본 시스템에 실시간 연결하지 않고도 Copilot(및 Microsoft 365 Search)를 사용하여 콘텐츠에 액세스할 수 있습니다.
고객이 Microsoft 365로 외부 데이터 원본을 가져오고 Copilot용 scope 가져올 수 있는 다양한 기존 커넥터가 있습니다. 커넥터는 고객 데이터를 Microsoft 365 서비스 경계 외부로 쉽게 보낼 수 없지만 서비스 경계 외부에서 데이터를 가져옵니다.
사용 가능한 커넥터 및 해당 보안에 대한 자세한 내용은 미리 빌드된 커넥터 갤러리 및 커넥터 보안 모델을 검토하세요.
플러그 인
플러그 인(Bing 등)은 Copilot에 새로운 기술과 지식을 제공하기 위해 상호 작용 실행 중에 실시간으로 실행된다는 측면에서 커넥터와 다릅니다. 예를 들어 포함된 웹 콘텐츠에 대한 액세스(Bing 통합) 플러그 인을 사용하면 공용 웹 콘텐츠를 실시간으로 통합하여 Copilot에서 사용할 수 있는 지식을 보강할 수 있습니다.
웹 콘텐츠 플러그 인을 사용하면 Copilot에 대한 새 실시간 쿼리 원본을 포함할 수 있습니다. Copilot는 Microsoft 365 organization(Microsoft Graph를 통해) 내부의 콘텐츠뿐만 아니라 웹 콘텐츠(Bing Index를 통해)를 병렬로 검색할 수 있습니다. 이 기능은 주제의 공개 콘텐츠를 Microsoft Graph에 포함된 비공개 지식과 통합하는 데 유용할 수 있습니다. 현재 및 최근 이벤트, 최신 업계 뉴스 및 개발 및 기타 품질 온라인 소스에 대한 지식은 Copilot 생성 콘텐츠 및 응답의 품질을 크게 향상시킬 수 있습니다.
또 다른 예는 사용자가 Copilot Chat 환경 내에서 항공편을 검색하고 구성할 수 있도록 Copilot가 자연어 인터페이스를 제공할 수 있는 여행 예약 시스템에 대한 플러그 인입니다. 이 기능은 Microsoft가 아닌 시스템을 기반으로 새롭고 통합되고 간소화된 사용자 환경을 제공할 수 있습니다.
또한 고객이 자체 플러그 인을 만들어 새로운 기술을 제공하고 다른 비즈니스 애플리케이션 라인을 Copilot와 통합하여 organization 직원을 위한 Copilot의 지식과 기술 세트를 향상시킬 수 있습니다. Copilot 플러그 인에 대한 자세한 내용은 온라인 확장성 가이드를 참조하세요.