什麼是透明通知？
AI 系統不僅包含技術本身，還包括將使用它的人、受影響的人，以及它所部署的環境。 打造一套符合預期目的的系統，需要了解技術運作方式、其能力與限制，以及如何達到最佳效能。 Microsoft 的透明度備註旨在幫助您了解我們的 AI 技術如何運作、系統擁有者可能做出的選擇如何影響系統效能與行為，以及思考整個系統的重要性，包括技術、人員與環境。 隨著服務的演進，我們會持續更新此文件。
Microsoft 的透明度備註是 Microsoft 將 AI 原則付諸實踐的更廣泛努力的一部分。 欲了解更多，請參閱 Microsoft AI 原則。
Microsoft 365 Copilot 的基本原理
簡介
Microsoft 365 Copilot 是一款由 AI 驅動的生產力工具，利用大型語言模型 (大型語言模型) ，並將資料整合至 Microsoft Graph 及 Microsoft 365 應用程式與服務。 它可和熱門的 Microsoft 365 應用程式 (例如 Word、Excel、PowerPoint、Outlook、Teams 等) 一起運作。
Microsoft 365 Copilot 採用 Azure OpenAI Service 提供的多種模型組合。 這讓我們能將每個功能的具體需求——例如速度、創意——匹配到合適的模型，讓 Microsoft 365 Copilot 能提供即時智慧協助，幫助使用者提升創意、生產力與技能。
關於 OpenAI 提供給 Microsoft 的 LLM 的更多詳細資訊，請參閱其公開文件，詳見 Models - OpenAI API。
關鍵術語
| 術語 | 描述 |
|---|---|
| 使用者提示 | 使用者提示是發送給 Microsoft 365 Copilot 以執行特定任務或提供資訊的文字。 例如，使用者可能會輸入以下提示：寫一封電子郵件，恭喜我的團隊財政年度結束。 |
| 處理 | 在 Microsoft 365 Copilot 中處理使用者提示包含多個步驟，包括負責任的 AI 檢查，以確保 Microsoft 365 Copilot 能提供相關且可執行的回應。 |
| 基礎設置 | 接地是指向大型語言模型提供與使用者提示相關的輸入來源的過程。 透過讓 Microsoft 365 Copilot 能夠存取資料作為輸入來源——例如 Microsoft Graph 或 Bing 的資料——Microsoft 365 Copilot 可能為使用者提供更準確、具情境相關的回應。 |
| Microsoft Graph | Microsoft Graph 是 Microsoft 365 中資料和智慧的閘道。 它包含使用者、活動與組織資料之間的關係資訊。 |
| Microsoft Graph 連接器 | Microsoft Graph 連接器提供一種將外部服務內容帶入 Microsoft Graph 的方法，使外部資料能驅動 Microsoft 365 智慧體驗，如 Microsoft Search 和 Microsoft 365 Copilot。 |
| 索引 | Microsoft 同時使用詞彙與語意索引，將 Microsoft Graph 資料與企業資料中的 Microsoft 365 Copilot 回應進行地面化。 索引透過解讀使用者提示，產生與情境相關的回應。 關於索引的更多資訊，請參見系統行為。 |
| 豐富提示 | 當使用者輸入的提示中加入額外指令，以引導 Microsoft 365 Copilot 產生更具體且相關的回應時，提示詞會更加豐富。 |
| 互動內容 | 此術語用來描述使用者的提示以及 Microsoft 365 Copilot 對該提示的回應。 |
| 大型語言模型 (大型語言模型) | 在此情境下，大型語言模型 (大型語言模型) 是指在大量文字資料上訓練以預測序列中詞彙的人工智慧模型。 LLM 能執行多種任務，如文字生成、摘要、翻譯、分類等。 |
| LLM 回應 | LLM 對使用者提示的回應產生的內容，並回傳給 Microsoft 365 Copilot。 |
| 後製 | Microsoft 365 Copilot 在收到 LLM 回應後所做的處理。 此後處理包括對 Microsoft Graph 的額外接地呼叫、負責任的 AI、安全、合規及隱私檢查。 |
| 負責任的 AI | Microsoft 的政策、研究與工程實踐，皆根植於我們的 AI 原則，並透過負責任 AI 標準實施。 |
| Agents | 代理設計用來自動化並執行 AI 的業務流程，基於預先定義的指令及組織資料存取權限。 他們能協助或獨立代表個人或團隊行動——範圍從簡單的即時反應互動到完全自主執行任務。 欲了解更多關於 AI 在 Copilot 代理人中的應用資訊，請直接參考相關產品。 |
| 紅隊測試 | 專家用來評估系統的限制與脆弱性，以及測試計畫緩解措施成效的技術。 紅隊測試用於識別潛在風險，與系統性風險測量不同。 |
功能
功能
| 功能 | 描述 |
|---|---|
| Microsoft 365 Copilot 在 Word 中 | Microsoft 365 Copilot 在 Word 中以高效率且富有創意的方式轉化寫作，讓使用者能夠創建、摘要、理解、精煉並提升文件。 使用者還能使用增強功能，例如將文字視覺化並轉換成表格。 其他功能還包括新增現有提示、透過參考其他文件來起草文件，以及發現文件相關資訊。 欲了解更多資訊，請參閱 Word 中 Copilot 的常見問題。 |
| Microsoft 365 Copilot 在 PowerPoint 中的應用 | PowerPoint 中的 Microsoft 365 Copilot 讓使用者能從提示詞或 Word 檔案建立新的簡報，並利用企業範本。 聊天功能支援摘要與&問答，輕度指令則讓使用者能新增投影片、圖片，或進行全牌組格式變更。 PowerPoint 檔案也可用於接地資料。 欲了解更多資訊，請參閱 PowerPoint 中關於 Copilot 的常見問題。 |
| Microsoft 365 Copilot 在 Excel 中的應用 | Microsoft 365 Copilot Excel 協助使用者提出公式、圖表類型及試算表資料的見解建議。 欲了解更多資訊，請參閱 Excel 中 Copilot 的常見問題。 |
| Microsoft 365 Copilot 在 Outlook 中使用 | Outlook 中的 Microsoft 365 Copilot 有助於管理電子郵件收件匣並更有效率地創造有影響力的溝通。 Outlook 中的 Microsoft 365 Copilot 可以摘要電子郵件串、建議行動項目、回覆及後續會議。 它也能在撰寫電子郵件時調整長度和語氣。 欲了解更多資訊，請參閱 Outlook 中關於 Copilot 的常見問題。 |
| Microsoft 365 Copilot 在 Teams 中的應用 | Teams 中的 Microsoft 365 Copilot 可以回顧對話、組織關鍵討論點，並總結關鍵動作。 使用者可以獲得特定問題的答案，並在會議或聊天中補上錯過的資訊 欲了解更多資訊，請參閱 Microsoft Teams 中 Copilot 的常見問題。 |
| Microsoft 365 Copilot 在 Loop 中 | Microsoft 365 Copilot 在 Loop 中允許使用者透過 Copilot 直接編輯或精煉來協作改進內容。 欲了解更多資訊，請參閱 Loop 中 Copilot 的常見問題。 |
| Microsoft Stream 中的 Microsoft 365 Copilot | Microsoft Stream 中的 Microsoft 365 Copilot 幫助從任何帶有逐字稿的影片中取得資訊。 Stream 中的 Microsoft 365 Copilot 可以提供影片摘要、回答特定問題、快速跳轉到特定主題或討論點，並識別行動呼籲。 欲了解更多資訊，請參閱 Stream 中 Copilot 的常見問題。 |
| Microsoft 365 Copilot 在 Whiteboard 中 | Microsoft 365 Copilot 在 Whiteboard 中幫助啟動構思流程，讓構思能產生、分類並總結想法。 欲了解更多資訊，請參閱 Whiteboard 中關於 Copilot 的常見問題。 |
| OneNote 中的 Microsoft 365 Copilot | Microsoft 365 Copilot 在 OneNote 中讓使用者能草擬計畫、產生點子、建立清單並組織資訊，幫助他們在 OneNote 應用程式中找到所需資訊。 欲了解更多資訊，請參閱 OneNote 中 Copilot 的常見問題。 |
| Microsoft 365 Copilot Chat | Microsoft 365 Copilot Chat (前稱 Business Chat) 結合大型語言模型、網際網路、工作內容與語境及其他應用程式的力量，幫助使用者撰寫內容、補足遺漏內容，並透過提示獲得問題解答。 欲了解更多資訊，請參閱關於 Microsoft 365 Copilot Chat 的常見問題。 |
| Microsoft 365 Copilot 在 SharePoint 富文字編輯器中 | Microsoft SharePoint 富文字編輯器中的 Microsoft 365 Copilot 簡化了 SharePoint 頁面與文章的內容創建。 透過 Copilot，你可以重寫文字、調整語氣、濃縮資訊並豐富想法。 欲了解更多資訊，請參閱 SharePoint 中 Copilot 的常見問題。 |
| OneDrive 中的 Microsoft 365 Copilot | OneDrive 中的 Microsoft 365 Copilot 是一款創新的 AI 驅動助理，旨在協助你透過提取資訊、比較主要差異、摘要檔案及產生洞見來與文件互動。 欲了解更多資訊，請參閱 OneDrive 中 Copilot 的常見問題。 |
| Microsoft 365 Copilot 瀏覽卡 | 瀏覽卡片提供工作實體（如文件）的快速預覽，幫助評估相關性或記憶性。 透過滑鼠移到Microsoft 365 Copilot應用程式的搜尋標籤中的檔案即可取得。 |
| 智慧搜尋 | 智慧搜尋使得在資料宇宙應用中，如Dynamics 365 Sales、服務及財務 & 營運，使用自然語言進行搜尋。 |
| 電源平台連接器 | Power Platform 連接器讓客戶能在 Microsoft 365 Copilot 體驗中存取來自多個商業及個人生產力應用程式的即時資料。 |
| Microsoft Graph 連接器 | Microsoft Graph 連接器可連接外部資料來源，包含依 Microsoft 365 Copilot 授權可連接多達 500 個項目。 |
| Microsoft Purview | Microsoft Purview 是一種幫助組織管理與保護資料的解決方案。 它提供一個統一的平台，用於資料治理、資訊保護、風險管理及合規。 客戶可擴展 Purview Microsoft Microsoft訂閱所提供的功能， (例如 Microsoft 365 E3 或 E5 訂閱，) Microsoft 365 Copilot資料與互動。 |
| Microsoft 365 Copilot 微調 | Microsoft 365 Copilot 微調讓組織能利用自身租戶資料微調大型語言模型 (大型語言模型) 。 這些模型可用於執行基於組織獨特知識的領域專屬任務。 欲了解更多資訊，請參閱 Microsoft 365 Copilot 微調的負責任 AI 常見問題。 |
| Microsoft Copilot Studio | Microsoft Copilot Studio 是一個強大的平台，用於打造安全、可擴展且智慧的代理程式，能在 Microsoft 365 及業務線上系統中運作。 欲了解更多資訊，請參閱 Copilot Studio 概覽。 |
| Microsoft 365 Copilot 中的代理建構器功能 | Microsoft 365 Copilot 中的代理建構器功能提供簡單介面，讓你能快速且輕鬆地建立宣告式代理，無論是使用自然語言還是手動。 欲了解更多資訊，請參閱 Microsoft 365 Copilot 中的「使用 Agent Builder 建構宣告式代理」。 |
| Microsoft 365 Copilot 與電腦使用代理程式 | Microsoft 365 Copilot 搭配電腦使用代理程式，讓你能自動化瀏覽器或桌面任務，讓你的提示能更充分地利用內容與上下文。 由於代理可以代表你執行任務，系統安全或隱私風險可能增加。 為降低此風險，代理設有多項防護措施，包括對內容與行為進行模型驅動的安全檢查，以及租戶管理員控制，可啟用或停用使用電腦的代理，並限制代理可存取的網站與網域。 我們建議您應用這些控制措施並監控代理的使用情況。 |
系統行為
Microsoft 365 Copilot 結合多種大型語言模型來摘要、預測及產生內容。 這些大型語言模型包含預訓練模型，如生成預訓練轉換器 (OpenAI 的 GPT) GPT-4 和 GPT-5，旨在在這些任務中表現出色。
使用者在 Microsoft 365 應用程式中看到的功能，會被視為額外的功能、功能與提示功能。 LLM 與 Microsoft 專有技術協同運作於一個底層系統中，幫助人們安全存取、使用及管理組織資料。
Microsoft 365 應用程式 (如 Word、Excel、PowerPoint、Outlook、OneNote、Teams 及 Loop) 與 Microsoft 365 Copilot 協同運作，協助使用者順利進行工作。 例如，Word 中的 Microsoft 365 Copilot 專為協助使用者建立、理解及編輯文件而設計。 同樣地，其他應用程式中的 Microsoft 365 Copilot 可協助使用者在這些應用程式內處理其工作內容。
Microsoft Graph 一直都是 Microsoft 365 的基礎。 它包含使用者、活動與組織資料之間的關係資訊。 Microsoft 圖形 API 將更多來自客戶訊號的上下文帶入提示，例如來自電子郵件、聊天、文件和會議的資訊。 如需詳細資訊，請參閱 Microsoft Graph 概觀 和 Microsoft Graph 中的主要服務和功能。
Microsoft 365 Copilot Chat 讓客戶能將工作內容與情境帶入 Microsoft 365 Copilot 的聊天功能。 透過 Microsoft 365 Copilot Chat，使用者可以草擬內容、補足錯過的內容，並透過開放式提示獲得問題解答——所有這些都安全地建立在工作數據之上。 在多個場地使用Microsoft 365 Copilot Chat，包括Microsoft隊內、Microsoft365.com 和 copilot.microsoft.com。
語意索引 是從 Microsoft Graph 中內容產生的索引。 它用來協助處理使用者提示，產生與情境相關的回應。 它允許組織搜尋數十億向量 (特徵或屬性的數學表示，) 並回傳相關結果。 語意索引設計以尊重個別使用者的安全情境，且僅顯示使用者可存取的內容。 語意索引建立在 Microsoft 對安全、合規、隱私的全面策略之上，並尊重客戶租戶內所有組織界限。 欲了解更多資訊，請參閱 Copilot 的語意索引。
以下是 Microsoft 365 Copilot 運作方式的說明：
Microsoft 365 Copilot 會接收來自應用程式（如 Word 或 PowerPoint）使用者的輸入提示。
接著，Microsoft 365 Copilot 會處理使用者提示，提升提示的具體性，幫助使用者獲得與其特定任務相關且可執行的答案。 提示詞可包含輸入檔案的文字，或是 Microsoft 365 Copilot 使用 Microsoft Graph 發現的其他內容，Microsoft 365 Copilot 會將此提示傳送給 LLM 進行處理。 Microsoft 365 Copilot 僅存取個別使用者已擁有存取權限的資料，例如基於現有的 Microsoft 365 角色導向存取控制。
Microsoft 365 Copilot 會接收 LLM 的回應並進行後處理。 後處理還包括對 Microsoft Graph 的其他基礎呼叫、負責任的 AI 檢查（如內容分類器）、安全、合規與隱私檢查，以及指令產生。
Microsoft 365 Copilot 會將回應回傳給應用程式，使用者可以檢視並評估回應。
資料在儲存時會加密，並不會用來訓練 Azure OpenAI 服務基礎的大型語言模型，包括 Microsoft 365 Copilot 所使用的大型語言模型。 欲了解更多相關資訊，請參閱 Microsoft 365 Copilot 的資料、隱私與安全。
Microsoft 365 Copilot 如何在沒有網頁內容或組織資料的情況下產生回應
Microsoft 365 Copilot 不要求網頁內容或組織資料來提供回應，但這些資訊能幫助提升回應的品質、準確性與相關性。 當沒有網頁或組織資料回應時，Microsoft 365 Copilot 僅依賴其大型語言模型（LLM）來理解提示並產生回應。 這個過程包括解析輸入、運用模型內部知識庫，並精煉回應以確保其符合情境。
擴充性與客製化
Microsoft 365 Copilot 與 Copilot Studio 中的代理建構器功能，是用於建構安全、可擴展且智慧代理的工具，能跨越 Microsoft 365 及業務線系統運作。 這兩種工具都能讓你建立代理人，但它們滿足不同的需求。 如果你想快速為自己或小團隊建立代理人，使用自然語言和現有內容，可以使用代理建構器功能。 如果您需要面向更廣泛受眾的代理，或代理需要多步驟工作流程或自訂整合等進階功能，請選擇 Copilot Studio。 欲了解更多資訊，請參閱「選擇 Microsoft 365 Copilot 與 Copilot Studio 以建立您的Microsoft 365 Copilot 代理與宣告式代理。
對開發者而言，Microsoft 365 Agents SDK 提供工具，協助建立能深度整合於 Microsoft 365 應用程式與服務的代理程式。
使用案例
Microsoft 365 Copilot 是一項通用服務，設計用來協助任何組織中各種日常任務，透過連結工作資料並與客戶每日使用的應用程式整合。 例如：
聊天與對話互動與建立：使用者可與 Microsoft 365 Copilot Chat 互動，並從可信文件（如公司內部文件或技術支援文件）生成回應。
搜尋：使用者可以搜尋可信來源文件，如公司內部文件。
摘要：使用者可提交內容，針對應用程式內建的預設主題進行摘要。 例如，Teams 聊天、電子郵件、網頁及 Word 文件的摘要。
特定主題的寫作協助：使用者可以創建新內容或重寫用戶提交的內容，作為商業內容或預設主題的寫作輔助。 例如，在 Microsoft Outlook 撰寫電子郵件或在 Microsoft Word 撰寫內容。
字幕或文字轉錄：使用者可以將音訊檔案轉錄成文字，用於自然語言理解或分析任務如摘要。 例如，Teams 會議逐字稿和 Microsoft Stream 上的影片。
Microsoft 提供詳細指引，聚焦於常見使用案例與情境，協助客戶加速將 Microsoft 365 Copilot 功能整合進組織。 欲了解更多，請參閱 Microsoft Copilot 情境庫 – Microsoft 採用。
選擇使用情境時的考量
我們鼓勵用戶在使用前，先審查 Microsoft 365 Copilot 產生的所有內容。 回應品質與準確度取決於多項因素，包括所使用的模型。 此外，我們建議避免某些情境。 在某些情況下，有意義的人為監督與審查能進一步降低有害結果的風險。
避免使用或誤用系統可能導致個人遭受重大的身體或心理傷害。 例如，診斷病患或開立藥物的情境，可能造成重大傷害。
避免使用或濫用該系統，可能會對生活機會或法律地位產生重大影響。 例如，人工智慧系統可能影響個人的法律地位、權利，或其取得信貸、教育、就業、醫療保健、住房、保險、社會福利、服務、機會或提供條件的情境。
請仔細考慮高風險領域或產業的使用案例。 例如醫療或財務方面，但不限於此。
限制
Microsoft 365 Copilot 的具體限制
整合與相容性：雖然 Microsoft 365 Copilot 設計上能無縫整合Microsoft 365 應用程式，但在某些環境中，尤其是第三方 (非Microsoft) 應用程式及自訂或非標準配置，可能存在相容性限制或問題。
客製化與彈性：雖然 Microsoft 365 Copilot 可以客製化，但針對特定組織需求或工作流程，客製化程度有限。 組織可能會覺得某些功能或回應過於僵化，或與組織需求不完全一致。
依賴網路連線：Microsoft 365 Copilot 依賴網路連線來運作。 任何連線中斷都可能影響服務的可用性與效能。
使用者訓練與採用：有效使用 Microsoft 365 Copilot 需要使用者了解其功能與限制。 可能會有學習曲線，使用者需要接受訓練，才能有效互動並受益於服務。
資源密集度：運行先進的 AI 模型需要大量計算資源，尤其在資源有限的環境中，這會影響效能。 使用者在使用尖峰時段可能會遇到延遲或效能問題。
法律與合規考量：組織在使用 Microsoft 365 Copilot 時，特別是在受規範產業中，需考慮自身的法律與合規義務。 Microsoft 正在檢視適用於 Microsoft 作為技術提供者的法規要求，並透過持續改進的過程在產品內加以解決。
偏見、刻板印象與毫無根據的內容：儘管 OpenAI 進行了密集訓練，且 Microsoft 對使用者提示與大型語言模型輸出實施負責任的 AI 控制，AI 服務仍存在錯誤且機率性強。 這使得全面封鎖所有不當內容變得困難，進而導致 AI 生成內容可能產生偏見、刻板印象或缺乏根基。 關於 AI 生成內容已知限制的更多資訊，請參閱 Azure OpenAI 服務透明度說明，其中包含對 Microsoft 365 Copilot 背後大型語言模型的提及。
Microsoft 365 Copilot 效能
在許多 AI 系統中，效能通常以準確度為基準——也就是 AI 系統提供正確預測或輸出的頻率。 使用 Microsoft 365 Copilot 時，兩個不同的使用者可能會對相同的輸出產生不同看法，對其實用性或相關性有不同看法，這意味著這些系統的效能必須更靈活地定義。 我們普遍認為效能是指應用程式能如用戶預期般運作。
提升 Microsoft 365 Copilot 體驗的最佳實務
為了提升 Microsoft 365 Copilot 輸出準確度的效能，我們建議組織考慮以下事項：
寫出好的提示。 撰寫好的提示詞是使用 Microsoft 365 Copilot 取得更好成果的關鍵。 就像有技巧幫助人們有效與人溝通一樣，也有指引能幫助使用者在撰寫提示時獲得更好的成果Microsoft 365 Copilot。 例如：包含細節、結構提示、提供正面指示、反覆迭代與生成，並且始終審查並驗證 AI 生成的回應。 欲了解更多資訊，請參閱 Get better results with Copilot prompting。
允許引用網頁內容。 允許 Microsoft 365 Copilot 引用網頁內容，能提升 Microsoft 365 Copilot 回應的品質、準確性與相關性，尤其是在回應能從網路上獲得最新公開資訊時。 不過請注意，當 Microsoft 365 Copilot 引用網頁內容時，是透過 Bing 搜尋服務進行，且 Bing 搜尋查詢的資料處理方式與 Microsoft 365 Copilot 不同。 Bing 的使用受每位使用者與 Microsoft 之間的 Microsoft 服務合約 以及 Microsoft 隱私權聲明 的約束。
延伸 Microsoft Graph 的基礎。 Microsoft 365 Copilot 利用 Microsoft Graph 的資料，反映在組織特定資料中，如電子郵件、聊天室、檔案和行事曆。 透過擴充 Microsoft Graph，加入來自 CRM 系統或外部檔案庫等組織資料，組織可加入更多情境特定且相關的資訊，進一步提升 Microsoft 365 Copilot 回應的豐富性與準確性。
風險的繪製、衡量與管理
如同其他轉型技術，善用 AI 的優勢並非無風險，Microsoft 負責任 AI 計畫的核心部分是識別潛在風險、衡量其發生可能性，並建立緩解措施來管理。 我們依據 AI 原則與負責任 AI Standard，並結合其他生成式 AI 產品及集中化緩解基礎設施 (Azure AI 內容安全) 的經驗，致力於繪製、衡量並管理潛在風險與濫用Microsoft 365 Copilot同時確保新體驗所帶來的轉化與有益用途。 在以下章節中，我們將說明我們反覆進行的方法，以繪製、衡量及管理潛在風險。
地圖
在模型層面，我們的工作始於 2022 年夏末對 GPT-4 的探索性分析。 這包括與 OpenAI 合作進行大量的紅隊測試。 這項測試旨在評估最新技術在不施加額外防護的情況下如何運作。 當時我們的具體目標是識別風險、發現潛在濫用管道，並識別能力與限制。 我們在 OpenAI 與 Microsoft 的綜合學習促進了模型開發的進展，對我們 Microsoft 來說，也提升了對風險的理解，並促成了所有生成式 AI 技術的早期緩解策略，包括 Microsoft 365 Copilot。
除了模型層級的紅隊測試外，一個多領域專家團隊也對 Microsoft 365 Copilot 的經驗進行應用層級紅隊測試，然後才公開使用。 這個過程幫助我們更了解系統如何被利用，並改進我們的緩解措施。 發佈後，Microsoft 365 Copilot 中的全新 AI 體驗已整合進工程組織現有的生產測量與測試基礎設施中。
測量
紅隊測試可以揭露特定風險的實例，但在正式環境中，使用者將面臨數百萬種不同類型的 Microsoft 365 Copilot 互動。 此外，互動具有情境性且常常多回合，辨識互動中有害內容是一項複雜的任務。 為了更好地理解並應對我們生成式 AI 服務（包括 Microsoft 365 Copilot 體驗）可能面臨的風險，我們針對這些新 AI 體驗開發了負責任的 AI 評估，用以衡量越獄、有害內容及無根據內容等潛在風險。
舉例來說，針對有害內容的部分自動化測量流程，包含兩項主要創新：對話模擬與自動化、人工驗證的對話註解。 首先，負責任的 AI 專家建立了範本，捕捉可能產生不同類型有害內容的對話結構與內容。 這些範本隨後交給對話代理，代理以假設使用者身份與 Microsoft 365 Copilot 互動，產生模擬對話。 為了判斷這些模擬對話是否含有有害內容，我們採用了專家語言學家通常用來標註資料的指引，並加以修改以供大型語言模型（LLMs）大規模標註對話，並不斷精煉指引，直到模型標籤對話與人類標籤對話之間達成顯著一致性。 最後，我們利用模型標籤的對話來了解 Microsoft 365 Copilot 在減少有害內容上的成效。
我們的測量流程使我們能快速進行大規模潛在風險的測量。 隨著預覽期及持續的紅隊測試發現新問題，我們持續擴充與改進測量集，以評估額外風險。
管理
透過紅隊測試等流程識別潛在風險與誤用並進行測量，我們制定了減輕措施以降低潛在傷害。 以下我們將說明其中一些緩解措施。 我們將持續監控 Microsoft 365 Copilot 的使用體驗，以提升產品效能與緩解措施。
分階段釋放，持續評估。 隨著技術與使用者行為的演進，我們持續學習並改進負責任的 AI 方法。 我們定期對 Microsoft 365 Copilot 進行調整，以提升產品效能、改善現有緩解措施，並根據所學實施新的緩解措施。
建立在商業數據基礎上。 大型語言模型的一個已知風險是它們產生不紮實的內容——看似正確但源材料中並不存在的內容。 Microsoft 365 Copilot 的一項重要緩解措施是將 AI 生成的內容建立在使用者根據權限可存取的相關商業資料中。 例如，根據使用者提示，Microsoft 365 Copilot 會被提供相關的商業文件，以建立回應。 然而，在摘要來自各種來源的內容時，Microsoft 365 Copilot 可能會在回應中包含輸入來源中沒有的資訊。 換句話說，它可能產生毫無根據的結果。 使用者在使用 Microsoft 365 Copilot 輸出時，應始終謹慎並自行判斷。 我們已採取多項措施，以降低用戶過度依賴毫無根據的 AI 生成內容的風險。 在可能的情況下，基於商業文件的 Microsoft 365 Copilot 回應會包含來源參考，方便使用者驗證回應並進一步了解。 用戶也會被明確告知自己正在與 AI 系統互動，並建議他們檢查原始資料，以協助他們發揮最佳判斷。
基於 AI 的分類器與元提示，以降低潛在風險或濫用。 使用大型語言模型可能會產生問題性內容，進而造成傷害。 例如，可能涉及自殘、暴力、血腥內容、生物安全議題、受保護資料、不正確資訊、仇恨言論，或可能與非法活動相關的文字。 Azure AI 內容安全與元提示等分類器，是 Microsoft 365 Copilot 實施的緩解措施範例，旨在降低此類內容的風險。 分類器會對文字進行分類，以標示使用者提示或生成回應中可能有害內容的不同類型。 Microsoft 365 Copilot 採用基於 AI 的分類器與內容過濾器。 標記可能導致潛在的緩解措施，例如不將生成內容回傳給用戶或引導用戶轉向其他主題。 Microsoft 為管理員和使用者提供某些內容過濾控制，當 Microsoft 365 Copilot Chat 中過濾可能有害或敏感內容無法滿足他們的需求時。 元提示法是向模型下達指令，引導其行為，包括讓系統依照 Microsoft 的 AI 原則與使用者期望行事。 例如，元提示詞可能會包含「以使用者選擇的語言溝通」這樣的行。
即時豐富化。 在某些情況下，使用者的提示可能會帶有歧義。 當這種情況發生時，Microsoft 365 Copilot 可能會利用 LLM 來協助在提示中建立更多細節，確保使用者能獲得他們想要的回應。 這種即時豐富不依賴使用者的知識或先前搜尋，而是依賴大型語言模型（LLM）。
以使用者為中心的設計與使用者體驗介入。 以使用者為中心的設計與使用者體驗是 Microsoft 負責任 AI 策略中不可或缺的一環。 目標是將產品設計根植於使用者的需求與期待之上。 當使用者首次與 Microsoft 365 Copilot 互動時，我們提供多種互動點，幫助他們了解系統功能、告知 Microsoft 365 Copilot 由 AI 驅動，並溝通限制。
人工智慧揭露。 Microsoft 365 Copilot 提供多個有意義的 AI 揭露接觸點，使用者會收到通知他們正在與 AI 系統互動，並提供更多機會深入了解 Microsoft 365 Copilot。 例如，在 Word 應用程式中使用 Microsoft 365 Copilot 時，會同時顯示 AI 生成內容可能包含錯誤的通知。 賦予使用者這些知識，能幫助他們避免過度依賴 AI 生成的輸出，並了解系統的優缺點。
媒體來源。 對於所有使用 Designer 編輯功能在 Microsoft 365 Copilot 內建立的圖片，我們都實作了內容憑證，並依據 C2PA 標準進行來源證明，幫助人們辨識圖片是經過編輯還是由 AI 生成。 來源元資料可在 內容憑證網站查閱。
回饋與持續評估。 Microsoft 365 Copilot 的體驗建立在現有工具之上，讓使用者能提交對我們產品的回饋。 使用者可透過在回應中選擇讚或按讚按鈕後出現的面板，提交對 Microsoft 365 Copilot 產生內容的回饋。 用戶提交的回饋將用於改進我們的產品，作為我們致力於提升產品效能承諾的一部分。 客戶管理員可以檢視在 Microsoft 365 系統管理中心提交的回饋。 我們也持續改進並測試 Microsoft 365 Copilot 的效能及具體緩解措施，作為服務持續評估與改進的一部分。 在「提供關於 Microsoft Copilot 與 Microsoft 365 應用程式的回饋」中了解更多。
隨著學習深入，我們對風險的繪製、衡量與管理方法將持續演進，並已根據客戶回饋做出改進。
評估並整合 Microsoft 365 Copilot 給您的組織
部署與採用優化
Microsoft 提供像是 Microsoft Copilot 儀表板等工具給 Microsoft 365 客戶，並在 Microsoft 365 系統管理中心提供報告。 這些工具旨在協助組織衡量 Microsoft 365 Copilot 的使用情況、採用率及影響。 例如：
Microsoft 365 Copilot 使用報告讓管理員能檢視使用者對 Microsoft 365 Copilot 的採用、留存與互動情況摘要。 欲了解更多資訊，請參閱 Microsoft 365 Copilot 使用情況。
採用分數為管理者提供關於其組織如何使用 Microsoft 365 Copilot 的洞見。 它提供 100 分制分數、採用數據與趨勢的儀表板視圖，以及建立用戶調查以收集回饋的工具。
體驗洞察 (預覽) 儀表板 顯示不同使用情況，提供組織在 Microsoft 365 上的更完整體驗，包括培訓、應用程式與服務資料，以及使用者回饋等見解。
了解更多關於 Microsoft 365 Copilot 的資訊
- Microsoft 365 Copilot 概觀
- Copilot 系統: 由 Microsoft 說明
- Microsoft 365 Copilot 的資料、隱私權和安全性
- Microsoft 365 Copilot 的擴充性
了解更多關於經紀人的資訊
- Copilot Studio 概述
- 在 Microsoft 365 Copilot 中使用 Agent Builder 建立宣告式代理程式
- Microsoft 365 Copilot 的宣告式代理
- 使用 Microsoft 365 Agents SDK 建立並部署代理程式