AI 系統不僅包括技術，也包含使用它的人員、受其影響的人員，以及其部署的環境。 代理人必須遵守負責任的 AI 原則，以確保公平、問責、透明與道德行為。
設計 AI 系統以公平對待所有使用者，讓開發人員和使用者對其效能負責，確保 AI 運作的透明度，並遵守道德標準。
Microsoft 承諾 AI 的進展，由以人為先的原則所驅動。 生成模型具有顯著的潛在優勢，但如果沒有精心設計和周到的緩解措施，此類模型可能會產生不正確甚至有害的內容。 Microsoft 已投入大量資金來幫助防止濫用和意外傷害，其中包括納入 Microsoft 負責任的AI 使用原則、管理辦法、建構內容篩選器以支援客戶，以及提供客戶在使用生成式 AI 時應考慮的負責任 AI 資訊和指南。
Copilot Studio 與生成式 AI 功能遵循一套核心安全與隱私實務，以及 Microsoft 負責任 AI 標準。
瞭解詳情：
負責任 AI 的核心原則
負責任 AI 核心原則包括公平、問責、透明和道德。 確保使用 Copilot Studio 建立的代理符合以下核心原則，包含幾項關鍵實踐：
- 公平性：使用多樣化、代表性的訓練資料來最大限度地減少偏見。 定期更新訓練資料，並聘請稽核員來確認公平性和公正性。
- 責任：為參與 AI 專案的團隊成員定義明確的角色和職責。 建立並遵守以公平和責任為優先的道德標準。
- 透明度：確保使用者知道他們使用的代理具備生成式 AI 功能。 清楚地傳達為什麼選擇 AI 解決方案、如何設計以及如何監控和更新它。
- 道德：培養一支具包容性的員工隊伍，並在開發過程早期尋求不同社群的意見。 定期評估和測試模型是否存在道德問題和效能差異。 建立包括定期稽核在內的治理架構。
將這些做法融入您的開發與部署流程，打造符合負責任 AI 核心原則的代理。
資料隱私權和安全性
確保資料隱私至關重要，尤其是客服人員可能處理敏感資料。 在規劃使用 Copilot Studio 的客服人員時，必須處理幾項關鍵風險並實施有效的緩解策略：
- 平台功能：了解保護資料的本機控制和平台功能。 請參閱 Copilot Studio 的負責任 AI 常見問題 ，以更深入了解 Microsoft 開發的特定 AI 系統與功能。
- 資料加密：服務端技術對靜態和傳輸中的組織內容進行加密，以確保強大的安全性。 連線透過傳輸層安全性 (TLS) 進行保護，Dynamics 365、Power Platform 和 Azure OpenAI 之間的資料傳輸透過 Microsoft 主幹網路進行，確保可靠性和安全性。 深入了解 Microsoft Cloud 中的加密。
- 存取控制：資料會根據目前使用者的存取等級提供給代理。 使用 Microsoft Entra ID 實作角色為基礎的存取控制 (RBAC)，以確保只有授權使用者才能存取資料。 應用最小特權原則，僅限制對必要的存取。 檢視如何 保護 Copilot Studio 專案 的安全指引，以及 Copilot Studio 的安全與治理關鍵概念。
- 監控與稽核：透過定期監控代理的存取與使用情況，偵測並回應潛在的安全事件。 維護詳細的稽核記錄以追蹤資料存取和修改。
- 合規與治理：確保遵守相關資料隱私法規，例如 GDPR (一般資料保護規定)、HIPAA (健康保險流通與責任法案) 和 CCPA (加州消費者隱私法案)。 實施道德的 AI 實踐，以避免偏見並確保 AI 輸出的公平性。
- 使用者教育和訓練：對使用者進行安全最佳做法和資料隱私的重要性的訓練。 讓使用者了解安全原則和程序的更新和變更。
偏見意識和緩解
認識到解決系統偏見的重要性並確保公平性，以避免 AI 回應出現偏見。
- 多樣化且具代表性的資料：確保訓練資料多樣化，並代表不同的人口統計資料，以盡量減少固有偏見。 定期稽核資料是否有偏差和不平衡，並根據需要採取糾正措施。
- 偏見偵測和緩解工具：使用工具和技術來偵測 AI 模型中的偏見，例如統計分析和公平性指標。 實施去偏技術，包括重採樣、重新加權或對抗性去偏，以減少模型中的偏差。
- 人機迴圈：結合人工審查和意見反應迴圈來識別和糾正 AI 可能引入的偏見。 建立道德委員會或管理委員會來監督 AI 的開發和部署，確保滿足道德標準。
- 透明度與信任：確保使用者知道他們使用的代理具備生成式 AI 功能。 清楚傳達選擇 AI 解決方案的原因，並提供有關其設計方式、監控和更新方式的資訊。
- 持續監測和改進：持續監測 AI 系統的偏見和效能問題，並根據需要更新模型。 透過定期使用更新和更多樣化的資料重新訓練模型，確保模型保持公平和公正。
持續監測和評估
持續提升你的經紀人。 建立 持續監控與評估的框架，並將用戶反饋與不斷演變的倫理標準納入更新中。
- 意見反應迴路：建立意見反應機制，使用者可以報告不準確的訊息，然後可以用來改進和完善模型。
- 監控和稽核：透過定期監控 AI 系統的存取和使用情況來偵測並應對潛在的安全事件。 維護詳細的稽核記錄以追蹤資料存取和修改。
後續步驟
使用摘要檢查清單來驗證您的專案是否準備好進入實施階段，並在進入實施階段前，應用最佳實務指示以優化專案方法。