重要
自 2024 年 2 月起，Azure Content Moderator 已淘汰，將於 2027 年 3 月 15 日淘汰。 它已被 Azure AI 內容安全取代，其提供進階的 AI 功能和增強的效能。
Azure AI 內容安全是一個全方位的解決方案，其設計目的是在應用程式與服務中偵測使用者產生和 AI 產生的有害內容。 Azure AI 內容安全適用於許多案例，例如線上市集、遊戲公司、社交訊息平台、企業媒體公司和 K-12 教育解決方案提供者。 以下是其特性和功能的概觀：
- 文字和影像偵測 API：掃描文字和影像中是否有色情內容、暴力、仇恨，以及多個嚴重層級的自殘内容。
- Content Safety Studio：是一種線上工具，其設計目的是使用最先進的內容仲裁 ML 模型來處理潛在具冒犯性、風險性或不想要的內容。 它會提供範本和自訂工作流程，讓使用者建置自己的內容仲裁系統。
- 語言支援：Azure AI 內容安全支持超過 100 種語言，並針對英文、德文、日文、西班牙文、法文、義大利文、葡萄牙文和中文受過專門訓練。
Azure AI 內容安全會提供健全且彈性的解決方案，以滿足您的內容仲裁需求。 藉由從 Content Moderator 切換至 Azure AI 內容安全，您可以利用最新的工具和技術，以確保您的內容一律會根據確切規格進行仲裁。
深入了解 Azure AI 內容安全，並探索它可以如何提升內容仲裁策略。
Azure Content Moderator 是一種 AI 服務，可讓您處理可能具冒犯意味、有風險或不當的資料。 其包含 AI 驅動的內容審核服務來掃描文字、影像和影片，並自動套用內容旗標。
您可能想要將內容篩選軟體建置至您的應用程式，以符合法規或維護使用者的預期環境。
此文件包含下列類型的文章：
如需更為結構化的方法，請遵循適用於內容仲裁者的訓練模組。
其使用場合
以下是軟體開發人員或小組將需要內容仲裁服務的幾個案例：
- 線上市場，可管理產品目錄和其他使用者產生的內容。
- 遊戲公司，可管理使用者產生的遊戲成品和聊天室。
- 管理使用者新增的圖示、文字和影片的社交傳訊平台。
- 對其內容實作集中式仲裁的企業媒體公司。
- 為學生和授課者篩選掉不當內容的 K-12 教育解決方案提供者。
重要
您無法使用 Content Moderator 來偵測不合法的孩童利用影像。 不過，合格組織可以使用PhotoDNA Cloud Service 來篩選出這方面的內容。
包含的內容
Content Moderator 服務由數個可透過 REST 呼叫和 .NET SDK 使用的 Web 服務 API 所組成。
仲裁 API
Content Moderator 服務包含仲裁 API，可用來檢查可能不適當或令人反感的素材內容。
下表描述不同類型的仲裁 API。
| API 群組 | 描述 |
|---|---|
| 文字仲裁 | 掃描文字中具冒犯性的內容、明顯色情或性暗示內容、粗話和個人資料。 |
| 自訂字詞清單 | 根據自訂字詞清單以及使用內建字詞來掃描文字。 使用自訂清單可根據您自己的內容原則來封鎖或允許內容。 |
| 影像仲裁 | 掃描影像中的成人或猥褻內容、使用光學字元辨識 (OCR) 功能偵測影像中的文字，以及偵測臉部。 |
| 自訂影像清單 | 根據自訂影像清單掃描影像。 使用自訂影像清單，篩選掉重複出現、而您不想再次分類的內容執行個體。 |
| 影片仲裁 | 掃描影片中的成人或猥褻內容，並傳回該內容的時間標記。 |
資料隱私權和安全性
和所有 Azure AI 服務一樣，使用 Content Moderator 服務的開發人員應該要了解 Microsoft 對於客戶資料的政策。 請參閱 Microsoft 信任中心上的 Azure AI 服務頁面以深入了解。
下一步
- 完成用戶端程式庫或 REST API 快速入門，以在程式碼中實作基本案例。