Microsoft AI Red Team

關於 AI Red Team

概觀

• 什麼是 AI Red 小組，以及Microsoft如何建置更安全的 AI？

操作指南

• 建置適用於 LLM 的 AI Red Teams 指南

參考

• 負責任 AI 工具和做法
• 負責任的 AI 標準和影響評估

準備就緒

概觀

• Microsoft開放自動化架構至 Red Team Generative AI Systems （PyRIT）

操作指南

• PyRIT 操作指南

參考

• ML 工程師的 AI 風險評估
• AI 共同責任模式

了解威脅

操作指南

• ML 系統的開發人員威脅模型化指引

概念

• 機器學習失敗的分類法

參考

• 將 ML 系統的 Bug 列分級攻擊

探索安全解決方案

概念

• 安全對齊 Phi-3 系列語言模型的方法

參考

• Azure Machine Learning 的 Enterprise 安全性與治理
• 什麼是 Azure AI 內容安全性？
• 危害 Azure AI 的風險降低策略
• 監視已部署的提示流程應用程式的品質和安全性

經驗教訓

訓練

• AI 安全性訓練

概觀

• 紅小組 100 種再生 AI 產品的課程