成功的人工智慧策略需要在四個核心領域進行結構化規劃。 識別提供可衡量商業價值的 AI 使用案例 、選取符合您小組技能的 Microsoft AI 技術 、建立可調整 的資料控管，以及實作 負責任的 AI 做法 ，以維護信任並符合法規需求。 它適用於各種規模的組織，包括新創公司、中小型企業、大型企業、非營利組織和公共部門機構。
快速連結：Microsoft AI 決策樹
為什麼策略性 AI 規劃很重要：與臨時實驗相比，記錄在案的 AI 策略可以產生一致、更快、可稽核的結果。 本指南列出了 Microsoft Copilot 部署、Foundry 環境設置、AI 代理採用、Azure OpenAI 整合，以及與 Microsoft Purview 進行全組織 AI 治理的可行步驟。
識別 AI 使用案例
人工智慧透過加速知識工作和自動化日常流程來改變業務營運。 生成式 AI（ 創建文本、圖像或代碼等內容的系統）提高了知識工作者的生產力。 分析型 AI 和機器學習可 自動執行資料密集型任務、降低錯誤率並產生預測性見解。 首先隔離具有可衡量摩擦的流程，人工智慧可以提高成本、速度、品質或客戶體驗。
首先關注業務成果：成功的 AI 計劃將每個用例錨定在量化的業務目標上，而不是模型優先的實驗。 結構化探索方法與較高的作業化成功率相關聯，如 Azure 架構中心 AI 指引所強化。
識別自動化機會。 專注於適合自動化的程式，以提高效率並降低營運成本。 以重複的工作、數據繁重作業或高錯誤率的區域為目標，其中 AI 可能會產生重大影響。
收集客戶意見反應。 使用結構化的客戶回饋（調查、支援文字記錄、NPS 評論）來發現使用人工智慧自動化時提高滿意度的用例。 此意見反應有助於排定具有可衡量影響的計劃的優先順序。
進行內部評估。 收集來自部門（營運、財務、法律、支援、產品）的意見，以識別人工智慧可以解決的挑戰和低效率。 記錄工作流程並收集利害關係人的意見，以發現自動化、洞察產生或提高決策品質的機會。
研究產業使用案例。 調查類似組織或產業如何使用 AI 解決問題或增強作業。 使用 Azure 架構中心中的 AI 架構 等資源來獲取靈感並評估適當的方法。
定義 AI 目標。 針對每個使用案例，定義目標（一般用途）、目標（預期結果）和成功量度（可量化量度）。 這些基準指導採用並衡量成功。 如需詳細資訊，請參閱 範例 AI 策略。
定義 AI 技術策略
您的技術策略決定了速度、客製化和控制的平衡。 Microsoft 提供三種主要的 AI 消費模式：即用型軟體 （SaaS）、可延伸開發平台 （PaaS） 和完全託管的基礎設施 （IaaS）。 選取符合工程成熟度、合規性狀態、資料落地和自訂需求的模型。
採用適用於 AI 互作性的標準機制。 標準通訊協定可讓 AI 系統跨不同平臺進行通訊，並減少自定義實作。 這些通訊協定支援數據共享和系統整合，同時維持未來技術變更的彈性。 了解像是 Model Context Protocol 這類跨系統資料擷取的協定，確保你的 AI 系統支援互通性需求。 評估像 NLWeb 這樣的工具，讓你的內容適配於 AI 網頁。 例如，請參閱 copilot Studio Microsoft 中的模型內容通訊協定 和 將 REST API 公開為 MCP 伺服器。
理解 AI 代理人作為決策系統。 AI 代理是一種微服務，利用生成式 AI 模型來推理、行動與學習。 這些系統代表著從檢索增強生成（RAG）應用程式轉向能適應變化條件的決策系統。 鑑於組織中代理的獨特性，請檢視 AI 代理採用 情況，以獲得如何在環境中實施代理的專業指引。
選取適當的 AI 服務模型。 Microsoft提供三種不同層級自定義和 共同責任的服務模型：軟體即服務（SaaS）、平臺即服務（PaaS）和基礎結構即服務（IaaS）。 每個模型都需要不同的技術技能，並提供不同程度的 AI 實作控制。 將團隊的能力、資料需求與客製化需求與適當的服務模式相匹配。 使用 AI 決策樹來指導您的選擇過程。
Microsoft AI 決策樹狀結構
人工智慧服務（SaaS）
Microsoft 即用型 AI 解決方案（稱為 Copilots）以最少的設定提高生產力。 Microsoft 365 Copilot 提供跨 Office 應用程式的 AI 協助，而 專業的 Copilot 則專注於特定的工作角色和行業。 從這些解決方案開始，在轉向客製化開發之前獲得初步結果。
| Microsoft輔助助手 | 描述 | 使用者 | 所需的數據 | 需要的技能 | 主要成本因素 |
|---|---|---|---|---|---|
| Microsoft 365 Copilot | Microsoft 365 Copilot 提供跨 Microsoft 365 應用程式的 Web 聊天和應用程式內 AI 協助，與您的 Microsoft Graph 資料整合。 | 商業 | 是的。 使用敏感度標籤將資料加以分類，並在 Microsoft Graph 中安全地使用您的資料。 | 一般IT和數據管理 | 授權 |
| 角色型共輔助手 | 提升安全性、銷售、服務和財務中特定角色效率的代理程式。 | 商業 | 是的。 數據連線和外掛程式選項可供使用。 | 一般IT和數據管理 | Security Copilot 的授權或安全性計算單元 （SCU） |
| 產品內智能助理 | GitHub、Power Apps、Power BI、Dynamics 365、Power Automate、Microsoft Fabric、Microsoft Entra 和 Azure 等產品中的 AI。 | 商務和個人 | 是的。 大部分都需要最少的數據準備。 | 最小 （基本系統管理設定和資料整備） | 免費或訂用帳戶 |
| Microsoft Copilot 或 Microsoft Copilot Pro | Microsoft Copilot 是一個免費的網頁式聊天應用程式。 Copilot Pro 在特定Microsoft 365 應用程式中提供更佳的效能、容量和 Copilot 存取權。 | 個人 | 不 | 無 | Microsoft科皮洛特 是免費的。 Microsoft Copilot Pro 需要 訂用帳戶 |
低程式碼平台上的人工智慧
Microsoft 提供低程式碼平台，用於自訂 AI 代理開發，無需完整的開發團隊。 Copilot Studio 可讓商務使用者使用自然語言建立 AI 助理，而 Microsoft 365 Copilot 擴充功能 可讓您使用公司特定的資料和流程自訂企業 Copilot。
| Microsoft輔助助手 | 描述 | 使用者 | 所需的數據 | 需要的技能 | 主要成本因素 |
|---|---|---|---|---|---|
| Microsoft 365 Copilot 的擴充性工具 | 自訂 Microsoft 365 Copilot，藉由宣告式代理人擴充更多資料或功能。 使用 Copilot Studio、 精簡版體驗、 Teams 工具組和 SharePoint 等工具。 | 商務和個人 | 使用 Microsoft Graph 連接器 來新增數據。 | 數據管理、一般 IT 或開發人員技能 | Microsoft 365 Copilot 授權 |
| Copilot Studio | 使用 Copilot Studio 透過低程式碼工具和自然語言建立對話式 AI 代理程式和自動化工作流程。 | 資訊技術 | 自動化大部分資料整合，以建立與各種資料來源連線的自訂副手。 | 用於連接資料來源、設計交談流程和部署副手的平台設定 | 授權 |
Azure 平台上的 AI （PaaS）
Azure 提供不同的 AI 解決方案模式和成熟度層級的開發平臺。 Foundry 是一個統一平台，用於創建 檢索增強生成（RAG）應用程式、建構生產 AI 代理、評估與客製化 基礎模型，以及應用負責任的 AI 控制。 這些受控功能可讓開發小組專注於解決方案差異化，而 Azure 則提供安全性、治理、可觀察性和可調整的基礎結構基本類型。 使用 Azure AI 定價 和 Azure 定價計算機 進行成本模型化。
| AI 目標 | Microsoft解決方案 | 所需的數據 | 需要的技能 | 主要成本因素 |
|---|---|---|---|---|
| 組建代理程式 | 鑄造 代理服務 | 是的 | 環境設定， 模型選擇， 工具， 地面資料儲存， 資料隔離， 代理程式觸發， 連接代理程式， 內容篩選， 專用網， 代理程式監視， 服務監視 | 使用模型令牌、儲存空間、功能、計算能力、基本連接 |
| 建置RAG應用程式 | 鑄造廠 | 是的 | 選擇模型、組織數據流、區塊化數據、擴充區塊、選擇索引、了解查詢類型（全文檢索、向量、混合式）、了解篩選和面向、進行重排序、提示工程、部署端點，以及在應用程式中取用端點 | 計算、進出令牌數目、取用的 AI 服務、記憶體和數據傳輸 |
| 微調 GenAI 模型 | 鑄造廠 | 是的 | 前置處理數據、將數據分割成定型和驗證數據、驗證模型、設定其他參數、改善模型、部署模型，以及在應用程式中取用端點 | 計算、進出令牌數目、取用的 AI 服務、記憶體和數據傳輸 |
| 定型和推斷模型 |
Azure 機器學習 或 Microsoft網狀架構 |
是的 | 使用程式代碼或自動化預先處理數據、定型模型、改善模型、部署機器學習模型，以及在應用程式中取用端點 | 計算、記憶體和數據傳輸 |
| 取用預先建置的 AI 模型和服務 |
Azure AI 服務及或 Azure OpenAI |
是的 | 選取 AI 模型、保護端點、取用應用程式中的端點，以及視需要微調 | 使用模型端點、儲存空間、資料傳輸、計算資源（如果您訓練自訂模型） |
| 隔離 AI 應用程式 | 具有無伺服器 GPU 支援的 Azure 容器應用程式 | 是的 | 選取 AI 模型、協調資料流程、區塊化資料、擴充區塊、選擇索引、瞭解查詢類型 （全文、向量、混合式）、瞭解篩選器和 Facet、執行重新排名、提示工程、部署端點，以及在應用程式中使用端點;用於網路隔離的選擇性環境/VNet 設定 （區域可用性和功能狀態可能會有所不同） | 計算、進出令牌數目、取用的 AI 服務、記憶體和數據傳輸 |
Azure 基礎架構服務上的人工智慧（IaaS）
Azure 基礎結構服務提供 AI 效能、隔離或合規性需求的細微控制。 具有 GPU 支援的 Azure 虛擬機器可 啟用自訂模型定型和基準測試 （PyTorch、TensorFlow、分散式微調）。 Azure Kubernetes Service （AKS） 提供容器協調流程、GPU 集區、自動調整和多租用戶工作負載分割，以進行推斷和定型管線。 當您必須 自備模型、使用自訂執行階段，或針對受控平台抽象之外的成本和效能進行最佳化時，請使用 IaaS 路徑。 使用 Azure 定價計算機來參考 Azure 基礎結構定價，以進行容量預測。
| AI 目標 | Microsoft解決方案 | 所需的數據 | 需要的技能 | 主要成本因素 |
|---|---|---|---|---|
| 定型和推斷您自己的 AI 模型。 將您自己的模型帶入 Azure。 |
具有 CycleCloud for HPC 工作負載的 Azure 虛擬機器 或 Azure Kubernetes 服務 |
是的 | 基礎結構管理、IT、程式安裝、模型定型、模型基準檢驗、協調流程、部署端點、保護端點，以及取用應用程式中的端點 | 計算、計算節點協調器、受控磁碟（選擇性）、記憶體服務、Azure Bastion 和其他使用的 Azure 服務 |
制定隨著您的需求而增長的 AI 數據策略
您的資料策略是可擴展、值得信賴的 AI 的控制平面。 它定義了如何獲取、分類、保護、豐富、監控和淘汰數據，同時保持合規性並最大限度地降低暴露風險。 持久的策略可確保 Microsoft 365、Azure 和混合資產中的優先 AI 用例具有受控、高品質、可譜系可追蹤的資料。 專注於治理基準、彈性規劃、生命週期檢測和負責任的使用強制執行。
為 AI 專案設定資料控管。資料控管可確保您安全地使用 AI 資料，並透過存取控制和原則遵守法規。 首先，根據敏感度和所需的存取權對資料進行分類。 使用 適用於 AI 的 Microsoft Purview 資料安全性狀態管理 （DSPM） 來保護生成式 AI 應用程式;它包括人工智慧資料安全功能。
規劃資料成長和效能。 確保資料環境支援目前的 AI 專案和未來的成長，而不會降低效能或成本過高。 記錄每個使用案例的目前資料量、處理頻率和所需的資料類型。 這項資訊可協助您選擇適當的 Azure 服務。
管理資料的整個生命週期。 定義您如何收集、儲存和淘汰資料，同時保持 AI 使用的可存取性和安全性。 設定從資料庫、API、IoT 裝置和第三方來源進行系統收集。 根據存取頻率選擇 Azure 儲存體層。 建置 ETL/ELT 管線 （資料處理工作流程） 以維持品質，並使用 負責任的 AI 儀表板 來檢查訓練資料中的偏差。
遵循負責任的資料實務。 確保 AI 系統以合乎道德的方式使用資料並符合法規要求。 使用 Microsoft Fabric 資料譜系 或 Microsoft Purview 資料譜系追蹤資料來源和使用量。 設定品質標準、檢查偏差並評估訓練資料集的公平性。 建立保留政策，平衡 AI 效能與隱私權和合規性。
小提示
資料決策加速器 （全部衍生自現有指引）：
- 在大規模 RAG 擷取之前開始分類，以避免重工。
- 將譜系追蹤與保留原則配對，以減少孤立的敏感資料。
- 將偏見評估 （負責任的 AI 儀表板） 視為週期性控制項，而不是一次性閘門。
- 儘早使用成本遙測 （權杖、儲存體、輸出） 來標記無限的資料成長。
開發負責任的 AI 策略
負責任的 AI 將信任、安全和監管一致性轉化為整個 AI 生命週期的營運控制。 負責任的人工智慧策略將原則轉化為可執行的控制、可衡量的檢查點和明確的問責制。 在設計審查、風險評估、政策執行、模型和代理程式監控以及事件回應中維護可審計的鏈條。
為 AI 治理分配明確的所有權。 指定特定的人員或團隊來擁有 AI 治理決策並管理法規要求。 治理角色定義了 AI 專案的決策權。 指派專人監控人工智慧技術變化和新法規。 建立 AI 雲端卓越中心 ，以集中職責並建立 AI 治理問題的程序。
採用負責任的 AI 原則作為業務目標。 使用 Microsoft 負責任的 AI 原則 作為道德 AI 開發的架構。 這六項人工智慧原則與 NIST 人工智慧風險管理框架 保持一致，並成為指導專案選擇和開發的可衡量的業務目標。 將這些原則整合到專案規劃、開發流程和成功計量中。
為您的專案選擇負責任的人工智慧工具。 選擇在 AI 計劃中實施道德 AI 原則的工具。 Microsoft 提供 負責任的 AI 工具和程式 ，以符合不同的 AI 使用案例和風險層級。 將這些工具整合到開發工作流程中，以應用負責任的 AI 實踐。
遵守人工智慧法規。 確定適用於營運和 AI 使用案例的本地和國際 AI 法規。 合規性要求因行業、地點和 AI 應用程式類型而異。 監控監管變化並更新合規策略以保持一致。
範例 AI 策略
此範例 AI 策略使用虛構公司 Contoso。 Contoso 會經營面向客戶的電子商務平臺，並雇用需要工具來預測商務數據的銷售代表。 該公司也會管理產品開發和庫存以促進生產。 銷售渠道包括私營公司和受監管的公共部門機構。
| AI 使用案例 | 目標 | 目標 | 成功指標 | AI 方法 | Microsoft解決方案 | 資料需求 | 技能需求 | 成本因素 | AI 數據策略 | 負責任的 AI 策略 |
|---|---|---|---|---|---|---|---|---|---|---|
| 電子商務 Web 應用程式聊天功能 | 自動化商務程式 | 提升客戶滿意度 | 提高客戶保留率 | PaaS、Generative AI、RAG | 鑄造廠 | 項目描述和配對 | RAG 和雲端應用程式開發 | 使用方式 | 建立客戶數據的數據控管，並實作 AI 公平性控制。 | 將 AI 的責任歸於 AI 中心（CoE），並遵循負責任 AI 的原則。 |
| 內部應用程式文件處理工作流程 | 自動化商務程式 | 降低成本 | 提高完成率 | 分析型AI，微調 | Azure AI 服務 – 文件智慧服務 | 標準文件 | 應用程式開發 | 估計使用量 | 定義內部文件的數據治理，並規劃數據生命周期策略。 | 指派 AI 責任，並確保符合數據處理原則的合規性。 |
| 庫存管理和產品購買 | 自動化商務程式 | 降低成本 | 庫存的保質期較短 | 機器學習、訓練模型 | Azure Machine Learning | 歷程記錄庫存和銷售數據 | 機器學習和應用程式開發 | 估計使用量 | 建立銷售數據的控管，並偵測和解決數據中的偏差。 | 指派 AI 責任並遵守財務法規。 |
| 跨公司每日工作 | 提高個別生產力 | 改善員工體驗 | 提高員工滿意度 | SaaS 生成式 AI | Microsoft 365 Copilot | OneDrive 數據 | 一般IT | 訂用帳戶成本 | 實作員工數據的數據控管，並確保數據隱私權。 | 指派 AI 責任，並利用內建負責任的 AI 功能。 |
| 適用於受管制產業聊天功能的電子商務應用程式 | 自動化商務程式 | 增加銷售 | 增加銷售額 | IaaS 生成式 AI 模型訓練 | Azure 虛擬機器 | 領域專用的訓練資料 | 雲端基礎結構和應用程式開發 | 基礎結構與軟體 | 結合合規性措施，治理受管制數據並規劃生命週期。 | 指派 AI 責任並遵守產業法規。 |
用於 AI 策略實作的 Azure 工具和資源
| 類別 | Tool | 描述 |
|---|---|---|
| AI策略規劃 | Azure AI 架構中心 | 全面的參考架構和設計模式，適用於跨行業和企業用例的 AI 解決方案 |
| 代理開發平台 | 代工代理服務 | 全功能平台，用於構建、部署和管理具有企業安全性的智能 AI 代理 |
| 企業生成式 AI | Azure OpenAI 服務 | 企業級存取 GPT-4 系列（包括 GPT-4o）和 DALL·具有安全性、合規性和負責任的 AI 功能的 E 模型 |
| AI數據治理 | 適用於 AI 的 Microsoft Purview 數據安全性狀態管理 （DSPM） | 生成式 AI 工作負載的 AI 資料風險可見性、資料保護控制和監控 |
| 負責任的人工智慧工具 | Microsoft 負責任 AI 儀錶板 | 全面的工具，用於偏見檢測、公平性評估和 AI 模型可解釋性 |
| AI開發平台 | 鑄造廠 | 用於 RAG 應用程式、基礎模型微調和 AI 工作負載部署的統一平台 |
| Low-Code AI 開發 | Microsoft 副駕駛工作室 | 使用自然語言介面建立對話式 AI 代理程式和自動化工作流程 |
| 企業 AI 生產力 | Microsoft 365 副駕駛 | 透過企業資料整合，跨 Microsoft 365 應用程式的 AI 驅動生產力 |
人工智慧策略成功的關鍵要點
策略規劃提供更快的結果：記錄在案的 AI 策略可產生一致、可稽核的結果。 成功取決於優先考慮與業務一致的用例、選擇正確的 Microsoft AI 服務模型（SaaS、PaaS、IaaS），以及建立可擴展的數據治理和 DSPM 控制。
Microsoft AI 組合支援採用模式：整合的 Microsoft AI 生態系統透過 Microsoft 365 Copilot 提升生產力，透過 Foundry 實現差異化解決方案（RAG、代理、評估、模型協調），並透過 Azure 基礎設施服務提供專業化與隔離。
負責任的 AI 至關重要：在開始時（而不是部署後）嵌入治理、透明度工具、內容安全、公平性評估和監管一致性，以降低補救成本並增強利害關係人的信心。
重要 AI 術語：AI 採用框架、Foundry、AI 代理、生成式 AI、檢索增強生成（RAG）、Microsoft 365 Copilot、負責任 AI 治理、機器學習工作負載、AI 資料策略、Microsoft Purview AI 資料安全態勢管理（DSPM）、Copilot Studio、Azure OpenAI 服務、AI 代理協調、共同責任模型、AI 血統、內容安全、資料最小化。
總結
企業 AI 策略結合了結果驅動的用例優先級、適當的 Microsoft AI 服務模型（用於加速的 SaaS、用於差異化的 PaaS、用於專業化的 IaaS）、受治理和沿襲可追溯的數據基礎，以及可執行的負責任的 AI 控制。 使用 Foundry 進行統一代理與 RAG 開發，使用 Microsoft 365 Copilot 以早期提升生產力，整合 Microsoft Purview DSPM 以主動降低資料風險，並持續評估與可觀察性以維持大規模的信任、效能與合規性。