此指引提供結構化框架,協助組織成功採用 AI 代理,作為其更廣泛 AI 採用策略的一部分。 它說明 AI 代理人帶來的獨特考量。 本系列重點介紹 Microsoft 365 代理程式,並提供使用 Microsoft Foundry 與 Microsoft Copilot Studio 建立自訂代理程式的指引。 同時也包含設計全組織資料架構以支援大規模 AI 代理的策略。
透過此指引,領導者將在四個關鍵領域獲得可行的洞見:(1) 為代理人制定規劃,(2) 管理並保護代理人安全,(3) 建置代理人,以及 (4) 操作代理人(見圖 1)。
什麼是人工智慧代理?
AI 代理是一種靈活的軟體程式,利用生成式 AI 模型來解讀輸入,例如系統事件、使用者訊息或其他代理訊息,推理問題,並決定最合適的行動。 與依賴固定規則的傳統應用程式不同,客服人員會根據即時情境動態協調工作流程。 這種適應性使他們能管理確定性軟體無法處理的模糊性與複雜性。 代理人由五個核心元件構成:
生成式 AI 模型 作為代理人的推理引擎。 它處理指令、整合工具呼叫,並產生輸出,無論是發送給其他代理的訊息,或作為可操作的結果。
指令 定義了代理人的範圍、界限及行為指引。 明確的指示可防止範圍蔓延,並確保業務員遵守業務規則。
檢索 提供準確回應所需的基礎資料與脈絡。 取得相關且高品質的資料對於減少幻覺並確保相關性至關重要。
動作 是代理用來執行任務的功能、API 或系統。 工具將代理從被動的資訊檢索器轉變為業務流程中的主動參與者。
記憶 儲存對話歷史和狀態。 記憶確保互動間的連續性,使代理人能有效處理多回合對話與長期任務。
與檢索增強生成(RAG)的差異
標準的 RAG 應用程式採用確定性檢索程序來回答查詢。 AI 代理使用生成模型決定每個步驟要使用哪些知識與工具。 這種自適應方法使多步驟推理與複雜問題解決成為可能,但同時也引入了需要穩健測試與治理的非確定性行為。
關於技術定義,請參閱《 什麼是代理人? 》以及 《什麼是工作流程?》。
為什麼是 AI 代理?
採用 AI 代理能推動特定的組織成果。 了解這些好處有助於投資合理化並優先排序使用案例。
效率:客服人員自動化重複性且低價值的工作。 它減少了人工工作與營運成本,使資源能專注於策略性計畫。
速度:客服人員能快速處理資訊並執行決策,提升服務交付時間及對市場變化的反應能力。
可擴展性:代理商能處理波動的工作量,這種彈性支持成長與季節性需求高峰。
這些好處帶來可衡量的成果,如營運成本降低、客戶滿意度提升及創新加速。 對領導者而言,這意味著 AI 代理不僅僅是技術投資。 它們是成長與競爭力的策略槓桿。 更多商業理由與使用案例,請參閱 AI 代理的商業計畫 。
代理程式類型
組織通常會部署三類代理。 每個類別都提供不同程度的自主權與業務影響力。
生產力代理人。 這些代理專注於資訊檢索與綜合,以加速決策。 他們利用知識工具從各種來源擷取資料,並為使用者檢索。 此功能提升了員工的準確度,並減少在客戶服務支援及內部知識管理等情境中搜尋資訊的時間。
行動特工。 這些代理在定義的工作流程中執行特定任務,例如更新紀錄或觸發流程。 他們結合知識工具與行動工具來完成任務。 此方法簡化了作業流程,並減少了在服務單建立與系統監控等使用情境下的手動資料輸入錯誤。
自動化代理。 這些代理以極少監督的方式管理複雜且多步驟的流程。 他們使用知識工具和行動工具,以及決定何時執行、停止或升級事件的觸發機制。 這種自主性使得供應鏈優化等情境能實現可擴展的自動化,但需要嚴格的治理來管理日益複雜的情況。
後續步驟
要發揮 AI 代理的潛力,請將採用策略與具體的商業成果對齊。 以下章節將探討如何創造內部及面向客戶的影響力,並引導團隊有效運用客服人員。