透過了解常見的失敗點並遵循最佳實務,避免對話式代理的效能問題。
配額和限制
了解 配額和限制,例如 RPM(請求每分鐘,請求是發送給客服人員的訊息)以及 Power Platform 在 24 小時內允許的請求數量。
配額同時適用於您的客服人員,並遵守 Microsoft Copilot Studio 方案所帶來的容量限制。
優化你的代理程式效能
為了優化您的代理效能,請考慮以下最佳實務:
- 在對話流程中策略性地放置 API 呼叫和連接器調用,避免讓使用者等待多次完成。
- 在適用的情況下,快取 會使用變數來檢索資訊,而非多次呼叫 API 或流程調用。
- Copilot Studio 代理呼叫的雲端流量可能會帶來延遲。 考慮使用 直接連接器呼叫 或 Send HTTP Request 節點。
- 了解 Copilot Studio 中經典 NLU 與 生成式編排 的效能與複雜度取捨。 NLU 模型在特定意圖上表現良好,但對複雜查詢則較為困難。 生成式 AI 模型能處理更廣泛的輸入,但可能會產生延遲。
- 開啟 快速模式。
優化你的雲端流程以提升效能
如果你的客服人員呼叫 Power Automate 流程,請確保雲端流程已經優化。
務必了解 Power Automate 和 Power Platform 中的 限速與容量限制 。 遵守這些限制能提升流量的可擴展性與效能。
學習 如何排除慢速流水的問題。