監控您的生成式 AI 應用程式（預覽）

Note

Important

本文中標示為 (預覽) 的項目目前處於公開預覽狀態。此預覽版本沒有服務等級協定，不建議將其用於生產工作負載。可能不支援特定功能，或可能已經限制功能。如需詳細資訊，請參閱 Microsoft Azure 預覽版增補使用條款。

由於 AI 產業的複雜性和快速演進，監視您的生成式 AI 應用程式變得比以往更重要。可觀察性整合於 Azure Monitor 應用洞察，讓您能持續監控已部署的 AI 應用，確保其效能良好、安全，並在生產環境中產生高品質成果。除了持續監視功能之外，我們也為代理程式提供持續性評估功能，以進一步增強 Foundry 可檢視性儀表板，並了解其他關鍵品質和安全計量。

Note

此功能必須使用 Foundry 專案 。不支援 中樞型專案 。請參閱如何知道我所擁有的項目類型？和建立 Foundry 專案。若要將您的中樞型專案遷移到 Foundry 專案，請參見「從中樞型遷移到 Foundry 專案」。

如何啟用監視

要在 Microsoft Foundry 中使用監控功能，你需要將 Application Insights 資源連接到你的 Foundry 專案。

請在 Foundry 入口網站左側導航窗格中進入監控。
選取 [應用程式分析] 索引標籤 。
如果您還沒有 Application Insights 資源，請建立新的資源。
將資源與你的 Foundry 專案連結。

收集生產數據以進行監視

從這裡開始，您希望開始收集應用程式的遙測資料，您可以在我們的內建介面中監視這些遙測資料。若要這樣做，我們建議：

檢測追蹤可讓您從應用程式擷取詳細的遙測數據。此數據可讓您深入瞭解生產環境中應用程式的效能、延遲和行為。
持續評估可藉由根據預先定義的計量和閾值來評估代理程式在生產環境中的質量和安全性。

檢視監視結果

在 Foundry 入口網站中， 應用程式分析 儀表板檢視會使用 Azure Monitor Application Insights 的訊號，透過 Azure Workbooks 查詢並建立視覺化。

這些檢視的設計目的是將關鍵計量 - 令牌耗用量、延遲、例外狀況、回應品質納入單一玻璃窗格，讓小組能夠追蹤作業健康情況和品質、瞭解趨勢，並持續評估以改善其應用程式。

請依照以下步驟存取並使用您在鑄造廠專案中內建的監控檢視：

請訪問 Foundry 門戶網站中的 Foundry 專案。
從左側瀏覽窗格中選取 [ 監視 ]。
在 [ 應用程式分析] 索引 標籤下，檢閱應用程式健康情況的概觀。
使用篩選來指定時間範圍、應用程式和/或模型來擷取詳細的深入解析。
如果您注意到問題，例如品質指標下降，請前往追蹤功能，以排除應用程式中的問題。
若要進一步自定義監視體驗並使用 Azure 監視器中的進階功能，請卷動至底部，然後選取 [在 Azure 監視器 Application Insights 中檢視]。

Note

當您與團隊成員共用此活頁簿時，他們必須至少具備已連線 Application Insights 資源的「讀取者」角色，才能檢視顯示的資訊。

Application Insights 是應用程式效能監視（APM）的強大工具，可提供應用程式健康情況和效能的深入解析。

您可以在 Azure 監視器 Application Insights 活頁簿資源庫中開啟 [應用程式分析] 儀表板，方法是選取頁面結尾的 [在 Azure 監視器 Application Insights 中檢視] 連結。

此儀錶板會開啟為可編輯的活頁簿，您可以在其中自定義活頁簿，並根據您的需求儲存。

在命令行中選取 [編輯 ]。
根據您的使用案例視需要修改元素。在項目上選取 ... ，以編輯、新增、移動/重設大小、複製或移除。例如，您可以使用 KQL 新增圖格來追蹤您要收集的自定義屬性，而不會顯示在我們的內建檢視中。
選取 [儲存]，儲存最新的變更並視需要建立不同的檢視。
選取命令列中的 [共用] 圖示，與您的小組共用。