開始使用提示流程

本文會逐步引導您完成在 Azure Machine Learning 工作室中使用提示流程的主要使用者旅程圖。 您將瞭解如何在 Azure Machine Learning 工作區中啟用提示流程、建立及開發提示流程、測試及評估流程，然後將流程部署到生產環境。

Prerequisites

• Azure Machine Learning 工作區。 工作區的預設記憶體必須是 Blob 類型。
• Azure OpenAI 帳戶，或現有的 Azure OpenAI 連線與部署。 如需詳細資訊，請參閱 使用 Azure OpenAI 建立資源及部署模型。

  Note

  如果您想要使用虛擬網路保護提示流程，也請遵循使用 工作區受控虛擬網路保護提示流程中的指示。

設定連線

聯機有助於安全地儲存及管理與大型語言模型 （LLM） 和其他外部工具互動所需的秘密密鑰或其他敏感性認證，例如 Azure 內容安全性。 聯機資源會與工作區中的所有成員共用。

1. 要確認你是否已經有 Azure OpenAI 連線，請從 Azure Machine Learning Studio 左側選單選擇「提示流程」，然後在提示流程畫面中選擇「連線」標籤。

   

   如果你已經看到一個由 AzureOpenAI 提供服務的連線，可以跳過剩下的設定流程。 請注意，此連線必須有部署，才能在範例流程中執行 LLM 節點。 如需詳細資訊，請參閱 部署模型。

2. 如果你沒有 Azure OpenAI 連線，請選擇 「建立 」，然後從下拉選單選擇 AzureOpenAI 。

3. 在 [ 新增 Azure OpenAI 連線 ] 窗格中，提供連線的名稱、選取您的訂用帳戶 標識碼 和 Azure OpenAI 帳戶名稱，並提供 驗證模式 和 API 資訊。

   提示流程支援適用於 Azure OpenAI 資源的 API 金鑰 或 Microsoft Entra ID 驗證。 在這個教學中，請在認證模式下選擇 API 金鑰。

   

   要取得 API 資訊，請到 Azure OpenAI 入口網站的 聊天遊樂場 ，選擇你的 Azure OpenAI 資源名稱。 複製 Key 並貼到 Add Azure OpenAI 連線表單的 API key 欄位，然後複製 Endpoint 並貼到 API 基礎欄位。

   

   有關 Microsoft Entra ID 認證的資訊，請參閱 《如何在 Microsoft Foundry 模型中以 Microsoft Entra ID 驗證配置 Azure OpenAI》。

4. 填寫完所有欄位後，選擇 儲存 以建立連結。

5. 連線必須與部署建立關聯，才能在範例流程中運行 LLM 節點。 若要建立部署，請參閱 部署模型。

建立及開發您的提示流程

在提示流程首頁的「流程」標籤中，選擇「建立」以建立提示流程。 [ 建立新的流程] 頁面會顯示您可以建立的流程類型、您可以複製的內建範例來建立流程，以及匯入流程的方式。

從範例複製

在 探索圖庫中，你可以瀏覽內建範例，並選擇 「查看 任何圖塊的細節」來預覽是否適合你的情境。

本教學使用 網頁分類 範例，帶您了解主要使用者旅程。 網頁分類是一個演示使用大語言模型（LLM）進行多類別分類的流程。 假設有 URL，只需幾張螢幕擷取畫面、簡單的摘要和分類提示，即可將 URL 分類為 Web 分類。 例如，假設有 URL https://www.imdb.com，它會將 URL 分類為 Movie。

要複製樣本，請在網頁分類圖塊中選擇「複製」。

[複製流程] 窗格顯示您的工作區檔案共用儲存體中存放流程的位置。 如有需要，您可以自定義資料夾。 然後選擇 克隆。

複製的流程會在製作 UI 中開啟。 你可以選擇 編輯 鉛筆圖示來編輯流程細節，如名稱、描述和標籤。

啟動計算會話

需要計算工作階段才能執行流程。 計算會話會管理應用程式執行所需的計算資源，包括包含所有必要的相依性套件的 Docker 映像。

在流程撰寫頁面上，選取 [ 啟動計算會話] 來啟動計算會話。

檢查流程撰寫頁面

計算會話可能需要幾分鐘的時間才能啟動。 在計算會話開始時，查看流程撰寫頁面的各個部分。

• 頁面左側的 Flow 或 flatten 視圖是主要工作區，你可以透過新增或移除節點、編輯並執行內嵌節點，或編輯提示來撰寫流程。 在 [輸入] 和 [輸出] 區段中，您可以檢視、新增或移除，以及編輯輸入和輸出。

  當您複製目前的 Web 分類範例時，已設定輸入和輸出。 流程的輸入架構為 ，是 name: url; type: string字串類型的URL。 您可以將預設輸入值變更為另一個值，例如 https://www.imdb.com 手動。

• 右上方的 [檔案] 會顯示流程的資料夾和檔案結構。 每個流程資料夾包含 flow.dag.yaml 檔案、原始碼檔案及系統資料夾。 您可以建立、上傳或下載檔，以進行測試、部署或共同作業。

• 右下角的 圖表 視圖是用來視覺化流程的樣貌。 您可以放大或縮小，或使用自動佈局。

你可以在 Flow 或 Flatten 視圖中內嵌編輯檔案，或者開啟 Raw 檔案模式 切換，從 檔案 中選擇檔案，在分頁中開啟該檔案以便編輯。

在此範例中，輸入的是一個要進行分類的URL。 流程會使用 Python 腳本從 URL 擷取文字內容、使用 LLM 來摘要 100 個單字的文字內容，並根據 URL 和摘要文字內容進行分類。 然後 Python 腳本會將 LLM 輸出轉換成字典。 prepare_examples 節點會向分類節點的提示饋送幾個範例。

設定 LLM 節點

每個 LLM 節點，你需要選擇一個 連線 來設定 LLM API 金鑰。 選取您的 Azure OpenAI 連線。

根據連線類型，您必須從下拉選單中選擇 deployment_name 或型號。 若要建立 Azure OpenAI 連線，請選擇一個部署方案。 如果您沒有部署，請遵循部署模型的指示，在 Azure OpenAI 入口網站中 建立一個。

在這個例子中，請確保 API 類型是 chat，因為提供的提示範例就是針對聊天 API。 如需聊天和完成 API 之間差異的詳細資訊，請參閱 開發流程。

為流程中的兩個 LLM 節點 summarize_text_content 和 classify_with_llm 設置連線。

執行單一節點

要測試和除錯單一節點，請在流程檢視中選擇節點頂端的執行圖示。 你可以展開 輸入 ，並更改流程輸入 URL，來測試不同 URL 的節點行為。

執行狀態會出現在節點頂端。 執行完成後，執行輸出會出現在節點 輸出 區段。

圖形檢視也會顯示單一執行節點的狀態。

先執行 fetch_text_content_from_url ，然後再跑 summarize_text_content ，檢查流程是否能成功從網路擷取內容並摘要網頁內容。

執行整個流程

要測試和除錯整個流程，請在畫面頂端選擇 執行 。 您可以變更流程輸入 URL，以測試流程對不同 URL 的行為。

檢查每個節點的執行狀態和輸出。

檢視流程輸出

您也可以設定流程輸出，以檢查單一位置中多個節點的輸出。 流程輸出可協助您：

• 檢查單一資料表中的大量測試結果。
• 定義評估介面對應。
• 設定部署回應架構。

在克隆樣本中， 分類 與 證據 流程的輸出已經設定好。

1. 選取頂端橫幅或頂端功能表列中的 [檢視輸出]，以檢視詳細的輸入、輸出、流程執行和協調流程資訊。

   

2. 在輸出頁面的輸出標籤中，注意流程會預測輸入的網址並附有分類與證據。

   

3. 在輸出畫面選擇「追蹤」標籤，然後在節點名稱下選擇「流程」，即可在右側窗格查看詳細的流程概覽資訊。 展開 [流程] 並選取任何步驟，以查看該步驟的詳細資訊。

   

測試和評估

在流程成功運行單列資料後，測試它在大量資料集上是否運行良好。 您可以執行大量測試，並選擇性地新增評估流程，然後檢查結果。

您必須先準備測試資料。 Azure Machine Learning 支持數據的 CSV、TSV 和 JSONL 檔格式。

• 請前往 GitHub 下載 data.csv，這是網頁分類範例的黃金資料集。

使用 批次執行和評估 精靈來設定和提交批次執行，以及選擇性地提交評估方法。 評估方法也是流程，其使用 Python 或 LLM 來計算精確度和相關性分數等計量。

1. 從流程創作頁面的頂端選單選擇 「評估 」。

2. 在 基本設定 畫面中，若需要，可更改 執行顯示名稱 ，新增可選的 執行描述 與 標籤，然後選擇 下一步。

3. 在 [批次執行設定 ] 畫面上，選取 [新增數據]。 在新增資料畫面，輸入資料集名稱，選擇瀏覽上傳你下載的 data.csv 檔案，然後選擇新增。

   上傳數據之後，或如果您的工作區有另一個您想要使用的資料集，請從下拉式清單中搜尋並選擇數據集，以預覽前五個數據列。

   輸入映射功能支援將流程輸入映射到資料集中的任何欄位，即使欄位名稱不符。

   

4. 選擇 「次」 以選擇一種或多種評估方法。 選擇評估頁面顯示內建及自訂的評估流程。 若要查看內建評估方法的指標定義，可以在方法的磁貼上選擇 「更多細節 」。

   Web 分類是分類案例，因此請選取 [ 分類精確度評估 ] 以用於評估，然後選取 [ 下一步]。

   

5. 在 配置評估 畫面中，將 評估輸入映射 設為將 groundtruth 映射為流量輸入 ${data.category} ，並將映射 預測 映射為流量輸出 ${run.outputs.category}。

   

6. 選取 [檢閱 + 提交 ]，然後選取 [ 提交 ] 以提交批次執行和選取的評估方法。

檢查結果

當您的執行成功提交時，請選取 [ 檢視執行清單 ] 以在提示流程 [ 執行 ] 頁面上檢視執行狀態。 批次執行可能需要一些時間才能完成。 你可以選擇 「重新整理 」來載入最新狀態。

批次執行完成後，選取執行旁的勾選框，然後選擇 Visualize outputs 以查看批次執行的結果。

在 [視覺化輸出] 畫面中，啟用子執行旁邊的眼睛圖示，將評估結果附加到批次執行結果表格中。 您可以看到權杖計數總計和整體正確性。 輸出表顯示每列資料的結果：輸入、流量輸出、系統指標，以及正確或錯誤的評估結果。

在 輸出 表中，你可以：

• 調整欄寬、隱藏或取消隱藏資料行，或變更數據行順序。
• 選擇匯出以將當前頁面下載為 CSV 檔案，或下載資料匯出腳本作為可在本地運行以下載輸出的 Jupyter notebook 文件。
• 選擇任一列旁的 「檢視詳情 」圖示，即可開啟該列完整細節的 追蹤檢視 。

精確度不是唯一可以評估分類工作的計量。 例如，您也可以使用召回率來進行評估。 若要執行其他評估，請在Runs頁面選擇Evaluate旁的Visualize outputs，並選擇其他評估方法。

部署為端點

建置並測試流程之後，您可以將它部署為端點，以便叫用端點進行即時推斷。

設定端點

1. 在批次 執行 頁面，選擇執行名稱連結，然後在執行詳細頁面，選擇上方選單列的 部署 ，即可開啟部署精靈。

2. 在 基本設定 頁面，指定 端點名稱 與 部署名稱 ，並選擇 虛擬機器 類型與 實例數量。

3. 你可以選擇 「下一步 」來設定進階 的端點、 部署，以及輸出 與連線 設定。 在此範例中，請使用預設設定。

4. 選取 [檢閱 + 建立 ]，然後選取 [ 建立] 以開始部署。

測試端點

你可以從通知中進入你的端點詳細頁面，或在 Studio 左側導覽中選擇 端點 ，然後從 即時端點 分頁中選擇你的端點。部署終端需要幾分鐘。 終端成功部署後，你可以在 測試 標籤中進行測試。

把你想測試的網址輸入輸入框，然後選擇 測試。 您會看到由您的端點預測的結果。

清除資源

為了節省計算資源和成本，如果您目前已不再使用計算工作階段，您可以停止計算工作階段。 選取執行中的會話，然後選取 [停止計算會話]。

你也可以從工作室左側導覽中選擇 「計算 」，在 「計算實例 」列表中選擇你的計算實例，然後選擇 停止來停止運算實例。

如果您不打算使用您在本教學課程中建立的任何資源，您可以將其刪除，以免產生費用。 在 Azure 入口網站中，搜尋並選取 [資源群組]。 從清單中，選取包含您所建立資源的資源群組，然後從資源群組頁面的頂端功能表中選取 [ 刪除資源群組 ]。

相關內容

• 管理計算工作階段
• 開發標準流程
• 提交大量測試及評估流程
• 使用變體調整提示
• 部署流程