此 5 分鐘的零程式碼教程介紹了 Azure Databricks 上的生成式 AI。 您將使用 AI 遊樂場來執行下列動作:
- 查詢大型語言模型(Large Language Models,LLM)並排比較結果
- 設計一個工具調用 AI 代理的原型
- 將代理導出至程式碼
- 選擇性:使用擷取增強生成 (RAG) 建立問答聊天機器人的原型
開始之前
請確定您的工作區可以存取下列項目:
- 基礎模型。 請參閱 模型服務功能可用性。
- Unity Catalog 請參閱 開始使用 Unity 目錄。
- Mosaic AI 代理框架。 請參閱區域可用性有限的功能。
步驟 1:使用 AI 遊樂場查詢 LLM
使用 AI 遊樂場在聊天介面中查詢 LLM。
- 在您的工作區中,選取 [ 遊樂場]。
- 輸入「什麼是RAG?」之類的問題。
添加一個新的 LLM 來並排比較回應:
- 在右上方,選取 + 以新增要比較的模型。
- 在新窗格中,使用下拉式選取器選取不同的模型。
- 選取 [ 同步處理 ] 複選框以同步處理查詢。
- 嘗試新的提示,例如「什麼是複合 AI 系統?」,來同時查看這兩個並排的回應。
持續測試和比較不同的 LLM,以協助您決定用來建置 AI 代理程式的最佳 LLM。
步驟 2:建立工具呼叫 AI 代理程式的原型
工具使得 LLM 不僅能夠生成語言。 工具可以查詢外部數據、執行程序代碼,並採取其他動作。 AI 遊樂場提供無程式代碼選項,讓您建立工具呼叫代理程式的原型:
從 Playground 選擇標示為 [已啟用工具] 的模型。
選取 [工具>+ 新增工具],然後選取內建的 Unity 目錄函式 。
system.ai.python_exec此函式可讓您的代理程式執行任意 Python 程式代碼。
詢問涉及產生或執行 Python 程式代碼的問題。 您可以嘗試對提示的措辭進行不同的變化。 如果您新增多個工具,LLM 會選取適當的工具來產生回應。
步驟 3:將代理程式導出至程式代碼
在 AI Playground 測試代理後,點擊「取得程式碼>」「建立代理筆記本」,將代理匯出成 Python 筆記本。
Python 筆記本包含程序代碼,可定義代理程式,並將其部署至服務端點的模型。
選擇性:建立RAG問答 Bot 的原型
如果您的工作區中已設定向量搜尋索引,您可以建立問答 Bot 的原型。 這種類型的代理程式會使用向量搜尋索引中的檔,根據這些檔回答問題。
按兩下 [工具>+ 新增工具]。 然後,選取您的向量搜尋索引。
詢問與文件相關的問題。 代理程式可以使用向量索引來查閱相關信息,並會引用其答案中使用的任何檔。
若要設定向量搜尋索引,請參閱 建立向量搜尋索引
後續步驟
使用 Agent Framework 以程式設計方式開發進階代理程式。 請參閱程式代碼 撰寫 AI 代理程式。
瞭解如何建置RAG應用程式。 請參閱 RAG指南。