了解 Foundry 的功能
Microsoft Foundry 提供以 樞紐 與 專案為核心的使用者介面。 一般而言,建立中心可提供更全面的 Azure AI 和 Azure Machine Learning 存取權限。 在中心內,您可以建立專案。 專案 提供更具體的模型和代理程式開發存取權。 你可以從 Microsoft Foundry 的 總覽 頁面管理你的專案。
當你建立 Azure AI Hub 時,會同時產生多個其他資源,包括 Foundry Tools 資源。 在 Microsoft Foundry 中,你可以測試各種 Foundry 工具,包括 Azure Speech、Azure Language、Azure Vision 以及 Microsoft Foundry Content Safety。
除了展示外,Microsoft Foundry 還提供測試 Foundry 工具及模型目錄中其他模型的遊玩場。
自訂模型
有許多方式可以自定義 Generative AI 應用程式中的模型。 自定義模型的目的是要改善其效能層面,包括響應的品質和安全性。 讓我們來看看 Microsoft Foundry 中四種主要的自訂模型方式。
| 方法 | 說明 |
|---|---|
| 使用基礎資料 | 接地是指確保系統的輸出與事實、情境或可靠數據來源保持一致的過程。 基礎化可以通過多種方式完成,例如將模型連結至資料庫,使用搜尋引擎擷取實時資訊,或併入領域特定知識庫。 目標是錨定模型對這些資料來源的回應,增強所產生內容的可信度和適用性。 |
| 實作檢索增強生成 (RAG) | RAG 藉由將語言模型連線至組織的專屬資料庫來增強語言模型。 這項技術牽涉到從策劃的資料集擷取相關資訊,並將這些資訊用來產生內容正確的回應。 RAG 會提供最新及網域特定的資訊,協助產生更精確且相關的答案,藉此增強模型的效能。 RAG 適用於即時存取動態數據至關重要的應用程式,例如客戶支援或知識管理系統。 |
| 微調 | 牽涉到採用預先定型的模型,並在較小的工作特定數據集上進一步定型,使其更適合特定應用程式。 此過程可讓模型針對需要網域特定知識的特定工作進行特製化並改善執行。 微調適用於將模型調整為領域特定需求、改善精確度,以及降低產生不相關或不正確回應的可能性。 |
| 管理安全性和控管控件 | 管理存取權、驗證和數據使用量需要安全性和控管控制。 這些控制項有助於防止發佈不正確或未經授權的資訊。 |
接著,讓我們了解 Microsoft Foundry 如何提供生成式 AI 應用效能評估的工具。