共用方式為


什麼是 Azure 容器?

Foundry Tools 提供多個 Docker 容器 ,讓你能使用與 Azure 本地相同的 API。 使用這些容器讓您有彈性,能將 Foundry 工具更貼近您的資料,以符合合規、安全或其他營運需求。 目前 Foundry 工具的部分子集已支援容器。

容器化是散發軟體的方法,它會將應用程式或服務 (包括其相依性及設定) 一起封裝成容器映像。 在只需要小幅修改或不修改的情況下,便可將容器映像部署在容器主機上。 容器之間彼此隔離,也與基礎作業系統隔離,且磁碟使用量比虛擬機器更小。 容器可以從容器映像具現化以進行短期工作,並於不再需要時移除。

功能與優點

  • 固定的基礎結構:讓 DevOps 小組可以利用一致且可靠的已知系統參數集,同時能夠適應變更。 容器可讓您在可預測的生態系統內彈性地進行樞紐分析,並避免設定漂移。
  • 資料控制:選擇你的資料由 Foundry Tools 處理的位置。 如果你無法將資料傳送到雲端,但需要使用 Foundry Tools API,這點就非常重要。 支援混合式環境中的一致性,橫跨資料、管理、身分識別及安全性。
  • 對模型更新的控制:針對部署於其解決方案中的模型,提供版本控制和更新上的彈性。
  • 可攜式架構:建立可部署至 Azure、內部部署及邊緣的可攜式應用程式架構。 您可以將容器直接部署至 Azure Kubernetes ServiceAzure 容器執行個體,或是已部署至 Azure StackKubernetes 叢集。 如需詳細資訊,請參閱將 Kubernetes 部署至 Azure Stack
  • 高吞吐量/低延遲:讓客戶能夠根據高吞吐量與低延遲需求擴展,讓 Foundry Tools 能在物理上接近其應用邏輯與資料執行。 容器不會限制每秒交易 (TPS),而且如果您提供必要的硬體資源,可以相應增加和相應放大來處理要求。
  • 擴充性:隨著 Kubernetes 等容器化和容器協調流程軟體的普及,擴充性成為技術進步的關鍵。 應用程式開發以可調整的叢集為建構基礎,可滿足高可用性。

鑄造工具中的容器

Azure 容器提供以下一組 Docker 容器,每個容器包含來自 Foundry Tools 服務的子集功能。 您可以在下列表格中找到指令和映像位置。

附註

請參閱 安裝與執行文件智慧容器 ,了解 Azure 文件智慧 容器的指示與映像位置。

決策容器

服務 容器 描述 可用性
異常偵測器 異常偵測器 (映像) Anomaly Detector API 可讓您透過機器學習,監視和偵測時間序列資料中的異常狀況。 正式推出

語言容器

服務 容器 描述 可用性
路易士 LUIS (影像) 將已定型或發佈的 Language Understanding 模型 (也稱為 LUIS 應用程式) 載入 Docker 容器中,並提供從容器的 API 端點存取查詢預測的權限。 您可以從容器收集查詢記錄,並將這些記錄重新上傳至 LUIS 入口網站,以改善應用程式的預測精確度。 正式推出。
語言 關鍵片語擷取 (影像) 擷取關鍵片語來識別重點。 例如,若輸入文字為 "The food was delicious and there were wonderful staff",API 即會傳回主要討論要點:"food" 和 "wonderful staff"。 正式推出。
此容器也可以在已中斷連線的環境中執行
語言 文字語言偵測 (映像) 偵測輸入文字是以何種語言撰寫的,並針對要求所提交的每份文件回報單一語言代碼,最多可達 120 種語言。 語言代碼各配有一個分數,表示分數的強度。 正式推出。
此容器也可以在已中斷連線的環境中執行
語言 情感分析 (影像) 分析原始文字以尋找正面或負面情感的線索。 此版本的情感分析會針對每份文件及其中的句子傳回情感標籤 (例如 正面負面)。 正式推出。
此容器也可以在已中斷連線的環境中執行
語言 健康情況的文字分析 (影像) 從非結構化臨床文字中將醫療資訊解壓縮並加上標籤。 正式推出
語言 具名實體辨識 (映像) 從文字擷取具名實體。 正式推出。
此容器也可以在已中斷連線的環境中執行
語言 個人識別資訊 (PII) 偵測 (影像) 從文字偵測及修訂個人識別資訊實體。 正式推出。
此容器也可以在已中斷連線的環境中執行
語言 自訂具名實體辨識 (影像) 使用您使用資料建立的自訂模型,從文字擷取具名實體。 正式推出
語言 摘要 (映像) 摘要說明各種來源的文字。 公開預覽。
此容器也可以在已中斷連線的環境中執行
語言 對話式語言理解影像 解譯交談語言。 正式推出。
此容器也可以在已中斷連線的環境中執行
翻譯工具 翻譯工具 (影像) 以數種語言和方言翻譯文字。 正式推出。 閘道 - 要求存取
此容器也可以在已中斷連線的環境中執行

語音容器

服務 容器 描述 可用性
語音 API 語音轉換文字 (影像) 連續的即時語音謄寫成文字。 正式推出。
此容器也可以在已中斷連線的環境中執行
語音 API 自訂語音轉換文字 (影像) 使用自訂模型將即時語音轉譯為文字。 正式推出
此容器也可以在已中斷連線的環境中執行
語音 API 神經文字轉換語音 (影像) 使用深度神經網路技術將文字轉換成自然發音語音,使語音合成更自然。 正式推出。
此容器也可以在已中斷連線的環境中執行
語音 API 語音語言識別碼 (映像) 判斷說話音訊的語言。 預覽

視覺容器

服務 容器 描述 可用性
願景 讀取 OCR (映像) 讀取 OCR 容器可讓您從影像和文件中擷取列印和手寫的文字,並支援 JPEG、PNG、BMP、PDF 和 TIFF 檔案格式。 如需詳細資訊,請參閱 讀取 API 文件 正式推出。
此容器也可以在已中斷連線的環境中執行
空間分析 空間分析 (映像) 分析即時串流影片,以瞭解實體環境中人與人之間的空間關聯性、其移動和與物件的互動。 預覽

此外,部分容器也支援於 Foundry Tools 多服務資源 中。 你可以建立一個單一的 Foundry 工具資源,並在以下支援服務間使用相同的帳單金鑰:

  • 視覺
  • LUIS
  • 語言

先決條件

在使用 Azure 容器前,您必須滿足以下先決條件:

Docker 引擎:您必須在本機安裝 Docker 引擎。 Docker 提供可在 macOS \(英文\)、Linux \(英文\) 和 Windows \(英文\) 上設定 Docker 環境的套件。 在 Windows 上,必須將 Docker 設定為支援 Linux 容器。 您也可以將 Docker 容器直接部署至 Azure Kubernetes ServiceAzure 容器執行個體

Docker 必須設定為允許容器與 Azure 連線,以及傳送帳單資料至 Azure。

對 Microsoft Container Registry 和 Docker 的熟悉度:您應具備對 Microsoft Container Registry 和 Docker 概念 (例如登錄、存放庫、容器和容器映像等) 的基本了解,以及基本 docker 命令的知識。

如需 Docker 和容器基本概念的入門,請參閱 Docker 概觀 \(英文\)。

個別的容器可能也會有各自的需求,包括伺服器和記憶體配置需求。

Foundry Tools 容器安全

當您在開發應用程式時,安全性應為主要焦點。 安全性的重要性為是否成功的衡量標準。 當您建構包含 Azure AI 容器的軟體解決方案時,請務必了解您的限制和可用的功能。 欲了解更多網路安全的資訊,請參閱 配置 Foundry 工具虛擬網路

重要事項

預設情況下,Foundry Tools 容器 API 沒有安全性 。 這是因為容器通常作為 Pod 的一部分執行,而 Pod 是由網路橋接器從外部保護。 然而,使用者仍可自行建立認證基礎設施,以接近存取 雲端 Foundry 工具時所使用的認證方法。

下圖說明預設和非安全性的方法:

容器安全性

作為替代和安全方法的範例,Azure AI 容器的取用者可以使用正面元件增強容器,讓容器端點維持私人使用。 讓我們看看使用 Istio 做為輸入閘道的案例。 Istio 支援 HTTPS/TLS 和用戶端憑證驗證。 在此案例中,Istio 前端會公開容器存取權,並呈現事先以 Istio 核准的用戶端憑證。

Nginx 是同類別中另一種常用的選擇。 Istio 和 Nginx 都可作為服務網格,並提供額外的功能,包括負載平衡、路由和速率控制等。

容器網路服務

需要有 Azure AI 容器才能提交計量資訊供計費用途。 若無法將 Azure AI 容器所仰賴的各種網路頻道加入允許清單,將會導致容器無法運作。

允許清單 Foundry Tools 網域和連接埠

主機應將連接埠 443 和下列網域列入允許清單:

  • *.cognitive.microsoft.com
  • *.cognitiveservices.azure.com

如果你在本地使用 Foundry Tools 的 Azure Translator,還需要允許以下網址下載檔案

  • translatoronprem.blob.core.windows.net

停用深度封包檢查

深度封包檢查 (DPI) 是一種資料處理方式,會詳細檢查透過電腦網路傳送的資料,而且通常會依檢查結果來採取封鎖、重新路由傳送或記錄等動作。

在 Azure AI 容器建立在 Microsoft 伺服器的安全頻道上停用 DPI。 若無法這樣做,將會導致容器無法正常運作。

開發人員範例

開發人員範例可從我們的 GitHub 存放庫取得。

後續步驟

了解你可以用鑄造工具製作的 容器配方

安裝並探索 Foundry Tools 容器所提供的功能: