無伺服器 GPU 環境第 4 版 （測試版）

本文概述無伺服器 GPU 環境第 4 版的系統環境資訊。

為了確保應用程式的相容性，無伺服器 GPU 工作負載使用版本化 API，稱為環境版本，該 API 與較新的伺服器版本保持相容。

您可以使用無伺服器筆記本中的 [環境] 側面板來選取環境版本。 請參閱 設定無伺服器 GPU 運算。

新功能和改善

無伺服器 GPU 環境 4 是建立在無伺服器環境 4 （CPU） 之上。 查看 無伺服器環境 4 （CPU） 的新功能。 它包含兩種不同的環境：

• 預設基礎環境：一個擁有穩定客戶端 API 的最小化環境。
• Databricks AI 環境：一個包含常見執行時套件及專門針對 GPU 機器學習套件的環境。

API 更新

2025年12月11日

Serverless GPU Python API 已升級至 0.5.9

Serverless GPU Python API 0.5.9 包含以下 API 更新：

• 錯誤修正：

  • 修正了一個筆記本無法顯示正確工作負載狀態的錯誤。
  • 修正了因意外關鍵字參數導致的記錄錯誤。

2025年11月19日

Serverless GPU Python API 已升級至 0.5.8

無伺服器 GPU Python API 0.5.8 包含以下 API 更新：

• 錯誤修正：

  • 修正了一個中斷筆記本小區無法停止遠端工作的問題。
  • 修正了同步程式碼中的一個競賽條件，導致此錯誤訊息： torch.distributed.DistBackendError: [1] is setting up NCCL communicator and retrieving ncclUniqueId from [0] via c10d key-value store by key '0', but store->get('0') got error: failed to recv, got 0 bytes。
  • 修正了一個問題，因為提出的是更廣泛的例外，而非特定例外。 此修正還涵蓋了更多競賽條件，這些條件會導致最終格被標記為「已執行」而非「失敗」。

• 新功能與改進：

  • 筆電最多可連接的 A10 和 H100 GPU 數量從 16 顆增加到 32 顆。
  • 在同步環境時新增了超時和日誌清除功能。

2025年10月31日

Serverless GPU Python API 已升級至 0.5.7

無伺服器 GPU Python API 0.5.7 包含以下 API 更新：

• 錯誤修復：
  • 修正了一個問題，即遠端工作失敗卻錯誤地顯示為筆記本儲存格成功。
  • 已修正環境同步期間偶發性逾時問題。
  • 修正了「查看日誌」連結顯示的問題。

2025 年 10 月 22 日

無伺服器 GPU Python API 升級至 0.5.6

無伺服器 GPU Python API 0.5.6 包含下列 API 更新：

• 錯誤修復：
  • 修正Py4jException在使用serverless_gpu執行多個工作負載remote=False時導致筆記型電腦當機的錯誤。
  • 修正了多節點訓練期間可能偶爾發生的問題 torch.distributed.DistStoreError 。
  • 修正了新 Python 環境管理員 API 的環境同步上傳下載競賽問題。
• 行為改變：
  • 已更新預設無伺服器 GPU 計算選取範圍。 根據預設，如果使用者有權存取保留集區，他們現在會連結至保留集區。 使用者可以透過設定「DATABRICKS_USE_POOL」旗標來連線到隨選池。 如果使用者無法存取保留集區，他們將一律預設使用隨選集區。

系統環境

• 作業系統：Ubuntu 24.04.2 LTS
• Python：3.12.3
• Databricks Connect 版本：17.2.4
• NVIDIA CUDA 工具包：12.6

已安裝的 Python 程式庫

預設基礎環境

除了 無伺服器環境 4 （CPU） 中包含的內容之外，無伺服器 GPU 環境 4 還包括下列項目：

• flash-attention 2.8.3
• torch 2.7.1
• torchvision 0.22.1

若要在本機 Python 虛擬環境中重現無伺服器 GPU 環境 4，請下載 requirements-env-gpu-4.txt 檔案並執行 pip install -r requirements-env-gpu-4.txt。 此命令會從無伺服器環境 4 安裝所有開放原始碼程式庫。

AI 環境

AI 環境包含預設基礎環境的所有套件，以及以下套件：

• flash-attention 2.8.3
• langchain 0.3.27
• lightgbm 4.6.0
• openai 1.106.1
• optuna 4.5.0
• ray 2.49.1
• sentence-transformers 5.1.0
• transformers 4.56.1
• xgboost 3.0.4
• pytorch-lightning 2.5.4

若要在本機 Python 虛擬環境中重現 AI 環境 V4，請下載 requirements-ai-gpu-4.txt 檔案並執行 pip install -r requirements-ai-gpu-4.txt。 此命令會從 AI 環境安裝所有開源程式庫。