Serverlose GPU-Umgebung, Version 4 (Beta)

In diesem Artikel werden die Systemumgebungsinformationen für serverlose GPU-Umgebung, Version 4, beschrieben.

Um die Kompatibilität für die Anwendung sicherzustellen, verwenden Serverlose GPU-Workloads eine versionslose API, die als Umgebungsversion bezeichnet wird, die mit neueren Serverversionen kompatibel bleibt.

Sie können die Umgebungsversion mithilfe des Seitenfensters Umgebung in Ihren serverlosen Notizbüchern auswählen. Siehe Einrichten der serverlosen GPU-Berechnung.

Neue Features und Verbesserungen

Serverlose GPU-Umgebung 4 basiert auf serverloser Umgebung 4 (CPU). Schauen Sie sich die Neuerungen in serverloser Umgebung 4 (CPU) an. Es enthält zwei verschiedene Umgebungen:

• Standardbasisumgebung: eine minimale Umgebung mit stabiler Client-API.
• Databricks AI-Umgebung: eine Umgebung mit allgemeinen Laufzeitpaketen und Paketen speziell für maschinelles Lernen auf GPUs.

API-Aktualisierungen

11. Dezember 2025

Serverlose GPU Python-API wurde auf 0.5.9 aktualisiert

Die Serverless GPU Python API 0.5.9 enthält die folgenden API-Updates:

• Fehlerbehebungen:

  • Ein Fehler wurde behoben, bei dem das Notizbuch den richtigen Workloadstatus nicht anzeigte.
  • Ein Protokollierungsfehler mit unerwartetem Schlüsselwortargument wurde behoben.

19. November 2025

Serverlose GPU Python-API wurde auf 0.5.8 aktualisiert

Die Serverless GPU Python API 0.5.8 enthält die folgenden API-Updates:

• Fehlerbehebungen:

  • Es wurde ein Problem behoben, bei dem das Unterbrechen der Zelle des Notizbuchs den Remote-Job nicht beendet hat.
  • Es wurde eine Racebedingung im Synchronisierungscode behoben, die diese Fehlermeldung verursacht hat: torch.distributed.DistBackendError: [1] is setting up NCCL communicator and retrieving ncclUniqueId from [0] via c10d key-value store by key '0', but store->get('0') got error: failed to recv, got 0 bytes.
  • Es wurde ein Problem behoben, bei dem anstelle einer bestimmten Ausnahme eine allgemeinere Ausnahme ausgelöst wurde. Dieser Fix deckte auch zusätzliche Rennbedingungen ab, die dazu führen würden, dass eine letzte Zelle als "Ran" anstelle von "Failed" gekennzeichnet wird.

• Neue Features und Verbesserungen:

  • Die maximale Anzahl von A10- und H100-GPUs, mit denen ein Notebook verbunden werden kann, wurde von 16 auf 32 erhöht.
  • Timeout und Protokolllöschung beim Synchronisieren von Umgebungen hinzugefügt.

31. Oktober 2025

Serverlose GPU Python-API wurde auf 0.5.7 aktualisiert

Die Serverless GPU Python API 0.5.7 enthält die folgenden API-Updates:

• Fehlerbehebungen:
  • Ein Problem wurde behoben, bei dem ein Fehler eines Remoteauftrags in der Notizbuchzelle fälschlicherweise als Erfolg angezeigt wurde.
  • Ein zeitweiliges Problem mit einem Timeout während der Umgebungssynchronisierung wurde behoben.
  • Das Problem mit der Anzeige des Links "Ansichtsprotokolle" wurde behoben.

22. Oktober 2025

Serverlose GPU Python-API wurde auf 0.5.6 aktualisiert

Die Serverless GPU Python API 0.5.6 enthält die folgenden API-Updates:

• Fehlerbehebungen:
  • Es wurde ein Fehler behoben, der das Notebook beim gleichzeitigen Ausführen mehrerer Workloads unter Verwendung von Py4jException mit serverless_gpu abstürzen ließ.
  • Es wurde ein gelegentlicher Fehler torch.distributed.DistStoreError behoben, der bei der Verwendung mehrerer Knoten während des Trainings auftreten konnte.
  • Das Problem beim Rennzustand zwischen Upload und Download, das bei der Synchronisierung mit der neuen Python-Umgebungsmanager-API auftrat, wurde behoben.
• Verhaltensänderungen:
  • Die Standardauswahl für serverlose GPU-Compute wurde aktualisiert. Standardmäßig werden Benutzer jetzt mit reservierten Pools angeschlossen, wenn sie Zugriff auf sie haben. Benutzer können eine Verbindung mit On-Demand-Pools herstellen, indem Sie das Flag "DATABRICKS_USE_POOL" festlegen. Wenn Benutzer keinen Zugriff auf reservierte Pools haben, werden sie immer standardmäßig auf Bedarfspools zugreifen.

Systemumgebung

• Betriebssystem: Ubuntu 24.04.2 LTS
• Python: 3.12.3
• Databricks Connect: 17.2.4
• NVIDIA CUDA Toolkit: 12.6

Installierte Python-Bibliotheken

Standardbasisumgebung

Zusätzlich zu den Komponenten, die in serverloser Umgebung 4 (CPU) enthalten sind, umfasst die serverlose GPU-Umgebung 4 Folgendes:

• flash-attention 2.8.3
• torch 2.7.1
• torchvision 0.22.1

Um serverlose GPU-Umgebung 4 in Ihrer lokalen virtuellen Python-Umgebung zu reproduzieren, laden Sie die requirements-env-gpu-4.txt Datei herunter, und führen Sie sie aus pip install -r requirements-env-gpu-4.txt. Mit diesem Befehl werden alle Open Source-Bibliotheken aus serverloser Umgebung 4 installiert.

KI-Umgebung

Die KI-Umgebung enthält alle Pakete aus der Standardbasisumgebung sowie die folgenden Pakete:

• flash-attention 2.8.3
• langchain 0.3.27
• lightgbm 4.6.0
• openai 1.106.1
• optuna 4.5.0
• ray 2.49.1
• sentence-transformers 5.1.0
• transformers 4.56.1
• xgboost 3.0.4
• pytorch-lightning 2.5.4

Um die KI-Umgebung V4 in Ihrer lokalen virtuellen Python-Umgebung zu reproduzieren, laden Sie die requirements-ai-gpu-4.txt Datei herunter, und führen Sie sie aus pip install -r requirements-ai-gpu-4.txt. Mit diesem Befehl werden alle Open Source-Bibliotheken aus der KI-Umgebung installiert.