Bezserwerowe środowisko procesora GPU w wersji 4 (beta)

W tym artykule opisano informacje o środowisku systemowym dla środowiska bezserwerowego procesora GPU w wersji 4.

Aby zapewnić zgodność aplikacji, bezserwerowe obciążenia procesora GPU używają interfejsu API w wersji znanej jako wersja środowiska, która pozostaje zgodna z nowszymi wersjami serwera.

Możesz wybrać wersję środowiska przy użyciu panelu bocznego Environment w notesach bezserwerowych. Zobacz Konfigurowanie bezserwerowych obliczeń procesora GPU.

Nowe funkcje i ulepszenia

Bezserwerowe środowisko procesora GPU 4 jest oparte na środowisku bezserwerowych 4 (CPU). Zobacz, co nowego w środowisku bezserwerowym 4 (PROCESOR). Obejmuje dwa różne środowiska:

• Domyślne środowisko podstawowe: minimalne środowisko ze stabilnym interfejsem API klienta.
• Środowisko sztucznej inteligencji usługi Databricks: środowisko ze wspólnymi pakietami środowiska uruchomieniowego i pakietami specyficznymi dla uczenia maszynowego na procesorach GPU.

Aktualizacje interfejsu API

11 grudnia 2025 r.

Bezserwerowy interfejs API języka Python procesora GPU uaktualniony do wersji 0.5.9

Serverless GPU Python API 0.5.9 zawiera następujące aktualizacje API:

• Poprawki błędów:

  • Usunięto usterkę polegającą na tym, że notes nie wyświetlał poprawnego stanu obciążenia.
  • Naprawiono błąd rejestrowania z nieoczekiwanym argumentem słowa kluczowego.

19 listopada 2025 r.

Bezserwerowy interfejs API języka Python procesora GPU uaktualniony do wersji 0.5.8

Bezserwerowe API Python 0.5.8 zawiera następujące aktualizacje API:

• Poprawki błędów:

  • Rozwiązano problem polegający na tym, że przerwanie komórki notatnika nie zatrzymywało zadania zdalnego.
  • Naprawiono warunek wyścigu w kodzie synchronizacji, który spowodował następujący komunikat o błędzie: torch.distributed.DistBackendError: [1] is setting up NCCL communicator and retrieving ncclUniqueId from [0] via c10d key-value store by key '0', but store->get('0') got error: failed to recv, got 0 bytes.
  • Rozwiązano problem polegający na tym, że był zgłaszany bardziej ogólny wyjątek zamiast określonego wyjątku. Ta poprawka obejmowała również dodatkowe warunki wyścigu, które doprowadziłyby do ostatecznego oznaczenia komórki jako "Ran" zamiast "Failed".

• Nowe funkcje i ulepszenia:

  • Zwiększono maksymalną liczbę procesorów GPU A10 i H100, z którymi notes może nawiązać połączenie z 16 do 32.
  • Dodano limit czasu i opróżnianie dziennika podczas synchronizowania środowisk.

31 października 2025 r.

Bezserwerowy interfejs API języka Python procesora GPU uaktualniony do wersji 0.5.7

Bezserwerowy interfejs API języka Python 0.5.7 zawiera następujące aktualizacje interfejsu API:

• Poprawki błędów:
  • Rozwiązano problem polegający na tym, że niepowodzenie zadania zdalnego było niepoprawnie oznaczane jako powodzenie w komórce notatnika.
  • Rozwiązano sporadyczny problem z przekroczeniem limitu czasu podczas synchronizacji środowiska.
  • Rozwiązano problem z wyświetlaniem linku "wyświetl dzienniki".

22 października 2025 r.

Bezserwerowy interfejs API języka Python procesora GPU uaktualniony do wersji 0.5.6

Bezserwerowy interfejs API w języku Python w wersji 0.5.6 zawiera następujące aktualizacje:

• Poprawki błędów:
  • Naprawiono Py4jException błąd powodujący awarię notatnika podczas uruchamiania wielu obciążeń przy użyciu serverless_gpu i remote=False.
  • Naprawiono sporadyczną usterkę torch.distributed.DistStoreError, która mogła wystąpić podczas wielowęzłowego treningu.
  • Rozwiązano problem z synchronizacją przy jednoczesnym przekazywaniu i pobieraniu danych w nowym interfejsie API menedżera środowiska Python.
• Zmiany behawioralne:
  • Zaktualizowano domyślny wybór mocy obliczeniowej procesora GPU bezserwerowego. Domyślnie użytkownicy dołączają teraz do pul zarezerwowanych, jeśli mają do nich dostęp. Użytkownicy mogą łączyć się z pulami na żądanie, ustawiając flagę "DATABRICKS_USE_POOL". Jeśli użytkownicy nie mają dostępu do pul zarezerwowanych, zawsze będą domyślnie używać pul na żądanie.

Środowisko systemu

• system operacyjny: Ubuntu 24.04.2 LTS
• Python: 3.12.3
• Databricks Connect: 17.2.4
• Zestaw narzędzi NVIDIA CUDA: 12.6

Zainstalowane biblioteki języka Python

Domyślne środowisko podstawowe

Oprócz tego, co jest zawarte w środowisku bezserwerowym 4 (procesor) , bezserwerowe środowisko procesora GPU 4 obejmuje następujące elementy:

• flash-attention 2.8.3
• torch 2.7.1
• torchvision 0.22.1

Aby odtworzyć bezserwerowe środowisko procesora GPU 4 w lokalnym środowisku wirtualnym języka Python, pobierz plik requirements-env-gpu-4.txt i uruchom polecenie pip install -r requirements-env-gpu-4.txt. To polecenie instaluje wszystkie biblioteki open source ze środowiska bezserwerowego 4.

Środowisko sztucznej inteligencji

Środowisko sztucznej inteligencji zawiera wszystkie pakiety z domyślnego środowiska podstawowego, a także następujące pakiety:

• flash-attention 2.8.3
• langchain 0.3.27
• lightgbm 4.6.0
• openai 1.106.1
• optuna 4.5.0
• ray 2.49.1
• sentence-transformers 5.1.0
• transformers 4.56.1
• xgboost 3.0.4
• pytorch-lightning 2.5.4

Aby odtworzyć środowisko sztucznej inteligencji w wersji 4 w lokalnym środowisku wirtualnym języka Python, pobierz plik requirements-ai-gpu-4.txt i uruchom polecenie pip install -r requirements-ai-gpu-4.txt. To polecenie instaluje wszystkie biblioteki open source ze środowiska sztucznej inteligencji.