Environnement GPU serverless version 3 (bêta)

Cet article décrit les informations relatives à l’environnement système pour l’environnement GPU serverless version 3.

Pour garantir la compatibilité de l’application, les charges de travail GPU serverless utilisent une API versionnée, appelée version de l’environnement, qui reste compatible avec les versions plus récentes du serveur.

Vous pouvez sélectionner la version de l’environnement à l’aide du panneau latéral Environment dans vos notebooks serverless. Consultez Configurer le calcul GPU serverless.

Nouvelles fonctionnalités et améliorations

L’environnement GPU serverless 3 est basé sur l’environnement serverless 3 (PROCESSEUR). Découvrez les nouveautés de l’environnement serverless 3 (PROCESSEUR).

Problèmes connus

Avertissement de la bibliothèque Threadpoolctl lors de l’importation de transformateurs

Lors de l’importation de la transformers bibliothèque, le message d’erreur suivant peut s’afficher. Il s’agit d’un problème connu avec threadpoolctl la bibliothèque dans l’environnement GPU serverless 3.

Exception ignored on calling ctypes callback function: <function _ThreadpoolInfo._find_modules_with_dl_iterate_phdr.<locals>.match_module_callback at 0x7fe29c7da8e0>
Traceback (most recent call last):
  File "/databricks/python/lib/python3.12/site-packages/threadpoolctl.py", line 400, in match_module_callback
    self._make_module_from_path(filepath)
  File "/databricks/python/lib/python3.12/site-packages/threadpoolctl.py", line 515, in _make_module_from_path
    module = module_class(filepath, prefix, user_api, internal_api)
             ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
  File "/databricks/python/lib/python3.12/site-packages/threadpoolctl.py", line 606, in __init__
    self.version = self.get_version()
                   ^^^^^^^^^^^^^^^^^^
  File "/databricks/python/lib/python3.12/site-packages/threadpoolctl.py", line 646, in get_version
    config = get_config().split()
             ^^^^^^^^^^^^^^^^^^
AttributeError: 'NoneType' object has no attribute 'split'

Pour résoudre ce problème, effectuez une mise à niveau vers l’environnement GPU serverless 4 ou mettez à niveau la threadpoolctl bibliothèque :

pip install threadpoolctl==3.1.0

Environnement du système

• Système d’exploitation : Ubuntu 24.04.2 LTS
• Python : 3.12.3
• Databricks Connect : 16.4.2
• Kit de ressources NVIDIA CUDA : 12.4

Bibliothèques Python installées

Outre ce qui est inclus dans l’environnement serverless 3 (PROCESSEUR), l’environnement GPU serverless 3 inclut les éléments suivants :

• torch 2.6.0
• torchvision 0.21.0

Pour reproduire l’environnement GPU serverless 3 dans votre environnement virtuel Python local, téléchargez le fichier requirements-env-gpu-3.txt et exécutez pip install -r requirements-env-gpu-3.txt. Cette commande installe toutes les bibliothèques open source à partir de l’environnement GPU serverless 3.