Databricks Runtime 11.3 LTS para Machine Learning (EoS)

Databricks Runtime 11.3 LTS para Machine Learning proporciona un entorno listo para usar para el aprendizaje automático y la ciencia de datos basado en Databricks Runtime 11.3 LTS (EoS). Databricks Runtime ML contiene muchas bibliotecas de aprendizaje automático populares, como TensorFlow, PyTorch y XGBoost. Databricks Runtime ML incluye AutoML, una herramienta para entrenar automáticamente canalizaciones de aprendizaje automático. Databricks Runtime ML también admite el entrenamiento de aprendizaje profundo distribuido mediante Horovod.

Para más información, incluidas las instrucciones para crear un clúster de Databricks Runtime ML, consulte IA y aprendizaje automático en Databricks.

Nuevas características y mejoras

Databricks Runtime 11.3 LTS ML se basa en Databricks Runtime 11.3 LTS. Para obtener información sobre las novedades de Databricks Runtime 11.3 LTS, incluidas apache Spark MLlib y SparkR, consulte las notas de la versión de Databricks Runtime 11.3 LTS (EoS).

Mejoras en AutoML

AutoML ahora admite el uso de tablas de características del Almacén de características existentes en los experimentos de AutoML. Para obtener más información, consulte Integración del Repositorio de Funciones de AutoML.

Los cuadernos de prueba generados por AutoML ahora contienen fragmentos de código que permiten a los usuarios volver a ejecutar el ajuste de hiperparámetros.

AutoML ahora admite DecimalType características.

Corrección de errores

Databricks Runtime 11.3 LTS ML incluye una versión actualizada de sparkdl.xgboost. Las versiones anteriores de sparkdl.xgboost contienen errores corregidos en esta versión, por lo que Databricks recomienda que los usuarios de la biblioteca actualicen a Databricks Runtime 11.3 LTS ML.

Preparación para futuras versiones

Una próxima versión del Databricks Runtime ML incluirá la versión 1.0 de sklearn. Visite la sklearndocumentación para obtener información sobre cómo prepararse para este cambio.

Databricks Runtime ML contiene dos openblas paquetes. El /opt/OpenBLAS paquete está en desuso en Databricks Runtime 11.3 LTS ML y se quitará en una próxima versión.

Entorno del sistema

El entorno del sistema en Databricks Runtime 11.3 LTS ML difiere de Databricks Runtime 11.3 LTS de la siguiente manera:

• DBUtils: Databricks Runtime ML no incluye la utilidad de biblioteca (dbutils.library) (heredada). Use comandos %pip en su lugar. Consulte Bibliotecas específicas de Python para Notebook.
• En el caso de los clústeres de GPU, Databricks Runtime ML incluye las siguientes bibliotecas de GPU de NVIDIA:
  • CUDA 11.3
  • cuDNN 8.0.5.39
  • NCCL 2.9.9
  • TensorRT 7.2.2

Databricks Runtime 11.3 LTS ML incluye XGBoost 1.6.1, que no admite clústeres de GPU con capacidad de proceso 5.2 y versiones posteriores.

Libraries

En las secciones siguientes se enumeran las bibliotecas incluidas en Databricks Runtime 11.3 LTS ML que difieren de las incluidas en Databricks Runtime 11.3 LTS.

En esta sección:

• Bibliotecas de nivel superior
• Bibliotecas de Python
• Bibliotecas de R
• Bibliotecas de Java y Scala (clúster de Scala 2.12)

Bibliotecas de nivel superior

Databricks Runtime 11.3 LTS ML incluye las siguientes bibliotecas de nivel superior:

• GraphFrames
• Horovod y HorovodRunner
• MLflow
• PyTorch
• spark-tensorflow-connector (conector para Spark y TensorFlow)
• TensorFlow
• TensorBoard
• Scikit-learn

Bibliotecas de Python

Databricks Runtime 11.3 LTS ML usa Virtualenv para la administración de paquetes de Python e incluye muchos paquetes de ML populares.

Además de los paquetes especificados en las secciones siguientes, Databricks Runtime 11.3 LTS ML también incluye los siguientes paquetes:

• hyperopt 0.2.7.db1
• sparkdl 2.3.0-db3
• feature_store 0.7.0
• automl 1.13.2

Para reproducir el entorno de Python de Ml en tiempo de ejecución de Databricks en el entorno virtual local de Python, descargue el archivo requirements-11.3.txt y ejecute pip install -r requirements-11.3.txt. Este comando instala todas las bibliotecas de código abierto que usa Databricks Runtime ML, pero no instala bibliotecas desarrolladas por Databricks, como databricks-automl, databricks-feature-storeo la bifurcación de Databricks de hyperopt.

Bibliotecas de Python en clústeres de CPU

Bibliotecas de Python en clústeres de GPU

Bibliotecas de R

Las bibliotecas de R son idénticas a las bibliotecas de R en Databricks Runtime 11.3 LTS.

Bibliotecas de Java y Scala (clúster de Scala 2.12)

Además de las bibliotecas de Java y Scala en Databricks Runtime 11.3 LTS, Databricks Runtime 11.3 LTS ML contiene los siguientes JAR:

Clústeres de CPU

Clústeres de GPU