Databricks Runtime 10.5 voor Machine Learning (EoS)

Databricks Runtime 10.5 voor Machine Learning biedt een kant-en-klare omgeving voor machine learning en gegevenswetenschap op basis van Databricks Runtime 10.5 (EoS). Databricks Runtime ML bevat veel populaire machine learning-bibliotheken, waaronder TensorFlow, PyTorch en XGBoost. Databricks Runtime ML bevat AutoML, een hulpprogramma voor het automatisch trainen van machine learning-pijplijnen. Databricks Runtime ML biedt ook ondersteuning voor gedistribueerde Deep Learning-training met behulp van Horovod.

Zie AI en machine learning op Databricks voor meer informatie, inclusief instructies voor het maken van een Databricks Runtime ML-cluster.

Nieuwe functies en verbeteringen

Databricks Runtime 10.5 ML is gebouwd op Databricks Runtime 10.5. Zie de releaseopmerkingen van Databricks Runtime 10.5, waaronder Apache Spark MLlib en SparkR, voor informatie over wat er nieuw is in Databricks Runtime 10.5 (EoS ).

Verbeteringen aan AutoML

De volgende verbeteringen zijn aangebracht in AutoML.

• Dankzij verbeterd geheugengebruik kan AutoML trainen op grotere gegevenssets.
• Met AutoML-prognose kunt u nu de voorspellingen van het beste model exporteren naar een tabel met behulp van de API. Als output_database opgegeven is, worden de voorspellingen van het beste model opgeslagen in een nieuwe tabel in de opgegeven database. De voorspellingen worden niet opgeslagen als output_database niet is opgegeven.

Verbeteringen in Databricks Feature Store

De volgende verbeteringen zijn aangebracht in Databricks Feature Store.

• U kunt nu een bestaande functietabel verwijderen met de drop_table API. Met deze actie wordt ook de onderliggende Delta-tabel verwijderd.
• U kunt nu de Python-API gebruiken om een tag toe te voegen aan een functietabel wanneer u deze maakt of registreert en tags toe te voegen, bij te werken, te verwijderen of te lezen in bestaande functietabellen.

Systeemomgeving

De systeemomgeving in Databricks Runtime 10.5 ML verschilt als volgt van Databricks Runtime 10.5:

• DBUtils: Databricks Runtime ML bevat geen bibliotheekhulpprogramma (dbutils.library) (verouderd). Gebruik in plaats daarvan %pip opdrachten. Zie Notebook-scoped Python libraries (Notebook-scoped Python-bibliotheken) voor meer informatie.
• Voor GPU-clusters bevat Databricks Runtime ML de volgende NVIDIA GPU-bibliotheken:
  • CUDA 11.0
  • cuDNN 8.0.5.39
  • NCCL 2.10.3
  • TensorRT 7.2.2

Bibliotheken

In de volgende secties worden de bibliotheken vermeld die zijn opgenomen in Databricks Runtime 10.5 ML die verschillen van de bibliotheken die zijn opgenomen in Databricks Runtime 10.5.

In deze sectie:

• Topbibliotheken
• Python-bibliotheken
• R-bibliotheken
• Java- en Scala-bibliotheken (Scala 2.12-cluster)

Bibliotheken van topkwaliteit

Databricks Runtime 10.5 ML bevat de volgende eersteklas bibliotheken:

• GraphFrames
• Horovod en HorovodRunner
• MLflow
• PyTorch
• spark-tensorflow-connector
• TensorFlow
• TensorBoard

Python-bibliotheken

Databricks Runtime 10.5 ML maakt gebruik van Virtualenv voor Python-pakketbeheer en bevat veel populaire ML-pakketten.

Naast de pakketten die zijn opgegeven in de volgende secties, bevat Databricks Runtime 10.5 ML ook de volgende pakketten:

• hyperopt 0.2.7.db1
• sparkdl 2.2.0-db6
• feature_store 0.4.1
• automl 1.8.0

Python-bibliotheken op CPU-clusters

Python-bibliotheken op GPU-clusters

Spark-pakketten met Python-modules

R-bibliotheken

De R-bibliotheken zijn identiek aan de R-bibliotheken in Databricks Runtime 10.5.

Java- en Scala-bibliotheken (Scala 2.12-cluster)

Naast Java- en Scala-bibliotheken in Databricks Runtime 10.5 bevat Databricks Runtime 10.5 ML de volgende JAR's:

CPU-clusters

GPU-clusters