Databricks Runtime 10.2 voor ML (EoS)

Databricks heeft deze versie uitgebracht in december 2021.

Databricks Runtime 10.2 voor Machine Learning biedt een kant-en-klare omgeving voor machine learning en gegevenswetenschap op basis van Databricks Runtime 10.2 (EoS). Databricks Runtime ML bevat veel populaire machine learning-bibliotheken, waaronder TensorFlow, PyTorch en XGBoost. Databricks Runtime ML bevat AutoML, een hulpprogramma voor het automatisch trainen van machine learning-pijplijnen. Databricks Runtime ML biedt ook ondersteuning voor gedistribueerde Deep Learning-training met behulp van Horovod.

Zie AI en machine learning op Databricks voor meer informatie, inclusief instructies voor het maken van een Databricks Runtime ML-cluster.

Nieuwe functies en verbeteringen

Databricks Runtime 10.2 ML is gebouwd op Databricks Runtime 10.2. Zie de releaseopmerkingen van Databricks Runtime 10.2, waaronder Apache Spark MLlib en SparkR, voor informatie over wat er nieuw is in Databricks Runtime 10.2 (EoS ).

Autologging van Databricks (publieke preview)

Databricks Autologging is nu beschikbaar als openbare preview in alle regio's. Databricks Autologging is een oplossing zonder code waarmee automatisch experimenten worden bijgehouden voor machine learning-trainingssessies in Azure Databricks. Met Autologging van Databricks worden modelparameters, metrische gegevens, bestanden en herkomstgegevens automatisch vastgelegd wanneer u modellen traint uit verschillende populaire machine learning-bibliotheken. Trainingssessies worden vastgelegd als MLflow Tracking Runs. Modelbestanden worden ook bijgehouden, zodat u ze eenvoudig kunt registreren bij het MLflow-modelregister en ze kunt implementeren voor realtime scoren met MLflow Model Serving.

Voor meer informatie over Databricks Autologging, zie Databricks Autologging.

Verbeteringen aan AutoML

De volgende verbeteringen zijn aangebracht in AutoML.

• AutoML negeert kolommen met slechts één waarde.
• Voor classificatie- en regressieproblemen kan de tijdkolom, die wordt gebruikt om de dataset chronologisch te splitsen in trainings-, validatie- en testsets, nu van het type string zijn. Voorheen werden alleen tijdstempels en gehele getallen ondersteund. Zie Gegevens splitsen in trainings-, validatie- en testsets voor meer informatie.

Verbeteringen in Databricks Feature Store

De volgende verbeteringen zijn aangebracht in Databricks Feature Store.

Vereenvoudigde FeatureStoreClient interface

De Interface FeatureStoreClient is vereenvoudigd.

• FeatureStoreClient.create_feature_table() is verouderd verklaard. Gebruik in plaats daarvan FeatureStoreClient.create_table().
• FeatureStoreClient.get_feature_table() is verouderd verklaard. Gebruik in plaats daarvan FeatureStoreClient.get_table().
• Alle argumenten voor FeatureStoreClient.publish_table() behalve name en online_store moeten worden doorgegeven als sleutelwoordargumenten.

Alleen geselecteerde kolommen publiceren in online winkels

Databricks Feature Store biedt nu ondersteuning voor het publiceren van alleen geselecteerde kolommen naar een online winkel. Zie Geselecteerde functies publiceren naar een online winkel voor meer informatie.

Belangrijke wijzigingen in de Python-omgeving van Databricks Runtime ML

De integratie van automatische MLflow-tracering voor Apache Spark MLlib, die is afgeschaft in Databricks Runtime 10.1 ML, is nu standaard uitgeschakeld in Databricks Runtime 10.2 ML. Het is vervangen door de integratie van PySpark ML Autologging van MLflow, die standaard is ingeschakeld met Databricks Autologging. Bij automatisch vastleggen worden aanvullende informatie vastgelegd die verder gaat dan wat geautomatiseerde MLflow-tracering voor MLlib heeft vastgelegd, inclusief de parameters, metrische gegevens en artefacten die zijn gekoppeld aan het beste model.

Python-pakketten bijgewerkt

• databricks-cli 0.14.3 => 0.16.2
• keras 2.6.0 => 2.7.0
• lightgbm 3.3.0 => 3.3.1
• mlflow 1.21.0 => 1.22.0
• plotly 5.3.0 => 5.3.1
• shap 0.39.0 => 0,40.0
• spatie 3.1.3 => 3.2.0
• tensorboard 2.6.0 => 2.7.0
• tensorflow 2.6.0 => 2.7.0
• torch 1.9.1 => 1.10.0
• torchvision 0.10.1 => 0.11.1
• transformatoren 4.11.3 => 4.12.3
• xgboost 1.4.2 => 1.5.0

Systeemomgeving

De systeemomgeving in Databricks Runtime 10.2 ML verschilt als volgt van Databricks Runtime 10.2:

• DBUtils: Databricks Runtime ML bevat geen bibliotheekhulpprogramma (dbutils.library) (verouderd). Gebruik in plaats daarvan %pip-opdrachten. Zie Notebook-scoped Python libraries (Notebook-scoped Python-bibliotheken) voor meer informatie.
• Voor GPU-clusters bevat Databricks Runtime ML de volgende NVIDIA GPU-bibliotheken:
  • CUDA 11.0
  • cuDNN 8.0.5.39
  • NCCL 2.10.3
  • TensorRT 7.2.2

Bibliotheken

In de volgende secties worden de bibliotheken vermeld die zijn opgenomen in Databricks Runtime 10.2 ML die verschillen van de bibliotheken die zijn opgenomen in Databricks Runtime 10.2.

In deze sectie:

• Topbibliotheken
• Python-bibliotheken
• R-bibliotheken
• Java- en Scala-bibliotheken (Scala 2.12-cluster)

Bibliotheken van topklasse

Databricks Runtime 10.2 ML bevat de volgende bibliotheken van topkwaliteit:

• GraphFrames
• Horovod en HorovodRunner
• MLflow
• PyTorch
• spark-tensorflow-connector
• TensorFlow
• TensorBoard

Python-bibliotheken

Databricks Runtime 10.2 ML maakt gebruik van Virtualenv voor Python-pakketbeheer en bevat veel populaire ML-pakketten.

Naast de pakketten die zijn opgegeven in de volgende secties, bevat Databricks Runtime 10.2 ML ook de volgende pakketten:

• hyperopt 0.2.7.db1
• sparkdl 2.2.0-db5
• feature_store 0.3.6
• automl 1.5.0

Python-bibliotheken op CPU-clusters

Python-bibliotheken op GPU-clusters

Spark-pakketten met Python-modules

R-bibliotheken

De R-bibliotheken zijn identiek aan de R-bibliotheken in Databricks Runtime 10.2.

Java- en Scala-bibliotheken (Scala 2.12-cluster)

Naast Java- en Scala-bibliotheken in Databricks Runtime 10.2 bevat Databricks Runtime 10.2 ML de volgende JAR's:

CPU-clusters

GPU-clusters