Databricks Runtime 6.5 (EoS)

Diese Version wurde von Databricks im April 2020 veröffentlicht.

Die folgenden Versionshinweise enthalten Informationen zu Databricks Runtime 6.5 mit Unterstützung durch Apache Spark.

Neue Funktionen

Metriken für alle Schreib-, Aktualisierungs- und Löschvorgänge in einer Delta-Tabelle werden jetzt im Tabellenverlauf aufgeführt.

Sie können nun die Betriebsmetriken (z. B. Anzahl der geänderten Dateien und Zeilen) für alle Schreibvorgänge, Aktualisierungen und Löschvorgänge im Verlauf einer Delta-Tabelle sehen. Die Generierung dieser Metriken ist standardmäßig aktiviert. Sie können den Verlauf anzeigen, indem Sie Folgendes ausführen:

DESCRIBE HISTORY deltaTableName

Rate der in Delta Lake-Streamingmikrobatches verarbeiteten Daten begrenzen

Wenn Sie Daten aus Delta Lake mit strukturiertem Streaming verarbeiten, können Sie jetzt die Option maxBytesPerTrigger festlegen, um zu begrenzen, wie viele Daten in jedem Microbatch verarbeitet werden. Diese Option legt einen „soft max“ fest, was bedeutet, dass ein Batch ungefähr diese Datenmenge verarbeitet und möglicherweise mehr als den Grenzwert verarbeitet.

Wenn Sie Trigger.Once für Ihr Streaming verwenden, wird diese Option ignoriert. Wenn Sie diese Option zusätzlich in Verbindung mit maxFilesPerTrigger verwenden, verarbeitet der Microbatch Daten, bis entweder der Grenzwert maxFilesPerTrigger oder maxBytesPerTrigger erreicht ist.

Verbesserungen

Snowflake-Connector wurde auf 2.5.9 aktualisiert.

Mit dem aktualisierten Connector wird der Snowflake JDBC-Treiber auf 3.12.0 heraufgestuft.

Java-Upgrade auf 1.8.0_242

Diese Version führt neue Überprüfungen für Vertrauensankerzertifikate ein, um sicherzustellen, dass Vertrauensanker Zertifizierungsstellenzertifikate sind und die richtigen Erweiterungen enthalten. Vertrauensankerzertifikate müssen eine Basic Constraints-Erweiterung enthalten, wobei das ca-Feld auf TRUE festgelegt ist. Darüber hinaus muss das keyCertSign Bit festgelegt werden, wenn sie eine Schlüsselverwendungserweiterung enthalten.

Wenn Sie selbstsigniert vertrauenswürdige Ankerzertifikate verwenden, können die folgenden Ausnahmen auftreten, die durch die neuen Überprüfungen eingeführt wurden:

TrustAnchor with subject "..." is not a CA certificate

TrustAnchor with subject "..." does not have keyCertSign bit set in KeyUsage extension

Um weiterhin selbstsignierte Vertrauensankerzertifikate zu verwenden, haben Sie zwei Möglichkeiten, die oben genannten Ausnahmen zu beheben:

• Legen Sie die mit Java 1.9.0_242 eingeführte Java-Systemeigenschaft jdk.security.allowNonCaAnchor auf true fest, um das vorherige Verhalten wiederherzustellen. Sie können spark.driver.extraJavaOptions und spark.executor.extraJavaOptions verwenden, um diese Systemeigenschaft auf Spark-Treiber bzw. Executors festzulegen.

• Fügen Sie eine Basic Constraints-Erweiterung mit dem Feld ca ein, das auf true für Ihre Vertrauensankerzertifikate festgelegt ist. Wenn Ihre Vertrauensankerzertifikate eine Schlüsselverwendungserweiterung enthalten, legen Sie keyCertSign bit fest.

  Wenn Sie Java Keytool verwenden, um öffentliche/private Schlüsselpaare zu generieren, legen Sie -ext BasicConstraints=ca:true beim Generieren von Vertrauensankerzertifikaten fest. Wenn Ihre Vertrauensankerzertifikate eine Schlüsselverwendungserweiterung enthalten, legen Sie das KeyCertSign-Bit -ext KeyUsage=...,keyCertSign beim Generieren von Vertrauensankerzertifikaten fest.

Aktualisierte R-Bibliotheken

Mehrere installierte R-Bibliotheken haben ein Upgrade erhalten. Weitere Informationen finden Sie unter Installierte R-Bibliotheken.

Veraltete Funktionen

• Das boto-Paket ist veraltet und wird in künftigen Hauptversionen von Databricks Runtime entfernt. Azure Databricks empfiehlt, stattdessen boto3 zu verwenden.
• Die folgenden R-Pakete werden in einer zukünftigen Hauptversion von Databricks Runtime entfernt:
  • abind
  • Bitops
  • Auto
  • Fahrzeugdaten
  • doMC
  • Gbm
  • H2O
  • kleiner
  • lme4
  • mapproj
  • Karten
  • Kartentools
  • MatrixModels
  • minqa
  • mvtnorm
  • nloptr
  • openxlsx
  • Pbkrtest
  • pkgKitten
  • quantreg
  • R.methodsS3
  • R.oo
  • R.utils
  • RcppEigen
  • RCurl
  • Rio
  • sp
  • SparseM
  • statmod
  • schwirren

Azure Databricks empfiehlt die Verwendung des folgenden Codes zum Installieren und Laden von R-Paketen, die nicht von Databricks Runtime installiert werden:

if (!require("package_name")) {
  install.packages("package_name")
  library("package_name")
}

Apache Spark

Databricks Runtime 6.5 enthält Apache Spark 2.4.5. Diese Version enthält alle Spark-Fixes und -Verbesserungen, die in Databricks Runtime 6.4 (EoS) enthalten sind, sowie die folgenden zusätzlichen Fehlerkorrekturen und Verbesserungen an Spark:

• [SPARK-27099] [ SQL] Hinzufügen von "xxhash64" zum Hashen beliebiger Spalten in Long
• [SPARK-26151] [SQL] Zurückgeben von Teilergebnissen für ungültige CSV-Datensätze
• [SPARK-30927] [SS] StreamingQueryManager sollte es vermeiden, Verweise auf beendete StreamingQuery zu behalten
• [SPARK-22590] Kopieren von sparkContext.localproperties in einen untergeordneten Thread in BroadcastExchangeExec.executionContext
• [SPARK-30671] emptyDataFrame sollte eine LocalRelation verwenden
• [SPARK-30556] [SQL] Zurücksetzen des in SQLExecution geänderten Status mit ThreadLocalCaptured
• [SPARK-30763] [SQL] java.lang.IndexOutOfBoundsException beheben, keine Gruppe 1 für regexp_extract
• [SPARK-30806] [SQL] Einmal pro Gruppe in UnboundedWindowFunctionFrame auswerten
• [SPARK-30731] Aktualisieren der veralteten Mkdocs-Option
• [SPARK-30857] [SQL] Korrektur der Abschneidung von Zeitstempeln vor der Epoche auf Stunden und Tage
• [SPARK-30798] Bereich Session.active in QueryExecution
• [SPARK-30793] [SQL] Korrektur der Abschneidung von Zeitstempeln vor der Epoche auf Minuten und Sekunden
• [SPARK-30826] [SQL] Referenzfalls in StringStartsWith, der zum Parquet geschoben wurde, berücksichtigen
• [SPARK-30797] [SQL] Beim Einrichten von ACLs in einer abgeschnittenen Tabelle die Berechtigung für benutzer-/gruppenbasierte/andere ACL-Einträge festlegen.
• [SPARK-30065] [SQL] DataFrameNaFunctions.drop sollte doppelte Spalten behandeln.
• [SPARK-29890] [SQL] DataFrameNaFunctions.fill sollte doppelte Spalten behandeln.
• [SPARK-30310] [CORE] Auflösen eines fehlenden Übereinstimmungsfalls in SparkUncaughtExceptionHandler und Hinzufügen von Tests
• [SPARK-30512] Hinzufügen einer dedizierten Ereignisschleifengruppe

Wartungsupdates

Weitere Informationen finden Sie unter Databricks Runtime 6.5-Wartungsupdates.

Systemumgebung

• Betriebssystem: Ubuntu 16.04.6 LTS
• Java: 1.8.0_252
• Scala: 2.11.12
• Python: 3.7.3
• R: R-Version 3.6.3 (2020-02-29)
• Delta Lake: 0.5.0

Inhalt dieses Abschnitts:

• Installierte Python-Bibliotheken
• Installierte R-Bibliotheken
• Installierte Java- und Scala-Bibliotheken (Scala 2.11-Clusterversion)

Installierte Python-Bibliotheken

Installierte R-Bibliotheken

R-Bibliotheken werden aus (Microsoft CRAN-Momentaufnahme am 26.02.2020) installiert.

Installierte Java- und Scala-Bibliotheken (Scala 2.11-Clusterversion)