Databricks Runtime 7.5 (EoS)

Usługa Databricks wydała tę wersję w grudniu 2020 r.

Poniższe informacje o wersji zawierają informacje o środowisku Databricks Runtime 7.5 obsługiwanym przez platformę Apache Spark 3.0.

Nowe funkcje

Funkcje i ulepszenia usługi Delta Lake

Ta wersja zawiera następujące funkcje i ulepszenia usługi Delta Lake:

• Asynchroniczne punktowanie kontrolne eliminuje skoki czasu trwania mikrosadowej przesyłania strumieniowego
• Najnowsze informacje o tabeli są teraz propagowane do wykazów
• MERGE INTO operacja obsługuje teraz ewolucję schematu zagnieżdżonych kolumn
• MERGE INTO operacja teraz automatycznie używa zoptymalizowanych zapisów
• MERGE INTO operacje i UPDATE są teraz rozpoznawane zagnieżdżone kolumny struktury według nazwy
• CLONE jest ogólnie dostępna i można teraz zastąpić właściwości tabeli
• RESTORE jest ogólnie dostępny
• Scala niejawne upraszcza interfejsy API odczytu i zapisu platformy Spark
• Zwiększanie przepływności przesyłania strumieniowego za pomocą fetchParallelism opcji łącznika
• Śledzenie postępu strumienia za pomocą nowych metryk automatycznego modułu ładującego

Asynchroniczne punktowanie kontrolne eliminuje skoki czasu trwania mikrosadowej przesyłania strumieniowego

Usługa Delta Lake domyślnie wykonuje punkty kontrolne co 10 zatwierdzeń. W przypadku obciążeń przesyłanych strumieniowo tworzenie punktów kontrolnych może spowodować niewielkie wzrosty czasu trwania mikrosadowej co 10 zatwierdzeń. Asynchroniczne punktowanie kontrolne eliminuje te skoki.

Asynchroniczne tworzenie punktów kontrolnych jest domyślnie włączone dla wszystkich obciążeń przesyłania strumieniowego bez wyzwalania. W przypadku asynchronicznego tworzenia punktów kontrolnych osoby zapisujące dane strumieniowo zapisują również rozszerzone punkty kontrolne, co oznacza, że nie ma potrzeby jawnie wybierać rozszerzonych punktów kontrolnych.

Aby wyłączyć asynchroniczne tworzenie punktów kontrolnych, ustaw konfigurację spark.databricks.delta.checkpoint.async.enabled falseSQL .

Obciążenia wsadowe nadal zapisują punkty kontrolne synchronicznie i zalecamy włączenie asynchronicznego tworzenia punktów kontrolnych dla obciążeń wsadowych.

Najnowsze informacje o tabeli są teraz propagowane do wykazów

Usługa Delta Lake propaguje teraz najnowsze informacje o tabeli, takie jak właściwości schematu i tabeli, do katalogów, takich jak magazyn metadanych Hive, na podstawie najlepszych wysiłków. Takie informacje mogą pomóc w rozumieniu schematu tabel delty przy użyciu narzędzi do katalogowania.

Usługa Delta Lake nie zależy wewnętrznie od tych informacji, ale próbuje je aktualizować. Ponadto usługa Delta Lake przechowuje właściwości delta.lastUpdateVersion tabeli i delta.lastCommitTimestamp określa wersję i znacznik czasu zatwierdzenia, które ostatnio wypchnęło zmianę do magazynu metadanych. Magazyn metadanych jest aktualizowany tylko wtedy, gdy schemat tabeli lub właściwości w tabeli nie są zgodne. Dlatego wyżej wymienione właściwości tabeli nie muszą odzwierciedlać najnowszej wersji tabeli.

Jeśli informacje o tabeli i informacje o magazynie metadanych nie są zsynchronizowane, możesz uruchomić polecenie, takie jak DESCRIBE <table> zaktualizowanie magazynu metadanych.

MERGE INTO operacja obsługuje teraz ewolucję schematu zagnieżdżonych kolumn

Ewolucja schematu kolumn zagnieżdżonych ma teraz te same semantyki co kolumny najwyższego poziomu. Na przykład nowe zagnieżdżone kolumny można automatycznie dodawać do kolumny StructType . Aby uzyskać szczegółowe informacje, zobacz Automatyczna ewolucja schematu w scalaniu .

MERGE INTO operacja teraz automatycznie używa zoptymalizowanych zapisów

Zoptymalizowane zapisy mogą zapewnić znacznie lepszą wydajność w MERGE INTO przypadku wbudowanych tabel, szczególnie w MERGE INTO przypadku tabel partycjonowanych. Aby wyłączyć zoptymalizowane zapisy, ustaw konfigurację spark.databricks.delta.optimizeWrite.enabled platformy Spark na falsewartość .

MERGE INTO operacje i UPDATE są teraz rozpoznawane zagnieżdżone kolumny struktury według nazwy

Operacje UPDATE aktualizacji i MERGE INTO polecenia teraz rozpoznają zagnieżdżone kolumny struktury według nazwy. Oznacza to, że podczas porównywania lub przypisywania kolumn typu StructType kolejność zagnieżdżonych kolumn nie ma znaczenia (dokładnie tak samo jak kolejność kolumn najwyższego poziomu). Aby przywrócić rozpoznawanie według pozycji, ustaw konfigurację spark.databricks.delta.resolveMergeUpdateStructsByName.enabled platformy Spark na falsewartość .

CLONE jest ogólnie dostępna i można teraz zastąpić właściwości tabeli

Polecenie CLONE jest teraz ogólnie dostępne. Zobacz CREATE TABLE CLONE. Ponadto można teraz określić przesłonięcia właściwości tabeli w przypadku używania polecenia CLONE. Przykłady można znaleźć w temacie Clone a table on Azure Databricks (Klonowanie tabeli w usłudze Azure Databricks).

RESTORE jest ogólnie dostępny

Polecenie RESTORE jest teraz ogólnie dostępne. Zobacz RESTORE.

Scala niejawne upraszcza interfejsy API odczytu i zapisu platformy Spark

Możesz zaimportować io.delta.implicits._ metodę delta z interfejsami API odczytu i zapisu platformy Spark.

import io.delta.implicits._

spark.read.delta("/my/table/path")
df.write.delta("/my/table/path")
spark.readStream.delta("/my/table/path")
df.writeStream.delta("/my/table/path")

Zwiększanie przepływności przesyłania strumieniowego za pomocą fetchParallelism opcji łącznika

Łącznik AQS obsługuje teraz nową opcję fetchParallelism określania równoległości w celu pobrania komunikatów z usługi kolejki.

Śledzenie postępu strumienia za pomocą nowych metryk automatycznego modułu ładującego

Funkcja automatycznego ładowania zgłasza teraz, ile plików istnieje na liście prac i jak duża jest lista prac po każdej partii. Możesz użyć tych metryk do śledzenia postępu strumienia. Aby uzyskać szczegółowe informacje na temat wyświetlania metryk, zobacz Co to jest automatyczne ładowanie?.

Ulepszenia

Szersza obsługa bibliotek o zakresie notesu przy użyciu %pip poleceń magic i %conda

Teraz można zainstalować biblioteki o zakresie notesu przy użyciu %pip poleceń magic i w %conda klastrach o wysokiej współbieżności z włączonymi listami ACL tabel lub przekazywaniem poświadczeń.

Dokładne wyświetlanie kodu Spark SQL DECIMAL

Typ danych Spark SQL DECIMAL jest teraz wyświetlany w tabelach bez utraty dokładności i skali.

Łącznik magazynu usługi ADLS Gen 2 oparty na usłudze Hadoop 3.3 dla systemu ABFS

Uaktualniona wersja łącznika magazynu usługi ADLS Gen 2 jest oparta na usłudze Hadoop 3.3 dla systemu ABFS. Uaktualniony łącznik zawiera wiele ulepszeń stabilności (zobacz Stabilność platformy Hadoop) i obejmuje obsługę uwierzytelniania tokenu SAS.

Inne poprawki

Łącznik platformy Kafka usługi Databricks dla przesyłania strumieniowego platformy Spark został usunięty. Użyj łącznika platformy Apache Spark.

Uaktualnienia biblioteki

• Uaktualnione biblioteki języka Python:
  • Koalas został uaktualniony z wersji 1.3.0 do wersji 1.4.0.
• Uaktualniono kilka zainstalowanych bibliotek języka R. Zobacz Zainstalowane biblioteki języka R.
• Kompilacja openJDK 8 została uaktualniona do wersji Zulu 8.50.0.51-CA-linux64 (kompilacja 1.8.0_275-b01).

Apache Spark

Środowisko Databricks Runtime 7.5 obejmuje platformę Apache Spark 3.0.1. Ta wersja zawiera wszystkie poprawki i ulepszenia platformy Spark zawarte w środowisku Databricks Runtime 7.4 (EoS), a także następujące dodatkowe poprawki błędów i ulepszenia wprowadzone na platformie Spark:

• [SPARK-33611] [Interfejs użytkownika] Unikaj dwukrotnego kodowania w parametrze zapytania adresu URL przepisanego serwera proxy
• [SPARK-33587] [CORE] Zabij funkcję wykonawcy w przypadku zagnieżdżonych błędów krytycznych (7.x)
• [SPARK-33140] [SQL] Przywróć kod, który nie używa przekazanej usługi SparkSession, aby uzyskać kod SQLConf.
• [SPARK-33472] [SQL] Dostosowywanie kolejności reguł RemoveRedundantSorts
• [SPARK-33422] [DOC] Naprawianie poprawnego wyświetlania elementu menu po lewej stronie
• [SPARK-27421] [SQL] Poprawiono filtr dla kolumny int i klasy wartości java.lang.String podczas oczyszczania kolumny partycji
• [SPARK-33483] [INFRA][testy] Naprawianie wzorców wykluczeń szczurów i dodawanie LICENCJI
• [SPARK-33464] [INFRA] Dodawanie/usuwanie (un)niezbędnej pamięci podręcznej i ponownej struktury yaml funkcji GitHub Actions
• [SPARK-33407] [ PYTHON][7.x] Uproszczenie komunikatu o wyjątku z funkcji zdefiniowanych przez użytkownika języka Python (domyślnie wyłączone)
• [SPARK-33435] [SQL] DSv2: REFRESHREFRESH TABLE powinny unieważniać pamięci podręczne odwołujące się do tabeli
• [SPARK-33358] [SQL] Zwracanie kodu, gdy proces polecenia zakończył się niepowodzeniem
• [SPARK-33183] [DBCONNECT] Dodaj element RemoveRedundantSorts.scala do ALLOW_LIST.txt
• [SPARK-33290] [SQL] REFRESHREFRESH TABLE powinny unieważnić pamięć podręczną, mimo że sama tabela może nie być buforowana
• [SPARK-33140] [SQL] Naprawianie kompilacji różnicowej
• [SPARK-33316] [SQL] Dodawanie testów jednostkowych dla from_avro i to_avro przy użyciu rejestru schematów i użytkownika z możliwością dopuszczania wartości null schematu Avro
• [SPARK-33404] [SQL] Naprawianie nieprawidłowych wyników w wyrażeniu date_trunc
• [SPARK-33339] [PYTHON] Aplikacja Pyspark zawiesza się z powodu błędu wyjątku
• [SPARK-33412] [SQL] OverwriteByExpression powinien rozwiązać swój warunek usunięcia na podstawie relacji tabeli, a nie zapytania wejściowego
• [SPARK-33391] [SQL] element_at z elementem CreateArray nie uwzględnia jednego indeksu opartego.
• [SPARK-33316] [SQL] Obsługa schematu avro dopuszczanego do wartości null dla schematu katalizatora bez wartości null w zapisie Avro
• [SPARK-33372] [SQL] Naprawianie oczyszczania zasobnika InSet
• [SPARK-33371] [PYTHON] Aktualizowanie setup.py i testów dla języka Python 3.9
• [SPARK-33140] [SQL] usuń sqlConf i SparkSession we wszystkich podklasach Rule[QueryPlan]
• [SPARK-33338] [SQL] GROUP BY przy użyciu literałowej mapy nie powinno się nie powieść
• [SPARK-33306] [SQL]Strefa czasowa jest wymagana, gdy data rzutowania do ciągu
• [SPARK-33284] [WEB-UI] Na stronie Interfejs użytkownika magazynu kliknięcie dowolnego pola do sortowania tabeli spowoduje utratę zawartości nagłówka
• [SPARK-33362] [SQL] skipSchemaResolution powinna nadal wymagać rozwiązania zapytania
• [SPARK-32257] [SQL] Zgłasza jawne błędy nieprawidłowego użycia polecenia SET/RESET
• [SPARK-32406] [SQL] Obsługa składni RESET dla pojedynczego resetu konfiguracji
• [SPARK-32376] [SQL] Tworzenie zachowania wypełniania wartości null unionByName z kolumnami struktury
• [SPARK-32308] [SQL] Przenoszenie logiki rozpoznawania nazw unionByName z kodu interfejsu API do fazy analizy
• [SPARK-20044] [Interfejs użytkownika] Obsługa interfejsu użytkownika platformy Spark za zwrotnym serwerem proxy frontonu przy użyciu prefiksu ścieżki Przywróć adres URL serwera proxy
• [SPARK-33268] [SQL][python] Naprawa usterek rzutowania danych z/do PythonUserDefinedType
• [SPARK-33292] [SQL] Ustaw niejednoznaczną reprezentację ciągu Literału ArrayBasedMapData
• [SPARK-33183] [SQL] Napraw regułę optymalizatora EliminujSorty i dodaj regułę fizyczną, aby usunąć nadmiarowe sortowanie
• [SPARK-33272] [SQL] przycinanie mapowania atrybutów w tabeli QueryPlan.transformUpWithNewOutput
• [SPARK-32090] [SQL] Popraw wartość UserDefinedType.equal(), aby była symetryczna
• [SPARK-33267] [SQL] Naprawiono problem NPE w filtrze 'IN', gdy jedna z wartości jest null
• [SPARK-33208] [SQL] Aktualizowanie dokumentu platformy SparkSession#sql
• [SPARK-33260] [SQL] Naprawianie nieprawidłowych wyników z elementu SortExec, gdy sortOrder to Stream
• [SPARK-33230] [SQL] Osoby zatwierdzające platformy Hadoop w celu uzyskania unikatowego identyfikatora zadania w identyfikatorze "spark.sql.sources.writeJobUUID"
• [SPARK-33197] [SQL] Wprowadzanie zmian w spark.sql.analyzer.maxIterations w czasie wykonywania
• [SPARK-33228] [SQL] Nie usuwaj danych z pamięci podręcznej podczas zastępowania widoku o tym samym planie logicznym
• [SPARK-32557] [CORE] Rejestrowanie i połykanie wyjątku na wpis na serwerze historii
• [SPARK-32436] [CORE] Inicjowanie numNonEmptyBlocks w pliku HighlyCompressedMapStatus.readExternal
• [SPARK-33131] [SQL] Naprawianie zestawów grupowania z klauzulą posiadania nie może rozpoznać kwalifikowanej nazwy kolumny
• [SPARK-32761] [SQL] Zezwalaj na agregowanie wielu składanych odrębnych wyrażeń
• [SPARK-33094] [SQL] Rozpropaguj konfigurację usługi Hadoop w formacie ORC z opcji DS do bazowego systemu plików HDFS

Aktualizacje konserwacyjne

Zobacz Aktualizacje konserwacji środowiska Databricks Runtime 7.5.

Środowisko systemu

• System operacyjny: Ubuntu 18.04.5 LTS
• Java: Zulu 8.50.0.51-CA-linux64 (kompilacja 1.8.0_275-b01)
• Scala: 2.12.10
• Python: 3.7.5
• R: R w wersji 3.6.3 (2020-02-29)
• Delta Lake 0.7.0

Zainstalowane biblioteki języka Python

Zainstalowane biblioteki języka R

Biblioteki języka R są instalowane z migawki usługi Microsoft CRAN w dniach 2020-11-02.

Zainstalowane biblioteki Java i Scala (wersja klastra Scala 2.12)