Databricks Runtime 15.3 (EoS)

As notas de versão a seguir fornecem informações sobre o Databricks Runtime 15.3, alimentado pelo Apache Spark 3.5.0.

O Databricks lançou esta versão em junho de 2024.

Novos recursos e melhorias

O PySpark DataSources agora dá suporte à leitura e à gravação do fluxo

O PySpark DataSources, que permite a leitura de fontes de dados personalizadas e a gravação em coletores de dados personalizados, agora dá suporte à leitura e gravação de fluxo. Consulte fontes de dados personalizadas do PySpark.

Desabilitar o mapeamento de colunas com o recurso soltar

Agora você pode usar DROP FEATURE para desabilitar o mapeamento de colunas em tabelas Delta e fazer downgrade do protocolo de tabela. Confira Desabilitar o mapeamento de colunas.

Sintaxe e funções do tipo variante em Visualização Pública

O suporte nativo do Apache Spark para trabalhar com dados semiestruturados como VARIANT tipo agora está disponível no Spark DataFrames e no SQL. Veja Dados de variantes da consulta.

O suporte ao tipo variante para Delta Lake está em Visualização Pública

Agora você pode usar VARIANT para armazenar dados semiestruturados em tabelas apoiadas pelo Delta Lake. Consulte o suporte da variante no Delta Lake.

Suporte para diferentes modos de evolução do esquema em exibições

CREATE VIEW e ALTER VIEW agora permite que você defina um modo de associação de esquema, aprimorando como as exibições lidam com alterações de esquema em objetos subjacentes. Esse recurso permite que as exibições tolerem ou se adaptem às alterações de esquema nos objetos subjacentes. Ele aborda as alterações no esquema de consulta resultantes de modificações em definições de objeto.

Suporte para observe() métodos adicionados ao cliente do Spark Connect Scala

O cliente Do Spark Connect Scala agora dá suporte aos Dataset.observe() métodos. O suporte a esses métodos permite que você defina métricas a serem observadas em Dataset usando os métodos ds.observe("name", metrics...) ou ds.observe(observationObject, metrics...).

Latência de reinicialização de fluxo aprimorada para o Carregador Automático

Esta versão inclui uma alteração que melhora a latência de reinicialização do fluxo para o Carregador Automático. Essa melhoria é implementada tornando o carregamento de estado pelo repositório de estado RocksDB assíncrono. Com essa alteração, você deverá ver uma melhoria nos tempos de início para processos com estados grandes, por exemplo, processos com um grande número de arquivos já processados.

Retornar um DataFrame como um pyarrow.Table

Para dar suporte à gravação de um DataFrame diretamente em um objeto Apache Arrow pyarrow.Table, esta versão inclui a função DataFrame.toArrow(). Para saber mais sobre como usar a Seta no PySpark, consulte Apache Arrow no PySpark.

Melhoria de desempenho para algumas funções de janela

Esta versão inclui uma alteração que melhora o desempenho de algumas funções de janela do Spark, especificamente funções que não incluem uma cláusula ORDER BY ou um parâmetro window_frame. Nesses casos, o sistema pode reescrever a consulta para executá-la usando uma função de agregação. Essa alteração permite que a consulta seja executada mais rapidamente usando a agregação parcial e evitando a sobrecarga de funções de janela em execução. O parâmetro de configuração do Spark spark.databricks.optimizer.replaceWindowsWithAggregates.enabled controla essa otimização e é definido como true por padrão. Para desativar essa otimização, defina spark.databricks.optimizer.replaceWindowsWithAggregates.enabled como false.

Suporte para a função try_mod adicionada

Esta versão adiciona suporte para a função try_mod() do PySpark. Essa função oferece suporte ao cálculo do resto inteiro, compatível com SQL ANSI, da divisão de dois valores numéricos. Se o argumento divisor for 0, a função try_mod() retornará nulo em vez de gerar uma exceção. Você pode usar a try_mod() função em vez de mod ou %, que gera uma exceção se o argumento divisor for 0 e o SQL ANSI estiver habilitado.

Suporte para um parâmetro de escopo opcional no list_secrets()

Esta versão permite limitar os resultados da função de tabela list_secrets() a um escopo específico.

Correções

WriteIntoDeltaCommand métricas na interface do usuário do Spark agora são exibidas corretamente

Esta versão inclui uma correção nas métricas exibidas na guia SQL da interface do usuário do Spark para o nó Execute WriteIntoDeltaCommand. Anteriormente, as métricas mostradas para esse nó eram todas zero.

A groupby() função na API do Pandas ignorou o as_index=False argumento

Esta versão inclui uma correção para um problema com a groupby() função na API do Pandas no Spark. Antes dessa correção, um groupby() com relabelamento de colunas de agregação e o argumento as_index=False não incluíam chaves de grupo no DataFrame resultante.

Erro de sintaxe com várias funções de janela que referenciam a saída de outras funções

Essa versão corrige um problema que pode ocorrer quando uma consulta Spark tem várias funções de janela consecutivas, em que as funções de janela fazem referência à saída das outras funções de janela. Em casos raros, o sistema pode descartar uma das referências, levando a erros na avaliação da consulta. Isso corrige essas referências para garantir a avaliação da consulta. Essa alteração é controlada pelo parâmetro spark.databricks.optimizer.collapseWindows.projectReferencesde configuração do Spark, que é definido true como por padrão. Para desativar essa alteração, defina spark.databricks.optimizer.collapseWindows.projectReferences como false.

Atualizações de biblioteca

• Bibliotecas do Python atualizadas:
  • filelock de 3.13.1 a 3.13.4
• Bibliotecas R atualizadas:
• Bibliotecas Java atualizadas:
  • org.rocksdb.rocksdbjni da versão 8.3.2 para 8.11.4

Apache Spark

O Databricks Runtime 15.3 inclui o Apache Spark 3.5.0. Esta versão inclui todas as correções e melhorias do Spark incluídas no Databricks Runtime 15.2 (EoS), bem como as seguintes correções de bug adicionais e melhorias feitas no Spark:

• [SPARK-48211] [DBRRM-1041][15.x][15.3] Reverter "[SC-165552][sql] DB2: Leia SMALLINT como Sho...
• [SPARK-47904] [DBRRM-1040][behave-33][SC-163409] Reverter SPARK-47904: Preservar caso no esquema Avro ao usar enableStableIdentifiersForUnionType
• [SPARK-48288] [SC-166141] Adicionar tipo de dado de origem para expressão de conversão do conector
• [SPARK-48175] [SC-166341][sql][PYTHON] Armazenar informações de ordenação em metadados e não em tipo para SER/DE
• [SPARK-48172] [SC-166078][sql] Corrigir problemas de escape em JDBCDialects
• [SPARK-48186] [SC-165544][sql] Adicionar suporte para AbstractMapType
• [SPARK-48031] [SC-166523] Exibições herdadas do avô para SCHEMA BINDING
• [SPARK-48369] [SC-166566][sql][PYTHON][connect] Adicionar função timestamp_add
• [SPARK-48330] [SC-166458][ss][PYTHON] Corrigir o problema de tempo limite da fonte de dados de streaming do Python para um grande intervalo de gatilho
• [SPARK-48369] Reverter “[SC-166494][sql][PYTHON][connect] Adicionar função timestamp_add”
• [SPARK-48336] [SC-166495][ps][CONNECT] Implementar ps.sql no Spark Connect
• [SPARK-48369] [SC-166494][sql][PYTHON][connect] Adicionar função timestamp_add
• [SPARK-47354] [SC-165546][sql] Adicionar suporte de ordenação para expressões variantes
• [SPARK-48161] [SC-165325][sql] Correção de PR revertida – Adicionar suporte de ordenação para expressões JSON
• [SPARK-48031] [SC-166391] Decompor a configuração viewSchemaMode, adicionar suporte SHOW CREATE TABLE
• [SPARK-48268] [SC-166217][core] Adicionar uma configuração para SparkContext.setCheckpointDir
• [SPARK-48312] [ES-1076198][sql] Melhorar o desempenho de Alias.removeNonInheritableMetadata
• [SPARK-48294] [SC-166205][sql] Manipular letras minúsculas em nestedTypeMissingElementTypeError
• [SPARK-47254] [SC-158847][sql] Atribuir nomes às classes de erro _LEGACY_ERROR_TEMP_325[1-9]
• [SPARK-47255] [SC-158749][sql] Atribuir nomes às classes de erro _LEGACY_ERROR_TEMP_323[6-7] e _LEGACY_ERROR_TEMP_324[7-9]
• [SPARK-48310] [SC-166239][python][CONNECT] As propriedades armazenadas em cache devem retornar cópias
• [SPARK-48308] [SC-166152][core] Unificar a obtenção de esquema de dados sem colunas de partição no FileSourceStrategy
• [SPARK-48301] [SC-166143][sql] Renomear CREATE_FUNC_WITH_IF_NOT_EXISTS_AND_REPLACE para CREATE_ROUTINE_WITH_IF_NOT_EXISTS_AND_REPLACE
• [SPARK-48287] [SC-166139][ps][CONNECT] Aplicar o método builtin timestamp_diff
• [SPARK-47607] [SC-166129] Adicionar documentação para estrutura de log estruturado
• [SPARK-48297] [SC-166136][sql] Corrigir uma cláusula TRANSFORM de regressão com char/varchar
• [SPARK-47045] [SC-156808][sql] Substituir IllegalArgumentException por SparkIllegalArgumentException in sql/api
• [SPARK-46991] [SC-156399][sql] Substituir IllegalArgumentException por SparkIllegalArgumentException in catalyst
• [SPARK-48031] [SC-165805][sql] Evolução do esquema de exibição de suporte
• [SPARK-48276] [SC-166116][python][CONNECT] Adicione o método ausente __repr__ para SQLExpression
• [SPARK-48278] [SC-166071][python][CONNECT] Refinar a representação de cadeia de caracteres de Cast
• [SPARK-48272] [SC-166069][sql][PYTHON][connect] Adicionar função timestamp_diff
• [SPARK-47798] [SC-162492][sql] Enriquecer a mensagem de erro para as falhas de leitura de valores decimais
• [SPARK-47158] [SC-158078][sql] Atribuir o nome adequado e sqlState a _LEGACY_ERROR_TEMP_(2134|2231)
• [SPARK-48218] [SC-166082][core] TransportClientFactory.createClient pode causar FetchFailedException devido a um NPE (NullPointerException)
• [SPARK-48277] [SC-166066] Melhorar a mensagem de erro para ErrorClassesJsonReader.getErrorMessage
• [SPARK-47545] [SC-165444][conectar] Suporte ao conjunto observe de dados para o cliente Scala
• [SPARK-48954] [SC-171672][sql] Adicionar try_mod função
• [SPARK-43258] [SC-158151][sql] Atribuir nomes ao erro _LEGACY_ERROR_TEMP_202[3,5]
• [SPARK-48267] [SC-165903][ss] Teste de regressão e2e com SPARK-47305
• [SPARK-48263] [SC-165925] Suporte à função Collate para cadeias de caracteres não UTF8_BINARY
• [SPARK-48260] [SC-165883][sql] Desabilitar a coordenação do committer de saída em um teste de ParquetIOSuite
• [SPARK-47834] [SC-165645][sql][CONNECT] Marcar funções preteridas com @deprecated in SQLImplicits
• [SPARK-48011] [SC-164061][core] Armazenar nome do LogKey como valor para evitar a geração de novas instâncias de cadeia de caracteres
• [SPARK-48074] [SC-164647][core] Melhorar a legibilidade dos logs JSON
• [SPARK-44953] [SC-165866][core] Registre um aviso quando o shuffle tracking estiver ativado juntamente com outro mecanismo suportado pelo DA
• [SPARK-48266] [SC-165897][conectar] Mover objeto org.apache.spark.sql.connect.dsl do pacote para o diretório de teste
• [SPARK-47847] [SC-165651][core] Obsoletar spark.network.remoteReadNioBufferConversion
• [SPARK-48171] [SC-165178][core] Limpar o uso de construtores obsoletos de o.rocksdb.Logger
• Passe o join diretamente em vez de passar todos os argumentos para obterBroadcastBuildSide e obterShuffleHashJoinBuildSide
• [SPARK-48224] [SC-165648][sql] Não permitir que as chaves do mapa sejam do tipo variante
• [SPARK-48248] [SC-165791][python] Corrigir matriz aninhada para respeitar a configuração herdada de inferArrayTypeFromFirstElement
• [SPARK-47409] [SC-165568][sql] Adicionar suporte para ordenação para o tipo stringTrim de funções/expressões (para UTF8_BINARY &LCASE)
• [SPARK-48143] [ES-1095638][sql] Use exceções leves para o fluxo de controle entre UnivocityParser e FailureSafeParser
• [SPARK-48146] [SC-165668][sql] Corrigir a função de agregação na verificação de filho da expressão 'With'
• [SPARK-48161] Reverter "[SC-165325][sql] Adicionar suporte de ordenação para expressões JSON"
• [SPARK-47963] [CORE] Fazer com que o ecossistema externo do Spark possa usar mecanismos de log estruturados
• [SPARK-48180] [SC-165632][sql] Melhorar o erro quando a chamada UDTF com argumento TABLE esquece os parênteses ao redor de múltiplas expressões PARTITION/ORDER BY
• [SPARK-48002] [SC-164132][python][SS] Adicionar teste para métricas observadas no PySpark StreamingQueryListener
• [SPARK-47421] [SC-165548][sql] Adicionar suporte de ordenação para expressões de URL
• [SPARK-48161] [SC-165325][sql] Adicionar suporte de ordenação para expressões JSON
• [SPARK-47359] [SC-164328][sql] Suporte à função TRANSLATE para trabalhar com cadeias de caracteres agrupadas
• [SPARK-47365] [SC-165643][python] Adicionar método DataFrame a PySpark
• [SPARK-48228] [SC-165649][python][CONNECT] Implementar a validação de função ausente em ApplyInXXX
• [SPARK-47986] [SC-165549][connect][PYTHON] Não é possível criar uma nova sessão quando a sessão padrão é fechada pelo servidor
• [SPARK-47963] Reverter “[CORE] Permitir que o ecossistema externo do Spark utilize mecanismos de log estruturado”
• [SPARK-47963] [CORE] Fazer com que o ecossistema externo do Spark possa usar mecanismos de log estruturados
• [SPARK-48208] [SC-165547][ss] Ignorar o fornecimento de métricas de uso de memória do RocksDB se o uso limitado de memória estiver habilitado
• [SPARK-47566] [SC-164314][sql] Suporte à função SubstringIndex para trabalhar com cadeias de caracteres agrupadas
• [SPARK-47589] [SC-162127][sql]Hive-Thriftserver: Migrar logError com variáveis para estrutura de log estruturada
• [SPARK-48205] [SC-165501][python] Remova o modificador privado[sql] para fontes de dados do Python
• [SPARK-48173] [SC-165181][sql] CheckAnalysis deve ver todo o plano de consulta
• [SPARK-48197] [SC-165520][sql] Evite o erro de declaração para a função lambda inválida
• [SPARK-47318] [SC-162573][core] Adiciona a rodada HKDF à derivação de chave AuthEngine para seguir as práticas padrão kex
• [SPARK-48184] [SC-165335][python][CONNECT] Sempre defina a semente no lado do cliente Dataframe.sample
• [SPARK-48128] [SC-165004][sql] Para expressão BitwiseCount/bit_count, corrija o erro de sintaxe de codegen para entradas de tipo booliano
• [SPARK-48147] [SC-165144][ss][CONNECT] Remover ouvintes do cliente quando a sessão local do Spark é excluída
• [SPARK-48045] [SC-165299][python] API do Pandas groupby com multi-agg-relabel ignora o parâmetro as_index=False
• [SPARK-48191] [SC-165323][sql] Suporte a UTF-32 para codificação e decodificação de cadeia de caracteres
• [SPARK-45352] [SC-137627][sql] Eliminar partições de janela removíveis
• [SPARK-47297] [SC-165179][sql] Adicionar suporte de ordenação para expressões de formato
• [SPARK-47267] [SC-165170][sql] Adicionar suporte de ordenação para expressões de hash
• [SPARK-47965] [SC-163822][core] Evitar o uso de orNull em TypedConfigBuilder e OptionalConfigEntry
• [SPARK-48166] [SQL] Evite usar BadRecordException como erro voltado para o usuário em VariantExpressionEvalUtils
• [SPARK-48105] [SC-165132][ss] Corrigir a condição de concorrência entre o descarregamento do repositório de estado e a criação de snapshots
• [SPARK-47922] [SC-163997][sql] Implementar a expressão try_parse_json
• [SPARK-47719] [SC-161909][sql] Alteração spark.sql.legacy.timeParse...
• [SPARK-48035] [SC-165136][sql] Corrigir try_add/try_multiply terem semântica igual a adicionar/multiplicar
• [SPARK-48107] [SC-164878][python] Excluir testes da distribuição do Python
• [SPARK-46894] [SC-164447][python] Mover condições de erro do PySpark para o arquivo JSON autônomo
• [SPARK-47583] [SC-163825][core] SQL core: Migrar logError com variáveis para a estrutura de log estruturada
• [SPARK-48064] Reverter "[SC-164697][sql] Atualizar mensagens de erro para classes de erro relacionadas à rotina"
• [SPARK-48048] [SC-164846][connect][SS] Adicionado suporte ao ouvinte do lado do cliente para Scala
• [SPARK-48064] [SC-164697][sql] Atualizar mensagens de erro para categorias de erro associadas a rotinas
• [SPARK-48056] [SC-164715][connect][PYTHON] Executar novamente o plano se um erro de SESSION_NOT_FOUND for gerado e nenhuma resposta parcial tiver sido recebida
• [SPARK-48124] [SC-165009][core] Desabilitar o registro em log estruturado para Connect-Repl por padrão
• [SPARK-47922] Reverter “[SC-163997][sql] Implementar a expressão try_parse_json”
• [SPARK-48065] [SC-164817][sql] SPJ: allowJoinKeysSubsetOfPartitionKeys está demasiado restritivo
• [SPARK-48114] [SC-164956][core] Pré-compilar regex de modelos para evitar trabalho desnecessário
• [SPARK-48067] [SC-164773][sql] Corrigir colunas padrão variantes
• [SPARK-47922] [SC-163997][sql] Implementar a expressão try_parse_json
• [SPARK-48075] [SC-164709] [SS] Adicionar verificação de tipo para funções Avro do PySpark
• [SPARK-47793] [SC-164324][ss][PYTHON] Implementar SimpleDataSourceStreamReader para fonte de dados de streaming em python
• [SPARK-48081] [SC-164719] Corrigir ClassCastException em NTile.checkInputDataTypes() quando o argumento não for dobrável ou de tipo errado
• [SPARK-48102] [SC-164853][ss] Acompanhar a duração para obter métricas de origem/destino ao relatar o progresso da consulta em streaming
• [SPARK-47671] [SC-164854][core] Habilitar o registro em log estruturado em log4j2.properties.template e atualizar documentos
• [SPARK-47904] [SC-163409][sql] Preservar caso no esquema Avro ao usar enableStableIdentifiersForUnionType
• [SPARK-48058] [SC-164695][spark-43727][PYTHON][connect] UserDefinedFunction.returnType analisa a cadeia de caracteres DDL
• [SPARK-46922] [SC-156102][core][SQL] Não encapsular erros voltados para o usuário do runtime
• [SPARK-48047] [SC-164576][sql] Reduzir a pressão de memória das tags vazias do TreeNode
• [SPARK-47934] [SC-164648] [CORE] Garantir barras finais em HistoryServer redirecionamentos de URL
• [SPARK-47921] [SC-163826][connect] Correção da criação de ExecuteJobTag no ExecuteHolder
• [SPARK-48014] [SC-164150][sql] Altere o erro makeFromJava em EvaluatePython para um erro voltado para o usuário
• [SPARK-47903] [SC-163424][python] Adicione suporte para tipos escalares restantes na biblioteca PySpark Variant
• [SPARK-48068] [SC-164579][python] mypy deve ter --python-executable parâmetro
• [SPARK-47846] [SC-163074][sql] Adicionar suporte para o tipo Variant na expressão from_json
• [SPARK-48050] [SC-164322][ss] Registrar plano lógico ao início da consulta
• [SPARK-47810] [SC-163076][sql] Substituir expressão equivalente a <=> em condição de junção
• [SPARK-47741] [SC-164290] Adição de tratamento de estouro de pilha no analisador
• [SPARK-48053] [SC-164309][python][CONNECT] SparkSession.createDataFrame deve avisar para opções sem suporte
• [SPARK-47939] [SC-164171][sql] Implementar uma nova regra do Analisador para mover ParameterizedQuery dentro de ExplainCommand e DescribeQueryCommand
• [SPARK-48063] [SC-164432][core] Habilitar spark.stage.ignoreDecommissionFetchFailure por padrão
• [SPARK-48016] [SC-164280][sql] Corrigir um bug na função try_divide quando tiver decimais
• [SPARK-48033] [SC-164291][sql] Corrigir RuntimeReplaceable expressões que estão sendo usadas em colunas padrão
• [SPARK-48010] [SC-164051][sql][ES-1109148] Evite chamadas repetidas para conf.resolver em resolveExpression
• [SPARK-48003] [SC-164323][sql] Adicionar suporte de ordenação para agregação de esboço hll
• [SPARK-47994] [SC-164175][sql] Corrigir bug com a redução de filtro de coluna CASE WHEN no SQLServer
• [SPARK-47984] [SC-163837][ml][SQL] Mudar MetricsAggregate/V2Aggregator#serialize/deserialize para chamar SparkSerDeUtils#serialize/deserialize
• [SPARK-48042] [SC-164202][sql] Use um formatador de timestamp com fuso horário no nível da classe em vez de criar cópias no nível do método
• [SPARK-47596] [SPARK-47600][spark-47604][SPARK-47804] Migrações de log estruturadas
• [SPARK-47594] [SPARK-47590][spark-47588][SPARK-47584] Migrações de log estruturadas
• [SPARK-47567] [SC-164172][sql] Suporte à função LOCATE para trabalhar com cadeias de caracteres agrupadas
• [SPARK-47764] [SC-163820][core][SQL] Limpeza de dependências de shuffle com base no ShuffleCleanupMode
• [SPARK-48039] [SC-164174][python][CONNECT] Atualize a classe de erro para group.apply
• [SPARK-47414] [SC-163831][sql] Suporte à ordenação minúscula para expressões regexp
• [SPARK-47418] [SC-163818][sql] Adicionar implementações feitas à mão para o unicode-aware minúsculo contém, iniciaWith e endsWith e otimiza UTF8_BINARY_LCASE
• [SPARK-47580] [SC-163834][sql] Catalisador de SQL: eliminar variáveis sem nome em logs de erros
• [SPARK-47351] [SC-164008][sql] Adicionar suporte de ordenação para expressões de cadeia de caracteres StringToMap &Mask
• [SPARK-47292] [SC-164151][ss] safeMapToJValue deve levar em consideração valores com tipo nulo
• [SPARK-47476] [SC-164014][sql] Função REPLACE de suporte para trabalhar com cadeias de caracteres agrupadas
• [SPARK-47408] [SC-164104][sql] Corrigir mathExpressions que usam StringType
• [SPARK-47350] [SC-164006][sql] Adicionar suporte de ordenação para expressão de cadeia de caracteres SplitPart
• [SPARK-47692] [SC-163819][sql] Corrigir o significado padrão do StringType na conversão implícita
• [SPARK-47094] [SC-161957][sql] SPJ: reequilibrar dinamicamente o número de buckets quando eles não forem iguais
• [SPARK-48001] [SC-164000][core] Remove unused private implicit def arrayToArrayWritable from SparkContext
• [SPARK-47986] [SC-163999][connect][PYTHON] Não é possível criar uma nova sessão quando a sessão padrão é fechada pelo servidor
• [SPARK-48019] [SC-164121] Corrigir comportamento incorreto em ColumnVector/ColumnarArray com dicionário e nulos
• [SPARK-47743] [SPARK-47592][spark-47589][SPARK-47581][spark-47586][SPARK-47593][spark-47595][SPARK-47587][spark-47603] Migrações estruturadas de log
• [SPARK-47999] [SC-163998][ss] Melhorar o log em torno da criação de instantâneos e adicionar/remover entradas do mapa de cache de estado no fornecedor de armazenamento de estado suportado pelo HDFS.
• [SPARK-47417] [SC-162872][sql] Suporte à ordenação: Ascii, Chr, Base64, UnBase64, Decode, StringDecode, Encode, ToBinary, FormatNumber, Sentences
• [SPARK-47712] [SC-161871][conectar] Permitir que os plug-ins de conexão criem e processem conjuntos de dados
• [SPARK-47411] [SC-163351][sql] Suporte a funções StringInstr &FindInSet para trabalhar com cadeias de caracteres agrupadas
• [SPARK-47360] [SC-163014][sql] Suporte à ordenação: Overlay, FormatString, Length, BitLength, OctetLength, SoundEx, Luhncheck
• [SPARK-47413] [SC-163323][sql] – adicione suporte a substr/left/right para ordenações
• [SPARK-47983] [SC-163835][sql] Rebaixar spark.sql.pyspark.legacy.inferArrayTypeFromFirstElement.enabled para interno
• [SPARK-47964] [SC-163816][python][CONNECT] Ocultar SQLContext e HiveContext no pyspark-connect
• [SPARK-47985] [SC-163841][python] Simplificar funções com lit
• [SPARK-47633] [SC-163453][sql] Incluir saída de plano do LateralJoin#allAttributes lado direito para uma canonização mais consistente
• [SPARK-47909] Reverter "[PYTHON][conectar] Classe DataFrame pai f...
• [SPARK-47767] [SC-163096][sql] Mostrar valor do offset em TakeOrderedAndProjectExec
• [SPARK-47822] [SC-162968][sql] Proibir expressões de hash de realizar hash no tipo de dados Variant
• [SPARK-47490] [SC-160494][ss] Corrigir o uso do construtor do Logger RocksDB para evitar aviso de descontinuação
• [SPARK-47417] Reverter “[SC-162872][sql] Suporte à ordenação: Ascii, Chr, Base64, UnBase64, Decode, StringDecode, Encode, ToBinary, FormatNumber, Sentences”
• [SPARK-47352] [SC-163460][sql] Corrigir reconhecimento de sensibilidade de ordenação nas funções Upper, Lower, InitCap
• [SPARK-47909] [PYTHON][connect] Classe DataFrame pai para Spark Connect e Spark Classic
• [SPARK-47417] [SC-162872][sql] Suporte à ordenação: Ascii, Chr, Base64, UnBase64, Decode, StringDecode, Encode, ToBinary, FormatNumber, Sentences

Suporte ao driver ODBC/JDBC do Databricks

O Databricks dá suporte a drivers ODBC/JDBC lançados nos últimos 2 anos. Baixe os drivers e a atualização lançados recentemente (baixe o ODBC, baixe o JDBC).

Consulte as atualizações de manutenção do Databricks Runtime 15.3.

Ambiente do sistema

• Sistema operacional: Ubuntu 22.04.4 LTS
• Java: Zulu 8.78.0.19-CA-linux64
• Scala: 2.12.18
• Python: 3.11.0
• R: 4.3.2
• Delta Lake: 3.2.0

Bibliotecas do Python instaladas

Bibliotecas R instaladas

As bibliotecas R são instaladas a partir do snapshot CRAN do Gerenciador de Pacotes Posit.

Bibliotecas Java e Scala instaladas (versão do cluster Scala 2.12)