Tempo de execução do Databricks 15.3 (EoS)

As notas de versão a seguir fornecem informações sobre o Databricks Runtime 15.3, alimentado pelo Apache Spark 3.5.0.

A Databricks lançou esta versão em junho de 2024.

Novos recursos e melhorias

PySpark DataSources agora suporta leitura e gravação de fluxo

O PySpark DataSources, que permite a leitura de fontes de dados personalizadas e a gravação em coletores de dados personalizados, agora suporta leitura e gravação de fluxo. Consulte fontes de dados personalizadas do PySpark.

Desativar o mapeamento de colunas com a funcionalidade de eliminação

Agora você pode usar DROP FEATURE para desabilitar o mapeamento de colunas em tabelas Delta e fazer downgrade do protocolo de tabela. Consulte Desativar o mapeamento de colunas.

Sintaxe e funções de tipo de variante na Pré-visualização Pública

O suporte nativo do Apache Spark para trabalhar com dados semiestruturados como VARIANT tipo agora está disponível no Spark DataFrames e SQL. Consulte Dados da variante de consulta.

Suporte de tipo de variante para Delta Lake na pré-visualização pública

Agora você pode usar VARIANT para armazenar dados semiestruturados em tabelas apoiadas pelo Delta Lake. Veja Suporte a variantes no Delta Lake.

Suporte para diferentes modos de evolução de esquema em visualizações

CREATE VIEW e ALTER VIEW agora permite definir um modo de vinculação de esquema, aprimorando como as exibições lidam com alterações de esquema em objetos subjacentes. Esse recurso permite que as exibições tolerem ou se adaptem a alterações de esquema nos objetos subjacentes. Ele aborda as alterações no esquema de consulta resultantes de modificações nas definições de objeto.

Suporte para métodos observe() adicionados ao cliente Spark Connect Scala

O cliente Spark Connect Scala agora suporta os métodos Dataset.observe(). O suporte para esses métodos permite definir métricas para observar em um objeto Dataset usando os métodos ds.observe("name", metrics...) ou ds.observe(observationObject, metrics...).

Latência de reinicialização de fluxo melhorada para o Auto Loader

Esta versão inclui uma alteração que melhora a latência de reinicialização do fluxo para o Auto Loader. A melhoria é implementada ao tornar assíncrono o carregamento do estado pelo armazenamento de estado RocksDB. Com essa mudança, você verá uma melhoria nos tempos de início para fluxos com estados grandes, por exemplo, fluxos com um grande número de arquivos já ingeridos.

Retornar um DataFrame como um pyarrow.Table

Para suportar a gravação de um DataFrame diretamente num objeto pyarrow.Table do Apache Arrow, esta versão inclui a função DataFrame.toArrow(). Para saber mais sobre como usar a Seta no PySpark, consulte Seta Apache no PySpark.

Melhoria de desempenho para algumas funções de janela

Esta versão inclui uma alteração que melhora o desempenho de algumas funções da janela do Spark, especificamente funções que não incluem uma cláusula ORDER BY ou um parâmetro window_frame. Nesses casos, o sistema pode reescrever a consulta para executá-la usando uma função agregada. Essa alteração permite que a consulta seja executada mais rapidamente usando agregação parcial e evitando a sobrecarga de funções de janela em execução. O parâmetro de configuração do Spark spark.databricks.optimizer.replaceWindowsWithAggregates.enabled controla essa otimização e é definido como true por padrão. Para desativar essa otimização, defina spark.databricks.optimizer.replaceWindowsWithAggregates.enabled como false.

Foi adicionado suporte para a função try_mod

Esta versão adiciona suporte para a função PySpark try_mod(). Esta função suporta o cálculo compatível com ANSI SQL do restante inteiro da divisão de dois valores numéricos. Se o argumento divisor for 0, a função try_mod() retornará null em vez de lançar uma exceção. Você pode usar a função try_mod() em vez de mod ou %, que lançam uma exceção se o argumento divisor for 0 e ANSI SQL estiver habilitado.

Suporte para um parâmetro de escopo opcional no list_secrets()

Esta versão permite limitar os resultados da função de tabela list_secrets() a um escopo específico.

Correções de bugs

WriteIntoDeltaCommand métricas agora são exibidas corretamente na interface de utilizador do Spark

Esta versão inclui uma correção para as métricas exibidas na guia SQL da interface do usuário do Spark para o nó Execute WriteIntoDeltaCommand. Anteriormente, as métricas mostradas para este nó eram todas zero.

A função groupby() na API Pandas ignorou o argumento as_index=False

Esta versão inclui uma correção para um problema com a função groupby() na API Pandas no Spark. Antes desta correção, um groupby() com renomeação de colunas agregadas e o argumento as_index=False não incluía as chaves de grupo no DataFrame resultante.

Erro de análise com múltiplas funções de janelas que referenciam as saídas de outras funções

Esta versão corrige um problema que pode ocorrer quando uma consulta do Spark tem várias funções de janela consecutivas, em que as funções de janela fazem referência à saída das outras funções de janela. Em casos raros, o sistema pode descartar uma das referências, levando a erros na avaliação da consulta. Essa correção projeta essas referências para garantir a avaliação da consulta. Essa alteração é controlada pelo parâmetro de configuração do Spark spark.databricks.optimizer.collapseWindows.projectReferences, que é definido como true por padrão. Para desativar essa alteração, defina spark.databricks.optimizer.collapseWindows.projectReferences como false.

Atualizações da biblioteca

• Bibliotecas Python atualizadas:
  • filelock de 3.13.1 a 3.13.4
• Bibliotecas R atualizadas:
• Bibliotecas Java atualizadas:
  • org.rocksdb.rocksdbjni de 8.3.2 a 8.11.4

Apache Spark

O Databricks Runtime 15.3 inclui o Apache Spark 3.5.0. Esta versão inclui todas as correções e melhorias do Spark incluídas no Databricks Runtime 15.2 (EoS), bem como as seguintes correções de bugs adicionais e melhorias feitas no Spark:

• [SPARK-48211] [DBRRM-1041][15.x][15.3] Reverter "[SC-165552][sql] DB2: Leia SMALLINT como Sho...
• [SPARK-47904] [DBRRM-1040][behave-33][SC-163409] Reverter SPARK-47904: Preservar maiúsculas e minúsculas no esquema Avro ao usar enableStableIdentifiersForUnionType
• [SPARK-48288] [SC-166141] Adicionar tipo de dados de origem para expressão de transmissão de conector
• [SPARK-48175] [SC-166341][sql][PYTHON] Armazene informações de ordenação em metadados e não no tipo para SER/DE
• [SPARK-48172] [SC-166078][sql] Corrigir problemas de escapes no JDBCDialects
• [SPARK-48186] [SC-165544][sql] Adicionar suporte para AbstractMapType
• [SPARK-48031] [SC-166523] Vistas do legado do avô para SCHEMA ENCADERNAÇÃO
• [SPARK-48369] [SC-166566][sql][PYTHON][connect] Adicionar função timestamp_add
• [SPARK-48330] [SC-166458][ss][PYTHON] Corrigir o problema de tempo limite da fonte de dados de streaming em Python em grandes intervalos de gatilho
• [SPARK-48369] Reverter “[SC-166494][sql][PYTHON][connect] Adicionar função timestamp_add”
• [SPARK-48336] [SC-166495][ps][CONNECT] Implementar ps.sql no Spark Connect
• [SPARK-48369] [SC-166494][sql][PYTHON][connect] Adicionar função timestamp_add
• [SPARK-47354] [SC-165546][sql] Adicionar suporte de agrupamento para expressões variantes
• [SPARK-48161] [SC-165325][sql] Corrigir PR revertido - Adicionar suporte de agrupamento para expressões JSON
• [SPARK-48031] [SC-166391] Decompor configuração viewSchemaMode, adicionar suporte SHOW CREATE TABLE
• [SPARK-48268] [SC-166217][core] Adicione uma configuração para SparkContext.setCheckpointDir
• [SPARK-48312] [ES-1076198][sql] Melhorar o desempenho de Alias.removeNonInheritableMetadata
• [SPARK-48294] [SC-166205][sql] Manipular minúsculas em nestedTypeMissingElementTypeError
• [SPARK-47254] [SC-158847][sql] Atribua nomes às classes de erro _LEGACY_ERROR_TEMP_325[1-9]
• [SPARK-47255] [SC-158749][sql] Atribua nomes às classes de erro _LEGACY_ERROR_TEMP_323[6-7] e _LEGACY_ERROR_TEMP_324[7-9]
• [SPARK-48310] [SC-166239][python][CONNECT] As propriedades armazenadas em cache devem retornar cópias
• [SPARK-48308] [SC-166152][core] Unifique a obtenção de esquema de dados sem colunas de partição no FileSourceStrategy
• [SPARK-48301] [SC-166143][sql] Renomear CREATE_FUNC_WITH_IF_NOT_EXISTS_AND_REPLACE para CREATE_ROUTINE_WITH_IF_NOT_EXISTS_AND_REPLACE
• [SPARK-48287] [SC-166139][ps][CONNECT] Aplique o método interno timestamp_diff
• [SPARK-47607] [SC-166129] Adicionar documentação para a estrutura de log estruturado
• [SPARK-48297] [SC-166136][sql] Corrigir uma cláusula TRANSFORM de regressão com char/varchar
• [SPARK-47045] [SC-156808][sql] Substituir IllegalArgumentException por SparkIllegalArgumentException in sql/api
• [SPARK-46991] [SC-156399][sql] Substituir IllegalArgumentException por SparkIllegalArgumentException in catalyst
• [SPARK-48031] [SC-165805][sql] Evolução do esquema de visualização de suporte
• [SPARK-48276] [SC-166116][python][CONNECT] Adicione o método ausente __repr__ para SQLExpression
• [SPARK-48278] [SC-166071][python][CONNECT] Refine a representação de cadeia de caracteres de Cast
• [SPARK-48272] [SC-166069][sql][PYTHON][connect] Adicionar função timestamp_diff
• [SPARK-47798] [SC-162492][sql] Enriqueça a mensagem de erro para as falhas de leitura de valores decimais
• [SPARK-47158] [SC-158078][sql] Atribua nome próprio e sqlState a _LEGACY_ERROR_TEMP_(2134|2231)
• [SPARK-48218] [SC-166082][core] TransportClientFactory.createClient pode causar NPE FetchFailedException
• [SPARK-48277] [SC-166066] Melhorar mensagem de erro para ErrorClassesJsonReader.getErrorMessage
• [SPARK-47545] [SC-165444][connect] Suporte de conjunto de observe dados para o cliente Scala
• [SPARK-48954] [SC-171672][sql] Adicionar try_mod função
• [SPARK-43258] [SC-158151][sql] Atribuir nomes ao erro _LEGACY_ERROR_TEMP_202[3,5]
• [SPARK-48267] [SC-165903][ss] Teste de regressão e2e com SPARK-47305
• [SPARK-48263] [SC-165925] Suporte para a função de colação para cadeias de caracteres não UTF8_BINARY
• [SPARK-48260] [SC-165883][sql] Desactivar a coordenação do coordenador de saída num teste do ParquetIOSuite
• [SPARK-47834] [SC-165645][sql][CONNECT] Marcar funções preteridas com @deprecated in SQLImplicits
• [SPARK-48011] [SC-164061][core] Armazene o nome LogKey como um valor para evitar a geração de novas instâncias de cadeia de caracteres
• [SPARK-48074] [SC-164647][core] Melhorar a legibilidade dos logs JSON
• [SPARK-44953] [SC-165866][core] Registre um aviso quando o rastreamento aleatório estiver ativado ao lado de outro mecanismo suportado por DA
• [SPARK-48266] [SC-165897][connect] Mover objeto org.apache.spark.sql.connect.dsl de pacote para diretório de teste
• [SPARK-47847] [SC-165651][core] Descontinuar spark.network.remoteReadNioBufferConversion
• [SPARK-48171] [SC-165178][core] Limpe o uso de construtores preteridos de o.rocksdb.Logger
• [SPARK-48235] [SC-165669][sql] Passe diretamente join em vez de todos os argumentos para getBroadcastBuildSide e getShuffleHashJoinBuildSide
• [SPARK-48224] [SC-165648][sql] Não permitir que as chaves de mapa sejam do tipo variante
• [SPARK-48248] [SC-165791][python] Corrigir matriz aninhada para respeitar a configuração herdada de inferArrayTypeFromFirstElement
• [SPARK-47409] [SC-165568][sql] Adicionar suporte para agrupamento para funções/expressões do tipo StringTrim (para UTF8_BINARY & LCASE)
• [SPARK-48143] [ES-1095638][sql] Use exceções leves para fluxo de controle entre UnivocityParser e FailureSafeParser
• [SPARK-48146] [SC-165668][sql] Corrigir função agregada na asserção do filho da expressão
• [SPARK-48161] Reverter “[SC-165325][sql] Adicionar suporte de ordenação para expressões JSON”
• [SPARK-47963] [CORE] Faça com que o ecossistema externo do Spark possa usar mecanismos de registro estruturados
• [SPARK-48180] [SC-165632][sql] Melhorar o erro quando a chamada UDTF com TABLE arg esquece parênteses em torno de vários PARTITION/ORDER BY exprs
• [SPARK-48002] [SC-164132][python][SS] Adicionar teste para métricas observadas no PySpark StreamingQueryListener
• [SPARK-47421] [SC-165548][sql] Adicionar suporte de agrupamento para expressões de URL
• [SPARK-48161] [SC-165325][sql] Adicionar suporte de agrupamento para expressões JSON
• [SPARK-47359] [SC-164328][sql] Suporte a função TRANSLATE para trabalhar com strings agrupadas
• [SPARK-47365] [SC-165643][python] Adicionar o método DataFrame toArrow() ao PySpark
• [SPARK-48228] [SC-165649][python][CONNECT] Implementar a validação de função ausente em ApplyInXXX
• [SPARK-47986] [SC-165549][connect][PYTHON] Não é possível criar uma nova sessão quando a sessão padrão é fechada pelo servidor
• [SPARK-47963] Reverter "[CORE] Faça com que o ecossistema externo do Spark possa usar mecanismos de registro estruturados "
• [SPARK-47963] [CORE] Faça com que o ecossistema externo do Spark possa usar mecanismos de registro estruturados
• [SPARK-48208] [SC-165547][ss] Ignore o fornecimento de métricas de uso de memória do RocksDB se o uso de memória limitada estiver habilitado
• [SPARK-47566] [SC-164314][sql] Suporta a função SubstringIndex para trabalhar com cadeias de caracteres agrupadas
• [SPARK-47589] [SC-162127][sql]Hive-Thriftserver: Migrar logError com variáveis para a estrutura de log estruturada
• [SPARK-48205] [SC-165501][python] Remova o modificador private[sql] para fontes de dados Python
• [SPARK-48173] [SC-165181][sql] CheckAnalysis deve ver todo o plano de consulta
• [SPARK-48197] [SC-165520][sql] Evite erro de afirmação para função lambda inválida
• [SPARK-47318] [SC-162573][core] Adiciona etapa HKDF à derivação de chave da AuthEngine para seguir as práticas padrão do KEX
• [SPARK-48184] [SC-165335][python][CONNECT] Defina sempre a semente de Dataframe.sample no lado do cliente
• [SPARK-48128] [SC-165004][sql] Para a expressão BitwiseCount / bit_count, corrija o erro de sintaxe codegen para entradas de tipo booleano
• [SPARK-48147] [SC-165144][ss][CONNECT] Remova os ouvintes do lado do cliente quando a sessão local do Spark for excluída
• [SPARK-48045] [SC-165299][python] Na API do Pandas, o groupby com multi-agg-relabel ignora as_index=False
• [SPARK-48191] [SC-165323][sql] Suporte UTF-32 para codificação e decodificação de cadeia de caracteres
• [SPARK-45352] [SC-137627][sql] Elimine partições de janela dobráveis
• [SPARK-47297] [SC-165179][sql] Adicionar suporte de agrupamento para expressões de formato
• [SPARK-47267] [SC-165170][sql] Adicionar suporte de agrupamento para expressões hash
• [SPARK-47965] [SC-163822][core] Evite orNull em TypedConfigBuilder e OptionalConfigEntry
• [SPARK-48166] [SQL] Evite usar BadRecordException como erro voltado para o usuário em VariantExpressionEvalUtils
• [SPARK-48105] [SC-165132][ss] Corrigir a condição de corrida entre o descarregamento do armazenamento de estado e a criação de instantâneo
• [SPARK-47922] [SC-163997][sql] Implementar a expressão try_parse_json
• [SPARK-47719] [SC-161909][sql] Alteração spark.sql.legacy.timeParse...
• [SPARK-48035] [SC-165136][sql] Corrigir try_add/try_multiply sendo semanticamente igual a add/multiply
• [SPARK-48107] [SC-164878][python] Excluir testes da distribuição Python
• [SPARK-46894] [SC-164447][python] Mova as condições de erro do PySpark para o arquivo JSON autônomo
• [SPARK-47583] [SC-163825][core] SQL core: Migrar logError com variáveis para a estrutura de log estruturada
• [SPARK-48064] Reverter “[SC-164697][sql] Atualizar mensagens de erro para classes de erro relacionadas com a rotina”
• [SPARK-48048] [SC-164846][connect][SS] Adicionado suporte de ouvinte do lado do cliente para Scala
• [SPARK-48064] [SC-164697][sql] Atualizar mensagens de erro para classes de erro associadas a rotinas
• [SPARK-48056] [SC-164715][connect][PYTHON] Execute novamente o plano se um erro de SESSION_NOT_FOUND for gerado e nenhuma resposta parcial for recebida
• [SPARK-48124] [SC-165009][core] Desativar o registo estruturado para Connect-Repl por predefinição
• [SPARK-47922] Reverter “[SC-163997][sql] Implementar a expressão try_parse_json”
• [SPARK-48065] [SC-164817][sql] SPJ: allowJoinKeysSubsetOfPartitionKeys é muito rigoroso
• [SPARK-48114] [SC-164956][core] Pré-compile o modelo regex para evitar trabalho desnecessário
• [SPARK-48067] [SC-164773][sql] Corrigir colunas padrão da variante
• [SPARK-47922] [SC-163997][sql] Implementar a expressão try_parse_json
• [SPARK-48075] [SC-164709] [SS] Adicionar verificação de tipos para funções Avro do PySpark
• [SPARK-47793] [SC-164324][ss][PYTHON] Implemente o SimpleDataSourceStreamReader para fonte de dados de streaming python
• [SPARK-48081] [SC-164719] Corrigir ClassCastException em NTile.checkInputDataTypes() quando o argumento não é dobrável ou de tipo errado
• [SPARK-48102] [SC-164853][ss] Acompanhe a duração da aquisição de métricas de fonte/destino ao reportar o progresso da consulta em streaming
• [SPARK-47671] [SC-164854][core] Habilite o log estruturado em log4j2.properties.template e atualize documentos
• [SPARK-47904] [SC-163409][sql] Manter a distinção entre maiúsculas e minúsculas no esquema Avro ao usar o parâmetro enableStableIdentifiersForUnionType
• [SPARK-48058] [SC-164695][spark-43727][PYTHON][connect] UserDefinedFunction.returnType analisar a string DDL
• [SPARK-46922] [SC-156102][core][SQL] Não encapsular erros de tempo de execução voltados para o usuário
• [SPARK-48047] [SC-164576][sql] Reduza a pressão de memória de tags TreeNode vazias
• [SPARK-47934] [SC-164648] [CORE] Garantir barras finais em HistoryServer redirecionamentos de URL
• [SPARK-47921] [SC-163826][connect] Corrigir a criação de ExecuteJobTag em ExecuteHolder
• [SPARK-48014] [SC-164150][sql] Altere o erro makeFromJava no EvaluatePython para um erro voltado para o usuário
• [SPARK-47903] [SC-163424][python] Adicione suporte para tipos escalares restantes na biblioteca PySpark Variant
• [SPARK-48068] [SC-164579][python] mypy deve ter --python-executable parâmetro
• [SPARK-47846] [SC-163074][sql] Adicionar suporte para o tipo Variant na expressão from_json
• [SPARK-48050] [SC-164322][ss] Registrar plano lógico no início da consulta
• [SPARK-47810] [SC-163076][sql] Substitua a expressão equivalente a <=> na condição de junção
• [SPARK-47741] [SC-164290] Adicionada manipulação de estouro de pilha no analisador
• [SPARK-48053] [SC-164309][python][CONNECT] SparkSession.createDataFrame deve avisar sobre opções não suportadas
• [SPARK-47939] [SC-164171][sql] Implemente uma nova regra Analyzer para mover ParameterizedQuery dentro de ExplainCommand e DescribeQueryCommand
• [SPARK-48063] [SC-164432][core] Ativar spark.stage.ignoreDecommissionFetchFailure por padrão
• [SPARK-48016] [SC-164280][sql] Corrigir um bug na função try_divide quando com decimais
• [SPARK-48033] [SC-164291][sql] Corrigir RuntimeReplaceable expressões que estão sendo usadas em colunas padrão
• [SPARK-48010] [SC-164051][sql][ES-1109148] Evite chamadas repetidas para conf.resolver em resolveExpression
• [SPARK-48003] [SC-164323][sql] Adicionar suporte de agrupamento para hll sketch aggregate
• [SPARK-47994] [SC-164175][sql] Corrigir o bug na aplicação do filtro de coluna CASE WHEN no SQLServer
• [SPARK-47984] [SC-163837][ml][SQL] Alterar MetricsAggregate/V2Aggregator#serialize/deserialize para chamar SparkSerDeUtils#serialize/deserialize
• [SPARK-48042] [SC-164202][sql] Use um formatador de data/hora com fuso horário ao nível da classe em vez de criar cópias ao nível do método
• [SPARK-47596] [SPARK-47600][spark-47604][SPARK-47804] Migrações de log estruturadas
• [SPARK-47594] [SPARK-47590][spark-47588][SPARK-47584] Migrações de log estruturadas
• [SPARK-47567] [SC-164172][sql] Suporte a função LOCATE para trabalhar com strings agrupadas
• [SPARK-47764] [SC-163820][core][SQL] Limpeza de dependências de shuffle baseadas em ShuffleCleanupMode
• [SPARK-48039] [SC-164174][python][CONNECT] Atualize a classe de erro para group.apply
• [SPARK-47414] [SC-163831][sql] Suporte de agrupamento minúsculo para expressões regexp
• [SPARK-47418] [SC-163818][sql] Adicione implementações artesanais para que o reconhecimento de unicode em minúsculas contém, inicie e termineCom e otimize UTF8_BINARY_LCASE
• [SPARK-47580] [SC-163834][sql] Catalisador SQL: elimine variáveis sem nome em logs de erro
• [SPARK-47351] [SC-164008][sql] Adicionar suporte de agrupamento para StringToMap & Expressões de cadeia de caracteres de máscara
• [SPARK-47292] [SC-164151][ss] safeMapToJValue deve considerar valores digitados nulos
• [SPARK-47476] [SC-164014][sql] Suporte a função REPLACE para trabalhar com cadeias de caracteres agrupadas
• [SPARK-47408] [SC-164104][sql] Corrigir expressões matemáticas que usam StringType
• [SPARK-47350] [SC-164006][sql] Adicionar suporte de agrupamento para expressão de cadeia de caracteres SplitPart
• [SPARK-47692] [SC-163819][sql] Corrigir o significado de StringType predefinido na conversão implícita
• [SPARK-47094] [SC-161957][sql] SPJ : Reequilibra dinamicamente o número de buckets quando eles não são iguais
• [SPARK-48001] [SC-164000][core] Remover não utilizado private implicit def arrayToArrayWritable de SparkContext
• [SPARK-47986] [SC-163999][connect][PYTHON] Não é possível criar uma nova sessão quando a sessão padrão é fechada pelo servidor
• [SPARK-48019] [SC-164121] Corrigir comportamento incorreto em ColumnVector/ColumnarArray com dicionário e nulos
• [SPARK-47743] [SPARK-47592][spark-47589][SPARK-47581][spark-47586][SPARK-47593][spark-47595][SPARK-47587][spark-47603] Migrações de log estruturadas
• [SPARK-47999] [SC-163998][ss] Aperfeiçoe o registo relativo à criação de instantâneos e adição/remoção de entradas do mapa de cache de estado no fornecedor de armazenamento de estado com suporte de HDFS.
• [SPARK-47417] [SC-162872][sql] Suporte a agrupamento: Ascii, Chr, Base64, UnBase64, Decode, StringDecode, Encode, ToBinary, FormatNumber, Sentences
• [SPARK-47712] [SC-161871][connect] Permitir plug-ins de conexão para criar e processar conjuntos de dados
• [SPARK-47411] [SC-163351][sql] Suporta funções StringInstr & FindInSet para trabalhar com cadeias de caracteres agrupadas
• [SPARK-47360] [SC-163014][sql] Suporte de agrupamento: Overlay, FormatString, Length, BitLength, OctetLength, SoundEx, Luhncheck
• [SPARK-47413] [SC-163323][sql] - adicionar suporte a substr/left/right para agrupamentos
• [SPARK-47983] [SC-163835][sql] Tornar spark.sql.pyspark.legacy.inferArrayTypeFromFirstElement.enabled como interno
• [SPARK-47964] [SC-163816][python][CONNECT] Ocultar SQLContext e HiveContext no pyspark-connect
• [SPARK-47985] [SC-163841][python] Simplifique funções com lit
• [SPARK-47633] [SC-163453][sql] Inclua a saída do plano do lado direito para LateralJoin#allAttributes uma canonicalização mais consistente
• [SPARK-47909] Reverter “[PYTHON][connect] Classe pai DataFrame f...
• [SPARK-47767] [SC-163096][sql] Mostrar valor de deslocamento em TakeOrderedAndProjectExec
• [SPARK-47822] [SC-162968][sql] Proibir expressões de hash de aplicarem-se ao tipo de dados variante
• [SPARK-47490] [SC-160494][ss] Corrigir o uso do construtor RocksDB Logger para evitar aviso de descontinuação
• [FAÍSCA-47417] Reverter "[SC-162872][sql] Suporte de agrupamento: Ascii, Chr, Base64, UnBase64, Decode, StringDecode, Encode, ToBinary, FormatNumber, Sentences"
• [SPARK-47352] [SC-163460][sql] Corrigir reconhecimento de agrupamento Upper, Lower, InitCap
• [SPARK-47909] [PYTHON][connect] Classe DataFrame pai para Spark Connect e Spark Classic
• [SPARK-47417] [SC-162872][sql] Suporte a agrupamento: Ascii, Chr, Base64, UnBase64, Decode, StringDecode, Encode, ToBinary, FormatNumber, Sentences

Suporte ao driver ODBC/JDBC do Databricks

O Databricks suporta drivers ODBC/JDBC lançados nos últimos 2 anos. Faça o download dos drivers lançados recentemente e atualize (baixar ODBC, baixar JDBC).

Consulte atualizações de manutenção do Databricks Runtime 15.3.

Ambiente do sistema

• Sistema Operacional: Ubuntu 22.04.4 LTS
• Java : Zulu 8.78.0.19-CA-linux64
• Escala: 2.12.18
• Píton: 3.11.0
• R: 4.3.2
• Lago Delta: 3.2.0

Bibliotecas Python instaladas

Bibliotecas R instaladas

As bibliotecas R são instaladas a partir do instantâneo CRAN do Posit Package Manager.

Bibliotecas Java e Scala instaladas (versão de cluster Scala 2.12)