Nota
O acesso a esta página requer autorização. Podes tentar iniciar sessão ou mudar de diretório.
O acesso a esta página requer autorização. Podes tentar mudar de diretório.
Nota
O suporte para esta versão do Databricks Runtime terminou. Para obter a data de fim do suporte, consulte Histórico de fim do suporte. Para todas as versões suportadas do Databricks Runtime, consulte Versões e compatibilidade das notas de versão do Databricks Runtime.
As notas de versão a seguir fornecem informações sobre o Databricks Runtime 12.0, desenvolvido pelo Apache Spark 3.3.1.
A Databricks lançou esta versão em dezembro de 2022.
Novos recursos e melhorias
- E/S preditiva é GA
- Photon writer suporta compressão zstd
- Suporte para perfil de recurso de tarefa em nível de estágio para clusters autônomos
-
Suporte SQL para substituição seletiva com
REPLACE WHERE - Marcas d'água agora são suportadas em SQL
- Criação de perfil de memória PySpark
- Poda dinâmica para DELETE e UPDATE
- Métricas de exclusão em nível de linha para operações de linguagem de manipulação de dados particionados
E/S preditiva é GA
A E/S preditiva está agora disponível para o público em geral. Para obter mais informações, consulte O que é E/S preditiva?.
Photon writer suporta compressão zstd
O gravador nativo de fótons agora suporta o codec de compactação zstd quando zstd é habilitado pela configuração spark.sql.parquet.compression.codec como zstd.
Suporte para perfil de recurso de tarefa em nível de estágio para clusters autônomos
Agora você pode usar o agendamento em nível de estágio em clusters autônomos quando a alocação dinâmica estiver desabilitada. Para usar esse recurso, especifique os recursos da tarefa com ResourceProfileBuilder para cada estágio.
Suporte SQL para substituição seletiva com REPLACE WHERE
Agora você pode substituir seletivamente os dados correspondentes a uma expressão arbitrária em uma tabela Delta usando o seguinte padrão.
INSERT INTO table_name REPLACE WHERE predicate append_relation
Consulte Substituição seletiva arbitrária com replaceWhere.
Marcas d'água agora são suportadas em SQL
Agora pode especificar marcas d'água usando a interface DLT SQL e em consultas SQL em DataFrames em streaming. Ver WATERMARK cláusula.
Criação de perfil de memória PySpark
A criação de perfil de memória agora está habilitada para funções definidas pelo usuário do PySpark. Isso fornece informações sobre incremento de memória, uso de memória e número de ocorrências para cada linha de código em uma função definida pelo usuário.
Poda dinâmica para DELETE e UPDATE
Ao usar a computação ativada para Photon, DELETE e UPDATE agora usam a remoção dinâmica de arquivos e partições para melhorar o desempenho. Por exemplo, a remoção dinâmica é habilitada quando uma tabela de origem menor é usada para atualizar ou excluir linhas em uma tabela maior.
Métricas de exclusão em nível de linha para operações de linguagem de manipulação de dados particionados
Com predicados particionados, os usuários agora podem auditar quantas linhas são excluídas ao executar operações de linguagem de manipulação de dados (DML), como DELETE, TRUNCATEe replaceWhere.
Correções de erros
Corrigido um problema com a análise JSON no Auto Loader em que todas as colunas eram deixadas como strings. Anteriormente, cloudFiles.inferColumnTypes não estava definido ou configurado como false, e o JSON continha objetos aninhados.
Atualizações da biblioteca
- Bibliotecas Python atualizadas:
- argon2-cffi de 20.1.0 a 21.3.0
- attrs de 21.2.0 a 21.4.0
- backports.entry-points-selecionável de 1.1.1 a 1.2.0
- lixívia de 4.0.0 a 4.1.0
- boto3 de 1.21.18 a 1.21.32
- Botocore de 1.24.18 a 1.24.32
- CFFI de 1.14.6 a 1.15.0
- Clique de 8.0.3 para 8.0.4
- cycler de 0.10.0 a 0.11.0
- Cython de 0.29.24 a 0.29.28
- depuração de 1.4.1 a 1.5.1
- decorador de 5.1.0 a 5.1.1
- pontos de entrada de 0,3 a 0,4
- IDNA de 3.2 a 3.3
- ipykernel de 6.12.1 a 6.15.3
- ipython de 7.32.0 a 8.5.0
- ipywidgets de 7.7.0 a 7.7.2
- Jedi de 0.18.0 a 0.18.1
- joblib de 1.0.1 a 1.1.0
- jsonschema de 3.2.0 a 4.4.0
- kiwisolver de 1.3.1 a 1.3.2
- matplotlib de 3.4.3 a 3.5.1
- nbclient de 0.5.3 a 0.5.13
- nbconvert de 6.1.0 para 6.4.4
- nbformat de 5.1.3 a 5.3.0
- nest-asyncio de 1.5.1 a 1.5.5
- notebook de 6.4.5 a 6.4.8
- numpy de 1.20.3 a 1.21.5
- embalagem de 21,0 a 21,3
- pandas de 1.3.4 a 1.4.2
- pandocfilters de 1.4.3 a 1.5.0
- parso de 0.8.2 a 0.8.3
- Almofada de 8.4.0 a 9.0.1
- platformdirs de 2.5.2 a 2.5.4
- plotly de 5.9.0 a 5.6.0
- Prometheus-cliente de 0.11.0 a 0.13.1
- Protobuf de 4.21.5 a 3.19.4
- pycparser de 2,20 a 2,21
- Pigmentos de 2.10.0 a 2.11.2
- pyodbc de 4.0.31 a 4.0.32
- pyzmq de 22.2.1 a 22.3.0
- Pedidos de 2.26.0 a 2.27.1
- s3transfer de 0.5.2 a 0.5.0
- scikit-learn de 0.24.2 a 1.0.2
- Scipy de 1.7.1 a 1.7.3
- statsmodels de 0.12.2 a 0.13.2
- terminado de 0.9.4 a 0.13.1
- tomli de 2.0.1 a 1.2.2
- traços de 5.1.0 a 5.1.1
- urllib3 de 1.26.7 a 1.26.9
- widgetsnbextensão de 3.6.0 a 3.6.1
- Bibliotecas R atualizadas:
- base de 4.1.3 a 4.2.2
- Fermente de 1.0-7 a 1.0-8
- BSLIB de 0.4.0 a 0.4.1
- chamador de 3.7.2 a 3.7.3
- Chron de 2.3-57 a 2.3-58
- CLI de 3.3.0 a 3.4.1
- cluster de 2.1.3 a 2.1.4
- marca comum de 1.8.0 a 1.8.1
- compilador de 4.1.3 a 4.2.2
- CPP11 de 0.4.2 a 0.4.3
- giz de cera de 1.5.1 a 1.5.2
- curvatura de 4.3.2 a 4.3.3
- data.table de 1.14.2 a 1.14.4
- conjuntos de dados de 4.1.3 a 4.2.2
- desc de 1.4.1 a 1.4.2
- Devtools de 2.4.4 a 2.4.5
- resumo de 0.6.29 a 0.6.30
- e1071 de 1.7-11 a 1.7-12
- avaliar de 0,16 a 0,18
- fontawesome de 0.3.0 a 0.4.0
- futuro de 1.28.0 a 1.29.0
- future.apply de 1.9.1 a 1.10.0
- gargarejo de 1.2.0 a 1.2.1
- Gert de 1.8.0 a 1.9.1
- ggplot2 de 3.3.6 a 3.4.0
- GH de 1.3.0 a 1.3.1
- gitcreds de 0.1.1 a 0.1.2
- gráficos de 4.1.3 a 4.2.2
- grDevices de 4.1.3 a 4.2.2
- grelha de 4.1.3 a 4.2.2
- httpuv de 1.6.5 a 1.6.6
- isoband de 0.2.5 a 0.2.6
- jsonlite de 1.8.0 a 1.8.3
- lava de 1.6.10 a 1.7.0
- ciclo de vida de 1.0.1 a 1.0.3
- lubridato de 1.8.0 a 1.9.0
- markdown de 1,1 para 1,3
- MASSA de 7,3-56 a 7,3-58
- Matriz de 1,4-1 a 1,5-1
- Métodos de 4.1.3 a 4.2.2
- mgcv de 1.8-40 a 1.8-41
- nlme de 3.1-157 a 3.1-160
- nnet de 7,3-17 a 7,3-18
- openssl de 2.0.2 a 2.0.4
- paralelo de 4.1.3 a 4.2.2
- pkgload de 1.3.0 a 1.3.1
- processx de 3.7.0 a 3.8.0
- ps de 1.7.1 a 1.7.2
- ronronar de 0.3.4 a 0.3.5
- ragg de 1.2.2 a 1.2.4
- RcppEigen de 0.3.3.9.2 a 0.3.3.9.3
- Readr de 2.1.2 a 2.1.3
- receitas de 1.0.1 a 1.0.3
- RLANG de 1.0.5 a 1.0.6
- rmarkdown de 2,16 para 2,18
- parte de 4.1.16 a 4.1.19
- RSQLite de 2.2.16 a 2.2.18
- brilhante de 1.7.2 a 1.7.3
- SparkR de 3.3.0 a 3.3.1
- splines de 4.1.3 a 4.2.2
- Estatísticas de 4.1.3 a 4.2.2
- stats4 de 4.1.3 a 4.2.2
- SYS de 3.4 a 3.4.1
- tcltk de 4.1.3 a 4.2.2
- ensaio de 3.1.4 a 3.1.5
- Tidyr de 1.2.0 a 1.2.1
- tidyselect de 1.1.2 a 1.2.0
- horaData de 4021.104 a 4021.106
- tinytex de 0,41 a 0,42
- Ferramentas de 4.1.3 a 4.2.2
- utils de 4.1.3 a 4.2.2
- VCTRS de 0.4.1 a 0.5.0
- vroom de 1.5.7 a 1.6.0
- xfun de 0,32 a 0,34
- yaml de 2.3.5 a 2.3.6
- zip de 2.2.0 a 2.2.2
- Bibliotecas Java atualizadas:
- com.fasterxml.jackson.core.jackson-databind de 2.13.4 a 2.13.4.2
- org.apache.parquet.parquet-column de 1.12.0-databricks-0007 a 1.12.3-databricks-0001
- org.apache.parquet.parquet-comum de 1.12.0-databricks-0007 a 1.12.3-databricks-0001
- org.apache.parquet.parquet-codificação de 1.12.0-databricks-0007 a 1.12.3-databricks-0001
- org.apache.parquet.parquet-format-structures de 1.12.0-databricks-0007 a 1.12.3-databricks-0001
- org.apache.parquet.parquet-hadoop de 1.12.0-databricks-0007 a 1.12.3-databricks-0001
- org.apache.parquet.parquet-jackson de 1.12.0-databricks-0007 a 1.12.3-databricks-0001
- org.apache.yetus.audience-anotações de 0.5.0 a 0.13.0
Faísca Apache
O Databricks Runtime 12.0 inclui o Apache Spark 3.3.1. Esta versão inclui todas as correções e melhorias do Spark incluídas no Databricks Runtime 11.3 LTS (EoS), bem como as seguintes correções de bugs adicionais e melhorias feitas no Spark:
- [SPARK-40844] [SC-116996][12.x][12.0][12.0.0] Reverter "[SC-113542][ss] Inverter o valor padrão de Kafka offset fetching config"
- [SPARK-40646] [SC-116061] Reverter "[SC-113379][sql] Corrigir o retorno de resultados parciais na fonte de dados JSON e funções JSON"
- [SPARK-41195] [SC-116305][sql] Apoio PIVOT/UNPIVOT com filhos
- [SPARK-41178] [SC-116139][sql] Corrigir a precedência da regra do analisador entre JOIN e vírgula
-
[SPARK-41072] [SC-116140][sc-116044][SC-115852][sql][SS] Adicione a classe
STREAM_FAILEDde erro aStreamingQueryException - [SPARK-40921] Reverter "[SC-115140][sc-114585][SQL] Adicionar cláusula QUANDO NÃO HOUVER CORRESPONDÊNCIA COM A FONTE para MERGE INTO
- [SPARK-37980] [SC-115758] [SQL] Estender a coluna METADADOS para suportar índices de linha para ficheiros Parquet
-
[SPARK-41055] [SC-115582][sql] Renomear
_LEGACY_ERROR_TEMP_2424paraGROUP_BY_AGGREGATE - [SPARK-41101] [SC-115849][python][PROTOBUF] Suporte de nome de classe de mensagem para PYSPARK-PROTOBUF
- [FAÍSCA-40956] [SC-115867] Equivalente SQL para comando de substituição de Dataframe
- [SPARK-41095] [SC-115659][sql] Converter operadores não resolvidos em erros internos
- [SPARK-41144] [SC-115866][sql] Dica não resolvida não deve causar falha de consulta
-
[SPARK-41137] [SC-115858][sql] Renomear
LATERAL_JOIN_OF_TYPEparaINVALID_LATERAL_JOIN_TYPE -
[SPARK-40998] [SC-114754][sql] Renomeie a classe
_LEGACY_ERROR_TEMP_0040de erro paraINVALID_IDENTIFIER - [SPARK-41015] [SC-115130][sql][PROTOBUF] TesteUnitário verificação de valor nulo para gerador de dados
- [SPARK-40769] [SC-114923][core][SQL] Migrar falhas de verificação de tipo de expressões agregadas para classes de erro
-
[SPARK-41043] [SC-115183][sql] Renomeie a classe
_LEGACY_ERROR_TEMP_2429de erro paraNUM_COLUMNS_MISMATCH - [SPARK-40777] [SC-114855][sql][PROTOBUF] Suporte para importação Protobuf e transferência de classes de erro.
-
[SPARK-41019] [SC-114987][sql] Forneça um contexto de consulta para
failAnalysis() -
[SPARK-41027] [SC-115131][sql] Use
UNEXPECTED_INPUT_TYPEem vez deMAP_FROM_ENTRIES_WRONG_TYPE - [SPARK-40476] [SC-115868][sc-111163][ML][sql] Reduzir o tamanho aleatório da ELA
- [SPARK-41134] [SC-115851][sql] Melhorar a mensagem de erro para erros internos
- [SPARK-37980] Revert " [SQL] Estender a coluna METADADOS para suportar índices de linhas para ficheiros Parquet
- [SPARK-41109] [SC-115788][sql] Renomeie a classe de erro _LEGACY_ERROR_TEMP_1216 para INVALID_LIKE_PATTERN
-
[SPARK-40984] [SC-115844][core][SQL] Use
NON_FOLDABLE_INPUTem vez deFRAME_LESS_OFFSET_WITHOUT_FOLDABLE -
[SPARK-41029] [SC-115828][sql] Otimizar o uso do construtor de
GenericArrayDatapara Scala 2.13 - [SPARK-40697] [SC-113648][sql] Adicionar preenchimento de caracteres do lado da leitura para cobrir arquivos de dados externos
-
[SPARK-40978] [SC-114574][sql] Migrar
failAnalysis()sem contexto para classes de erro - [SPARK-40663] [SC-114586][sql] Migrar erros de execução para classes de erro: _LEGACY_ERROR_TEMP_2251-2275
- [SPARK-38959] [SC-115672][sc-112707][SQL] DS V2: suporte à filtragem de grupos em tempo de execução em comandos ao nível de linha
- [SPARK-40372] [SC-115668][sql] Migrar falhas de verificações de tipo de matriz para classes de erro
-
[SPARK-41038] [SC-115371][sql] Renomear
MULTI_VALUE_SUBQUERY_ERRORparaSCALAR_SUBQUERY_TOO_MANY_ROWS -
[SPARK-40965] [SC-114443][sql] Renomeie a classe
_LEGACY_ERROR_TEMP_1208de erro paraFIELD_NOT_FOUND - [SPARK-40748] [SC-114696][sql] Migrar falhas de verificação de tipo de condições para classes de erro
- [SPARK-40371] [SC-114557][sql] Migrar falhas de verificação de tipo de NthValue e NTile para classes de erro
- [SPARK-41092] [SC-115547][sql] Não use identificador para corresponder a unidades de intervalo
-
[SPARK-41009] [SC-115360][sql] Renomeie a classe
_LEGACY_ERROR_TEMP_1070de erro paraLOCATION_ALREADY_EXISTS - [SPARK-37980] [SQL] Estender a coluna METADADOS para suportar índices de linha para ficheiros Parquet
-
[SPARK-40967] [SC-114448][sql] Migrar
failAnalysis()para classes de erro - [SPARK-34265] [SC-115486][sc-113788][PYTHON][sql] Instrumento Python UDFs usando métricas SQL
-
[SPARK-41012] [SC-114873][sql] Renomear
_LEGACY_ERROR_TEMP_1022paraORDER_BY_POS_OUT_OF_RANGE -
[SPARK-41042] [SC-115142][sql] Renomear
PARSE_CHAR_MISSING_LENGTHparaDATATYPE_MISSING_SIZE - [SPARK-40752] [SC-114442][sql] Migrar erros de verificação de tipos de expressões diversas para classes de erro
- [SPARK-37945] [SC-115534][sql][CORE] Use classes de erro nos erros de execução de operações aritméticas
- [SPARK-40374] [SC-114705][sql] Migrar falhas de validação de tipo de criadores de tipos para classes de erro
- [SPARK-41056] [SC-115354][r] Corrigir novo comportamento de R_LIBS_SITE introduzido na R 4.2
-
[SPARK-41041] [SC-115357][sql] Integrar
_LEGACY_ERROR_TEMP_1279emTABLE_OR_VIEW_ALREADY_EXISTS - [SPARK-40663] [SC-114852][sql] Migrar erros de execução para classes de erro: _LEGACY_ERROR_TEMP_2201-2225
-
[SPARK-41020] [SC-114984][sql] Renomeie a classe
_LEGACY_ERROR_TEMP_1019de erro paraSTAR_GROUP_BY_POS -
[SPARK-41035] [SC-115233][sql] Não corrija elementos dobráveis de funções agregadas em
RewriteDistinctAggregates - [SPARK-39778] [SC-114353][sql] Melhorar classes de erro e mensagens
- [SPARK-40798] [SC-113782][sql] Alterar partição deve verificar se o valor segue a política de atribuição de armazenamento
- [SPARK-40810] [SC-113533][sql] Use SparkIllegalArgumentException em vez de IllegalArgumentException em CreateDatabaseCommand & AlterDatabaseSetLocationCommand
- [SPARK-40921] [SC-115140][sc-114585][SQL] Adicionar a cláusula QUANDO NÃO CORRESPONDE À FONTE a MERGE INTO
- [FAÍSCA-40360] [SC-114965] ALREADY_EXISTS e NOT_FOUND exceções
- [SPARK-41007] [SC-115085][sql] Adicionar serializador ausente para java.math.BigInteger
- [SPARK-40751] [SC-114254][sql] Migrar falhas de verificação de tipo de funções de ordem alta para classes de erro
- [SPARK-40248] [SC-114704][sql] Use um número maior de bits para criar o filtro Bloom
- [SPARK-41040] [SC-115145][ss] Corrigir falha de consulta de streaming de auto-união ao usar readStream.table
- [SPARK-32380] [SC-114966][sql] Corrigindo o acesso da tabela HBase via Hive do Spark
- [SPARK-40749] [SC-114860][sql] Migrar falhas de verificação de tipo nos geradores para classes de erro
- [SPARK-40925] [SC-114445][sql][SS][warmfix][12.x] Corrigir operador com estado re...
- [SPARK-40654] [SC-112783] Remover linhas de log temporárias
- [SPARK-40742] [SC-114913][sc-112646][CORE][sql] Corrigir avisos de compilação Java relacionados ao tipo genérico
- [SPARK-40657] [SC-113642][cherry-pick] Adicionar suporte para classes Java no Protob...
- [SPARK-40898] [SC-113932][sql] Citar nomes de funções em erros de incompatibilidade de tipos de dados
- [SPARK-40760] [SC-113750][sql] Migrar falhas de verificação de tipo de expressões de intervalo para classes de erro
- [SPARK-36114] [SC-113771][sql] Suportar subconsultas com predicados de não igualdade correlacionados
- [SPARK-40856] [SC-113738][sql] Atualizar o modelo de erro do WRONG_NUM_PARAMS
- [SPARK-40759] [SC-114251][sql] Migrar falhas de verificação de tipo da janela de tempo para classes de erro
- [SPARK-40750] [SC-113812][sql] Migrar falhas de verificação de tipo de expressões matemáticas para categorias de erro
- [SPARK-40756] [SC-113749][sql] Migrar falhas de verificação de tipo de expressões de cadeia de caracteres para classes de erro
- [SPARK-40768] [SC-113640][sql] Migrar falhas de verificação de tipo de bloom_filter_agg() para classes de erro
- [SPARK-40369] [SC-113402][core][SQL] Migrar falhas de verificação de tipos em chamadas por reflexão para classes de erro
- [SPARK-39445] [SQL] Remova a janela se windowExpressions estiver vazia durante a poda de colunas
- [SPARK-40761] [SC-113245][sql] Migrar falhas na verificação de tipos das expressões de percentil para classes de erro
- [SPARK-40361] [SC-112789][sql] Migrar falhas de verificação de tipo aritmético para classes de erro
-
[SPARK-40714] [SC-112576][sql] Remover
PartitionAlreadyExistsException -
[SPARK-40702] [SC-112437][sql] Corrigir especificações de partição em
PartitionsAlreadyExistException - [SPARK-40358] [SC-112631][sql] Migrar falhas de verificação de tipo de coleção para classes de erro
- [SPARK-40910] [SC-114259][sql] Substitua UnsupportedOperationException por SparkUnsupportedOperationException
- [SPARK-39876] [SC-112429][sql] Adicionar UNPIVOT à sintaxe SQL
- [SPARK-39783] [SC-113389][sql] Quote qualifiedName para corrigir backticks para candidatos a coluna em mensagens de erro
- [SPARK-40663] [SC-112520][sql] Migrar erros de execução para classes de erro: _LEGACY_ERROR_TEMP_2026-2282
-
[SPARK-40975] [SC-114555][sql] Renomeie a classe
_LEGACY_ERROR_TEMP_0021de erro paraUNSUPPORTED_TYPED_LITERAL - [SPARK-37935] [SC-114472][sql] Elimine campos de subclasses de erro separados
- [SPARK-40944] [SC-114530][sql] Relaxe a restrição de ordenação para CREATE TABLE opções de coluna
-
[SPARK-40815] [SC-114528][sql] Adicionar
DelegateSymlinkTextInputFormatcomo solução alternativa para o bugSymlinkTextInputSplit - [SPARK-40933] [SC-114441][sql] Reimplementar df.stat. {cov, corr} com funções sql incorporadas
- [SPARK-40932] [SC-114439][core] Corrigir mensagens de problema para allGather são substituídas
- [FAÍSCA-39312] [SQL] Use parquet nativo em predicado para no filtro empurrar para baixo
- [SPARK-40862] [SC-114352][sql] Suporta subconsultas não agregadas em RewriteCorrelatedScalarSubquery
-
[SPARK-40963] [SC-114446][sql] Definir anulável corretamente no projeto criado por
ExtractGenerator - [SPARK-40663] [SC-112295][sql] Migrar erros de execução para classes de erro: _LEGACY_ERROR_TEMP_2000-2024
- [SPARK-40892] [SC-114347][sql][SS] Relaxar o requisito da regra window_time: permitir múltiplas chamadas de window_time
- [SPARK-40540] [SC-111639][sql] Migrar erros de compilação para classes de erro: _LEGACY_ERROR_TEMP_1100-1347
- [SPARK-40924] [SC-114258][sql] Correção para Unhex quando a entrada tem número ímpar de símbolos
- [SPARK-40821] [SC-113754][sql][CORE][python][SS] Introduza window_time função para extrair o tempo do evento da coluna da janela
- [SPARK-40800] [SC-113772][sql] Sempre expressões embutidas em OptimizeOneRowRelationSubquery
-
[SPARK-40900] [SC-114006][sql] Reimplementar
frequentItemscom operações de dataframe - [SPARK-40735] [SC-114022][sc-112657] Invoque consistentemente bash com /usr/bin/env bash em scripts para tornar o código mais portátil
- [SPARK-40773] [SC-113091][sql] Refatorar checkCorrelationsInSubquery
- [SPARK-40615] [SC-113400][sql] Verifique os tipos de dados não suportados ao descorrelacionar subconsultas
- [SPARK-40660] [SC-112293][core][SQL] Mudar para XORShiftRandom para distribuir elementos
- [SPARK-40540] [SC-113926][sc-111331][SQL] Migrar erros de compilação para classes de erro
- [SPARK-40551] [SC-113135][sql] DataSource V2: Adicionar APIs para operações de nível de linha baseadas em delta
- [SPARK-39391] [SC-110676][core] Reutilizar classes de particionador
- [SPARK-40368] [SC-113396][sql] Migrar falhas de verificação do tipo Bloom Filter para classes de erro
-
[SPARK-39146] [SC-111814][core][SQL] Introduza singleton local para
ObjectMapperque possa ser reutilizado - [SPARK-40357] [SC-113786][sc-111352][SQL] Migrar falhas na verificação do tipo de janela para classes de erro
- [SPARK-40874] [SC-113756][python] Corrija transmissões em UDFs Python quando a criptografia está ativada
- [SPARK-40359] [SC-113770][sc-111146][SQL] Migrar falhas de verificação de tipos em expressões CSV/JSON para classes de erro
-
[SPARK-40880] [SC-113764][sql] Reimplementar
summarycom operações de dataframe -
[SPARK-40877] [SC-113763][sql] Reimplementar
crosstabcom operações de dataframe -
[SPARK-40382] [SC-113098][sql] Agrupe expressões agregadas distintas por filhos semanticamente equivalentes em
RewriteDistinctAggregates - [SPARK-40826] [SC-113532][ss] Adicionar verificação adicional de renomeação de ficheiro no ponto de verificação
- [SPARK-40829] [SC-113426][sql] ARMAZENADO COMO serde na CREATE TABLE LIKE vista não funciona
- [SPARK-40844] [SC-113542][ss] Inverta o valor padrão de Kafka offset fetching config
- [SPARK-40488] [SC-113568][sc-111160] Não encapsular exceções lançadas quando a gravação da fonte de dados falhar
-
[SPARK-40560] [SC-113631][sc-111335][SQL] Renomeie
messagemessageTemplateparaSTANDARDno formato de erros - [SPARK-40618] [SC-113096][sql] Corrigir bug na regra MergeScalarSubqueries com subconsultas aninhadas usando rastreamento de referência
- [SPARK-40530] [SC-113528][sc-111332][SQL] Adicionar APIs de desenvolvedor relacionadas a erros
- [SPARK-40806] [SC-113250][sql] Correção de erro de digitação: CREATE TABLE -> SUBSTITUIR TABLE
- [SPARK-40646] [SC-113379][sql] Correção que retorna resultados parciais na fonte de dados JSON e funções JSON
- [SPARK-40654] [Cherry-pick][sc-112783][SQL] Suporte Protobuf para Spark - a partir de…
- [SPARK-40753] [SC-113539][sql] Corrigir bug no caso de teste para operação de diretório de catálogo
-
[SPARK-40765] [SC-113056][sql] Otimizar a operação fs redundante no método
CommandUtils#calculateSingleLocationSize#getPathSize - [SPARK-40114] [ES-479282][r][11.X] Suporte para Arrow 9.0.0 com SparkR
- [SPARK-40479] [SC-110935][sql] Migrar erro de tipo de entrada inesperado para uma classe de erro
- [SPARK-40473] [SC-113388][sc-111141][SQL] Migrar erros de análise para classes de erro
- [SPARK-39853] [SC-111867][core] Suporta perfil de recursos de tarefas ao nível do estágio para cluster autónomo quando a alocação dinâmica estiver desabilitada (retrocompatibilidade do PR-47157)
- [SPARK-40407] [SC-111161][sql] Corrija a possível distorção de dados causada por df.repartition
- [SPARK-40425] [SC-110840][sql] DROP TABLE não precisa fazer pesquisa de tabela
- [SPARK-40703] [SC-113242][sql] Introduza o shuffle em SinglePartition para melhorar o paralelismo
- [SPARK-40640] [SC-113138][core] SparkHadoopUtil para definir a origem das opções de configuração do hadoop/hive
- [SPARK-39062] [11.x][core] Adicionar suporte de agendamento de recursos em nível de estágio para cluster autônomo
- [FAÍSCA-33861] [SC-109877]Reverter "[SQL] Simplificar condicional no predicado"
- [SPARK-40667] [SC-113136][sql] Refatorar Opções de Fonte de Dados de Arquivo
- [SPARK-40370] [SC-110677][sql] A verificação de tipo de migração falha para classes de erro no CAST
-
[SPARK-40611] [SC-113105][sql] Melhorar o desempenho de
setIntervalegetIntervalparaUnsafeRow -
[SPARK-40733] [SC-113126][sql] Faça com que o conteúdo de
SERDEPROPERTIESno resultado deShowCreateTableAsSerdeCommandtenha uma ordem fixa - [SPARK-40585] [SC-112180][sql] Suporta identificadores de aspas duplas
-
[SPARK-40772] [SC-112992][sql] Melhorar
spark.sql.adaptive.skewJoin.skewedPartitionFactorpara suportarDoublevalores - [SPARK-40565] [SC-112417][sql] Não envie filtros não determinísticos para fontes de arquivo V2
- [SPARK-8731] [SC-112784] Beeline não funciona com a opção -e quando iniciado em segundo plano
- [SPARK-35242] [SC-111398][sql] Suporte à alteração do banco de dados padrão do catálogo de sessões
- [SPARK-40426] [SC-110672][sql] Retornar um mapa a partir de SparkThrowable.getMessageParameters
-
[SPARK-40494] [SC-112655][sc-111025][CORE][sql][ML][mllib] Otimize o desempenho do padrão de
keys.zipWithIndex.toMapcódigo - [SPARK-40521] [SC-112430][sql] Retornar apenas as partições existentes do comando de criação de partições do Hive
- [SPARK-40705] [SC-112567][sql] Lidar com o caso de usar matriz mutável ao converter Row para JSON para Scala 2.13
- [SPARK-39895] [SC-112590][sql][PYTHON] Suportar a remoção de várias colunas
- [SPARK-40607] [SC-112296][core][SQL][mllib][SS] Remover operações redundantes de interpolador de cadeia
- [SPARK-40420] [SC-112604][sc-110569][SQL] Ordenar parâmetros de mensagem de erro por nomes nos formatos JSON
- [SPARK-40403] [SC-110564][sql] Calcular o tamanho da matriz não segura usando longs para evitar o tamanho negativo na mensagem de erro
-
[SPARK-40482] [SC-110831][sql] Reverter
SPARK-24544 Print actual failure cause when look up function failed - [SPARK-40400] [SC-112555][sc-110397][SQL] Passar parâmetros de mensagem de erro para exceções como mapas
- [SPARK-40628] [SC-112414][sql] Não empurre a condição complexa de semijunção/antijunção esquerda na projeção
-
[SPARK-40562] [SC-111455][sql] Adicionar
spark.sql.legacy.groupingIdWithAppendedUserGroupBy - [SPARK-40501] [SC-111333][sql] Adicionar PushProjectionThroughLimit para Optimizer
- [SPARK-39200] [SC-111244][core] Fazer com que o armazenamento de fallback leia totalmente o conteúdo
- [SPARK-38717] [SC-111241][sql] Manipular o comportamento de preservação de caso de especificação de bucket do Hive
- [SPARK-40385] [SC-111123][sql] Corrigir caminho interpretado para construtor de objeto complementar
-
[SPARK-40216] [SC-112413][sql] Extraia o método comum
ParquetUtils.prepareWritepara desduplicar o código emParquetFileFormateParquetWrite - [SPARK-40636] [SC-112160][core] Corrigir registos incorretos de embaralhamentos restantes em BlockManagerDecommissioner
- [SPARK-40617] [SC-112009] Corrigir a condição de corrida no processamento das entradas stageTCMP do ExecutorMetricsPoller
- [SPARK-40618] [SC-112046][sql] Corrigir erro na regra de MergeScalarSubqueries com subconsultas aninhadas
- [SPARK-40612] [SC-111933][core] Corrigindo o principal usado para renovação de token de delegação em gerenciadores de recursos não-YARN
- [SPARK-40595] [SC-111662][sql] Melhorar a mensagem de erro para relações CTE não utilizadas
- [SPARK-40314] [SC-111879][sql][PYTHON] Adicione ligações scala e python para inline e inline_outer
- [SPARK-40416] [SC-110945][sql] Mover as mensagens de erro da expressão subquery do CheckAnalysis para usar a nova estrutura de erro
- [SPARK-40318] [SC-111865][sc-109986][SQL] try_avg() deve lançar as exceções de seu filho
- [SPARK-40509] [SC-111644][ss][PYTHON] Adicionar exemplo para applyInPandasWithState
- [SPARK-40310] [SC-111329][sc-109842][SQL] try_sum() deve lançar as exceções de seu filho
- [SPARK-40016] [SQL] Remover o TryEval desnecessário na implementação do try_sum()
- [SPARK-40527] [SC-111224][sql] Mantenha os nomes de campos da estrutura ou chaves de mapa no CreateStruct
- [SPARK-38098] [SC-111178][python] Adicionar suporte para ArrayType de StructType aninhado para conversão baseada em seta
- [SPARK-40324] [SC-111359][sc-110293][SQL] Fornecer contexto de consulta em AnalysisException
- [SPARK-40492] [SC-111324][ss] Faça manutenção antes de descarregar o StateStore do streaming
- [SPARK-40487] [SC-111124][sql] Tornar defaultJoin em BroadcastNestedLoopJoinExec em execução em simultâneo
- [SPARK-40474] [SC-111273][sql] Inferência de esquema CSV correta e comportamento de análise de dados em colunas com datas e carimbos de data/hora mistos
- [SPARK-40508] [SC-111066][sql] Tratar particionamento desconhecido como UnknownPartitioning
- [SPARK-40496] [SC-111234][sc-111013][SQL] Corrija as configurações para controlar "enableDateTimeParsingFallback"
- [SPARK-40435] [SC-111214][ss][PYTHON] Adicionar suítes de teste para applyInPandasWithState no PySpark
- [SPARK-40434] [SC-111125][ss][PYTHON] Implementar applyInPandasWithState no PySpark
Atualizações de manutenção
Consulte Atualizações de manutenção do Databricks Runtime 12.0.
Ambiente do sistema
- Sistema Operacional: Ubuntu 20.04.5 LTS
- Java: Zulu 8.64.0.19-CA-linux64
- Escala: 2.12.14
- Píton: 3.9.5
- R: 4.2.2
- Lago Delta: 2.2.0
Bibliotecas Python instaladas
| Biblioteca | Versão | Biblioteca | Versão | Biblioteca | Versão |
|---|---|---|---|---|---|
| Argônio2-CFFI | 21.3.0 | argon2-cffi-ligações | 21.2.0 | AstTokens | 2.0.5 |
| ATRs | 21.4.0 | Backcall | 0.2.0 | backports.pontos de entrada-selecionáveis | 1.2.0 |
| sopa bonita4 | 4.11.1 | preto | 22.3.0 | lixívia | 4.1.0 |
| Boto3 | 1.21.32 | Botocore | 1.24.32 | certifi | 2021.10.8 |
| CFFI | 1.15.0 | Chardet | 4.0.0 | Normalizador de Charset | 2.0.4 |
| clicar | 8.0.4 | criptografia | 3.4.8 | ciclista | 0.11.0 |
| Quisto | 0.29.28 | dbus-python | 1.2.16 | depuração | 1.5.1 |
| decorador | 5.1.1 | DeUsedXML | 0.7.1 | Distlib | 0.3.6 |
| pontos de entrada | 0.4 | execução | 0.8.3 | facetas-visão geral | 1.0.0 |
| fastjsonschema (biblioteca para validação rápida de esquemas JSON) | 2.16.2 | bloqueio de arquivo | 3.8.0 | Fonttools | 4.25.0 |
| IDNA | 3.3 | Ipykernel | 6.15.3 | IPython | 8.5.0 |
| ipython-genutils | 0.2.0 | ipywidgets | 7.7.2 | Jedi | 0.18.1 |
| Jinja2 | 2.11.3 | JmesPath | 0.10.0 | Joblib | 1.1.0 |
| jsonschema | 4.4.0 | jupyter-cliente | 6.1.12 | jupyter_core | 4.11.2 |
| Jupyterlab-Pygments | 0.1.2 | jupyterlab-widgets | 1.0.0 | Kiwisolver | 1.3.2 |
| Marcação Segura | 2.0.1 | Matplotlib | 3.5.1 | matplotlib-em linha | 0.1.2 |
| Mistune | 0.8.4 | mypy-extensões | 0.4.3 | nbclient | 0.5.13 |
| nbconvert | 6.4.4 | nbformat | 5.3.0 | Ninho-Asyncio | 1.5.5 |
| bloco de notas | 6.4.8 | dormência | 1.21.5 | embalagem | 21,3 |
| pandas | 1.4.2 | PandocFilters | 1.5.0 | Parso | 0.8.3 |
| PathSpec | 0.9.0 | vítima | 0.5.2 | Espere | 4.8.0 |
| pickleshare | 0.7.5 | Travesseiro | 9.0.1 | pip (o gestor de pacotes do Python) | 21.2.4 |
| plataformadirs | 2.5.4 | enredo | 5.6.0 | Prometheus-cliente | 0.13.1 |
| kit de ferramentas de prompt | 3.0.20 | Protobuf | 3.19.4 | PSUTIL | 5.8.0 |
| PSYCOPG2 | 2.9.3 | ptyprocess | 0.7.0 | puro-eval | 0.2.2 |
| Pyarrow | 7.0.0 | Pycparser | 2.21 | Pigmentos | 2.11.2 |
| PyGObject | 3.36.0 | Pyodbc | 4.0.32 | Pyparsing | 3.0.4 |
| pirsistent | 0.18.0 | python-dateutil (uma biblioteca de software para manipulação de datas em Python) | 2.8.2 | Pytz | 2021.3 |
| Pyzmq | 22.3.0 | pedidos | 2.27.1 | pedidos-unixsocket | 0.2.0 |
| s3transferir | 0.5.0 | scikit-learn (biblioteca de aprendizado de máquina em Python) | 1.0.2 | SciPy | 1.7.3 |
| nascido no mar | 0.11.2 | Enviar2Lixo | 1.8.0 | Ferramentas de configuração | 58.0.4 |
| seis | 1.16.0 | Soupsieve | 2.3.1 | ssh-import-id | 5.10 |
| dados de pilha | 0.2.0 | statsmodels (uma biblioteca de Python para modelos estatísticos) | 0.13.2 | tenacidade | 8.0.1 |
| terminado | 0.13.1 | caminho de teste | 0.5.0 | ThreadPoolCtl | 2.2.0 |
| tokenize-rt | 4.2.1 | Tomli | 1.2.2 | tornado | 6.1 |
| traços | 5.1.1 | typing_extensions (extensões de digitação) | 4.1.1 | Upgrades autônomos | 0.1 |
| urllib3 | 1.26.9 | virtualenv | 20.8.0 | largura de wc | 0.2.5 |
| WebEncodings | 0.5.1 | wheel | 0.37.0 | widgetsnbextension | 3.6.1 |
Bibliotecas R instaladas
As bibliotecas R são instaladas a partir do instantâneo da CRAN da Microsoft em 2022-11-11.
| Biblioteca | Versão | Biblioteca | Versão | Biblioteca | Versão |
|---|---|---|---|---|---|
| seta | 10.0.0 | AskPass | 1.1 | asserçãoat | 0.2.1 |
| Retroportagens | 1.4.1 | base | 4.2.2 | base64enc | 0.1-3 |
| pouco | 4.0.4 | bit64 | 4.0.5 | blob | 1.2.3 |
| arranque | 1.3-28 | fabricação de cerveja | 1.0-8 | Brio | 1.1.3 |
| vassoura | 1.0.1 | BSLIB | 0.4.1 | cachemira | 1.0.6 |
| Chamador | 3.7.3 | acento circunflexo | 6.0-93 | Cellranger | 1.1.0 |
| crono | 2.3-58 | classe | 7.3-20 | CLI | 3.4.1 |
| Clipr | 0.8.0 | relógio | 0.6.1 | cluster | 2.1.4 |
| CodeTools | 0.2-18 | espaço em cores | 2.0-3 | marca comum | 1.8.1 |
| compilador | 4.2.2 | configuração | 0.3.1 | CPP11 | 0.4.3 |
| lápis de cor | 1.5.2 | credenciais | 1.3.2 | encaracolar | 4.3.3 |
| tabela de dados | 1.14.4 | conjuntos de dados | 4.2.2 | DBI | 1.1.3 |
| DBPlyr | 2.2.1 | descrição | 1.4.2 | DevTools | 2.4.5 |
| diffobj | 0.3.5 | resumo | 0.6.30 | Iluminação reduzida | 0.4.2 |
| DPLYR | 1.0.10 | DTPlyr | 1.2.2 | E1071 | 1.7-12 |
| reticências | 0.3.2 | avaliar | 0,18 | Fãsi | 1.0.3 |
| Farver | 2.1.1 | mapa rápido | 1.1.0 | fontawesome | 0.4.0 |
| FORCATS | 0.5.2 | para cada | 1.5.2 | externa | 0.8-82 |
| forjar | 0.2.0 | FS | 1.5.2 | Futuro | 1.29.0 |
| futuro.apply | 1.10.0 | gargarejo | 1.2.1 | genérico | 0.1.3 |
| Gert | 1.9.1 | GGPLOT2 | 3.4.0 | GH | 1.3.1 |
| gitcreds | 0.1.2 | GLMNET | 4.1-4 | Globais | 0.16.1 |
| colar | 1.6.2 | GoogleDrive | 2.0.0 | googlesheets4 | 1.0.1 |
| Gower | 1.0.0 | gráficos | 4.2.2 | grDispositivos | 4.2.2 |
| grelha | 4.2.2 | gridExtra | 2.3 | GSUBFN | 0,7 |
| tabela g | 0.3.1 | capacete | 1.2.0 | Refúgio | 2.5.1 |
| mais alto | 0,9 | HMS | 1.1.2 | htmltools | 0.5.3 |
| htmlwidgets (componentes HTML interativos) | 1.5.4 | httpuv | 1.6.6 | HTTR | 1.4.4 |
| IDs | 1.0.1 | ini | 0.3.1 | ipred | 0.9-13 |
| Isoband | 0.2.6 | iteradores | 1.0.14 | jquerylib | 0.1.4 |
| jsonlite | 1.8.3 | KernSmooth | 2.23-20 | Knitr | 1.40 |
| etiquetagem | 0.4.2 | mais tarde | 1.3.0 | treliça | 0.20-45 |
| lave | 1.7.0 | ciclo de vida | 1.0.3 | ouvirv | 0.8.0 |
| lubridato | 1.9.0 | Magrittr | 2.0.3 | Marcação | 1.3 |
| MASSA | 7.3-58 | Matriz | 1.5-1 | memorização | 2.0.1 |
| métodos | 4.2.2 | MGCV | 1.8-41 | mímica | 0,12 |
| miniUI | 0.1.1.1 | ModelMetrics | 1.2.2.2 | Modelador | 0.1.9 |
| Munsell | 0.5.0 | NLME | 3.1-160 | NNET | 7.3-18 |
| numDeriv | 2016.8 a 1.1 | openssl (conjunto de ferramentas para criptografia) | 2.0.4 | paralelo | 4.2.2 |
| Paralelamente | 1.32.1 | pilar | 1.8.1 | pkgbuild | 1.3.1 |
| pkgconfig | 2.0.3 | pkgdown | 2.0.6 | pkgload | 1.3.1 |
| plogr | 0.2.0 | Plyr | 1.8.7 | elogiar | 1.0.0 |
| unidades bonitas | 1.1.1 | pROC | 1.18.0 | processx | 3.8.0 |
| Prodlim | 2019.11.13 | Profvis | 0.3.7 | Progresso | 1.2.2 |
| progressor | 0.11.0 | promessas | 1.2.0.1 | prototipo | 1.0.0 |
| proxy | 0.4-27 | PS | 1.7.2 | ronronar | 0.3.5 |
| r2d3 | 0.2.6 | R6 | 2.5.1 | RAGG | 1.2.4 |
| Floresta Aleatória | 4.7-1.1 | rappdirs | 0.3.3 | rcmdcheck | 1.4.0 |
| RColorBrewer | 1.1-3 | Rcpp | 1.0.9 | RcppEigen | 0.3.3.9.3 |
| Leitor | 2.1.3 | ReadXL | 1.4.1 | receitas | 1.0.3 |
| revanche | 1.0.1 | revanche2 | 2.1.2 | Controles remotos | 2.4.2 |
| Reprex | 2.0.2 | remodelar2 | 1.4.4 | Rlang | 1.0.6 |
| rmarkdown | 2.18 | RODBC | 1.3-19 | oxigénio2 | 7.2.1 |
| rpart (função de partição recursiva em R) | 4.1.19 | rprojroot | 2.0.3 | Reserva | 1.8-11 |
| RSQLite | 2.2.18 | rstudioapi | 0.14 | rversões | 2.1.2 |
| Rvest | 1.0.3 | Sass | 0.4.2 | escalas | 1.2.1 |
| seletor | 0.4-2 | Informação da sessão | 1.2.2 | forma | 1.4.6 |
| brilhante | 1.7.3 | ferramentas de origem | 0.1.7 | Brilho | 1.7.8 |
| Faísca | 3.3.1 | espacial | 7.3-11 | estrias | 4.2.2 |
| sqldf | 0.4-11 | QUADRADO | 2021.1 | estatísticas | 4.2.2 |
| estatísticas4 | 4.2.2 | string | 1.7.8 | stringr | 1.4.1 |
| sobrevivência | 3.4-0 | Sistema | 3.4.1 | fontes do sistema | 1.0.4 |
| tcltk (uma linguagem de programação) | 4.2.2 | testeatat | 3.1.5 | formatação de texto | 0.3.6 |
| Tibble | 3.1.8 | Tidyr | 1.2.1 | arrumadoselecionar | 1.2.0 |
| Tidyverse | 1.3.2 | mudança de hora | 0.1.1 | data e hora | 4021.106 |
| Tinytex | 0.42 | ferramentas | 4.2.2 | TZDB | 0.3.0 |
| verificador de URL | 1.0.1 | usethis | 2.1.6 | UTF8 | 1.2.2 |
| utilitários | 4.2.2 | Identificador Único Universal (UUID) | 1.1-0 | VCTRS | 0.5.0 |
| viridisLite | 0.4.1 | vruum | 1.6.0 | Waldo | 0.4.0 |
| vibrissas | 0.4 | murchar | 2.5.0 | xfun | 0.34 |
| XML2 | 1.3.3 | xopen | 1.0.0 | xtable | 1.8-4 |
| yaml | 2.3.6 | ZIP | 2.2.2 |
Bibliotecas Java e Scala instaladas (versão de cluster Scala 2.12)
| ID do Grupo | ID do Artefacto | Versão |
|---|---|---|
| Antlr | Antlr | 2.7.7 |
| com.amazonaws | Amazon Kinesis Client | 1.12.0 |
| com.amazonaws | aws-java-sdk-autoscaling (SDK de Java da AWS - escalonamento automático) | 1.12.189 |
| com.amazonaws | AWS-Java-SDK-CloudFormation | 1.12.189 |
| com.amazonaws | aws-java-sdk-cloudfront | 1.12.189 |
| com.amazonaws | aws-java-sdk-cloudhsm | 1.12.189 |
| com.amazonaws | AWS Java SDK para CloudSearch | 1.12.189 |
| com.amazonaws | aws-java-sdk-cloudtrail | 1.12.189 |
| com.amazonaws | aws-java-sdk-cloudwatch | 1.12.189 |
| com.amazonaws | aws-java-sdk-cloudwatchmetrics | 1.12.189 |
| com.amazonaws | aws-java-sdk-codedeploy | 1.12.189 |
| com.amazonaws | aws-java-sdk-cognitoidentity | 1.12.189 |
| com.amazonaws | aws-java-sdk-cognitosync | 1.12.189 |
| com.amazonaws | aws-java-sdk-config (configuração do AWS Java SDK) | 1.12.189 |
| com.amazonaws | aws-java-sdk-core | 1.12.189 |
| com.amazonaws | aws-java-sdk-datapipeline | 1.12.189 |
| com.amazonaws | aws-java-sdk-directconnect | 1.12.189 |
| com.amazonaws | aws-java-sdk-diretório | 1.12.189 |
| com.amazonaws | aws-java-sdk-dynamodb | 1.12.189 |
| com.amazonaws | aws-java-sdk-ec2 | 1.12.189 |
| com.amazonaws | aws-java-sdk-ecs | 1.12.189 |
| com.amazonaws | aws-java-sdk-efs | 1.12.189 |
| com.amazonaws | aws-java-sdk-elasticache (kit de desenvolvimento de software Java para Elasticache da AWS) | 1.12.189 |
| com.amazonaws | aws-java-sdk-elasticbeanstalk (SDK Java para Elastic Beanstalk da AWS) | 1.12.189 |
| com.amazonaws | aws-java-sdk-elasticloadbalancing (SDK Java para equilíbrio de carga elástico da AWS) | 1.12.189 |
| com.amazonaws | aws-java-sdk-elastictranscoder | 1.12.189 |
| com.amazonaws | aws-java-sdk-emr | 1.12.189 |
| com.amazonaws | aws-java-sdk-glacier (Biblioteca de armazenamento Glacier da AWS) | 1.12.189 |
| com.amazonaws | aws-java-sdk-glue | 1.12.189 |
| com.amazonaws | aws-java-sdk-iam | 1.12.189 |
| com.amazonaws | aws-java-sdk-importexport | 1.12.189 |
| com.amazonaws | aws-java-sdk-kinesis | 1.12.189 |
| com.amazonaws | aws-java-sdk-kms | 1.12.189 |
| com.amazonaws | aws-java-sdk-lambda | 1.12.189 |
| com.amazonaws | aws-java-sdk-logs | 1.12.189 |
| com.amazonaws | aws-java-sdk-aprendizado de máquina | 1.12.189 |
| com.amazonaws | aws-java-sdk-opsworks | 1.12.189 |
| com.amazonaws | aws-java-sdk-rds | 1.12.189 |
| com.amazonaws | aws-java-sdk-redshift | 1.12.189 |
| com.amazonaws | aws-java-sdk-rota53 | 1.12.189 |
| com.amazonaws | aws-java-sdk-s3 | 1.12.189 |
| com.amazonaws | AWS Java SDK para SES | 1.12.189 |
| com.amazonaws | aws-java-sdk-simpledb | 1.12.189 |
| com.amazonaws | aws-java-sdk-simpleworkflow | 1.12.189 |
| com.amazonaws | aws-java-sdk-sns | 1.12.189 |
| com.amazonaws | aws-java-sdk-sqs | 1.12.189 |
| com.amazonaws | aws-java-sdk-ssm | 1.12.189 |
| com.amazonaws | aws-java-sdk-storagegateway (SDK da AWS para Storage Gateway em Java) | 1.12.189 |
| com.amazonaws | AWS-Java-SDK-STS | 1.12.189 |
| com.amazonaws | aws-java-sdk-suporte | 1.12.189 |
| com.amazonaws | aws-java-sdk-swf-bibliotecas | 1.11.22 |
| com.amazonaws | aws-java-sdk-workspaces | 1.12.189 |
| com.amazonaws | jmespath-java | 1.12.189 |
| com.chuusai | shapeless_2.12 | 2.3.3 |
| com.clearspring.analytics | fluxo | 2.9.6 |
| com.databricks | Reserva | 1.8-3 |
| com.databricks | Jatos 3T | 0.7.1-0 |
| com.databricks.scalapb | compilerplugin_2.12 | 0.4.15-10 |
| com.databricks.scalapb | scalapb-runtime_2,12 | 0.4.15-10 |
| com.esotericsoftware | sombreado de kryo | 4.0.2 |
| com.esotericsoftware | Minlog | 1.3.0 |
| com.fasterxml | colega de turma | 1.3.4 |
| com.fasterxml.jackson.core | jackson-anotações | 2.13.4 |
| com.fasterxml.jackson.core | Jackson-Core | 2.13.4 |
| com.fasterxml.jackson.core | jackson-databind | 2.13.4.2 |
| com.fasterxml.jackson.dataformat | jackson-dataformat-cbor | 2.13.4 |
| com.fasterxml.jackson.datatype | jackson-datatype-joda | 2.13.4 |
| com.fasterxml.jackson.datatype | jackson-datatype-jsr310 | 2.13.4 |
| com.fasterxml.jackson.module | jackson-módulo-paranamer | 2.13.4 |
| com.fasterxml.jackson.module | jackson-módulo-scala_2.12 | 2.13.4 |
| com.github.ben-manes.cafeína | cafeína | 2.3.4 |
| com.github.fommil | Jniloader | 1.1 |
| com.github.fommil.netlib | núcleo | 1.1.2 |
| com.github.fommil.netlib | native_ref-Java | 1.1 |
| com.github.fommil.netlib | native_ref-java-nativos | 1.1 |
| com.github.fommil.netlib | sistema_nativo-Java | 1.1 |
| com.github.fommil.netlib | native_system-java-nativos | 1.1 |
| com.github.fommil.netlib | netlib-native_ref-linux-x86_64-nativos | 1.1 |
| com.github.fommil.netlib | netlib-native_system-linux-x86_64-nativos | 1.1 |
| com.github.luben | ZSTD-JNI | 1.5.2-1 |
| com.github.wendykierp | JTransforms | 3.1 |
| com.google.code.findbugs | JSR305 | 3.0.0 |
| com.google.code.gson | Gson | 2.8.6 |
| com.google.crypto.tink | Tink | 1.6.1 |
| com.google.flatbuffers | flatbuffers-java | 1.12.0 |
| com.google.goiaba | Goiaba | 15,0 |
| com.google.protobuf | protobuf-java | 2.6.1 |
| com.h2banco de dados | h2 | 2.0.204 |
| com.helger | gerador de perfis | 1.1.1 |
| com.jcraft | JSCH | 0.1.50 |
| com.jolbox | BoneCP | 0.8.0.LANÇAMENTO |
| com.lihaoyi | código-fonte_2.12 | 0.1.9 |
| com.microsoft.azure | azure-data-lake-store-sdk (SDK para Azure Data Lake Store) | 2.3.9 |
| com.ning | compressa-lzf | 1.1 |
| com.sun.mail | javax.mail | 1.5.2 |
| com.tdunning | Json | 1.8 |
| com.thoughtworks.paranamer | paranamer | 2.8 |
| com.trueaccord.lenses | lentes_2.12 | 0.4.12 |
| com.twitter | Chill-java | 0.10.0 |
| com.twitter | chill_2.12 | 0.10.0 |
| com.twitter | util-app_2.12 | 7.1.0 |
| com.twitter | util-core_2.12 | 7.1.0 |
| com.twitter | util-function_2.12 | 7.1.0 |
| com.twitter | util-jvm_2.12 | 7.1.0 |
| com.twitter | util-lint_2.12 | 7.1.0 |
| com.twitter | util-registry_2.12 | 7.1.0 |
| com.twitter | util-stats_2.12 | 7.1.0 |
| com.typesafe | configuração | 1.2.1 |
| com.typesafe.scala-logging | Escala-logging_2.12 | 3.7.2 |
| com.uber | h3 | 3.7.0 |
| com.univocidade | analisadores de univocidade | 2.9.1 |
| com.zaxxer | HikariCP | 4.0.3 |
| commons-cli | commons-cli | 1.5.0 |
| codec commons | codec commons | 1,15 |
| Commons Collections | Commons Collections | 3.2.2 |
| commons-dbcp | commons-dbcp | 1.4 |
| commons-fileupload (upload de ficheiros comuns) | commons-fileupload (upload de ficheiros comuns) | 1.3.3 |
| commons-httpclient | commons-httpclient | 3.1 |
| commons-io | commons-io | 2.11.0 |
| commons-lang | commons-lang | 2.6 |
| registo de comuns | registo de comuns | 1.1.3 |
| commons-pool | commons-pool | 1.5.4 |
| dev.ludovic.netlib | ARPACK | 2.2.1 |
| dev.ludovic.netlib | Blas | 2.2.1 |
| dev.ludovic.netlib | Lapack | | 2.2.1 |
| info.ganglia.gmetric4j | gmetric4j | 1.0.10 |
| io.ponte aérea | compressor de ar | 0.21 |
| IO.Delta | delta-compartilhamento-spark_2.12 | 0.5.2 |
| io.dropwizard.metrics | métricas-base | 4.1.1 |
| io.dropwizard.metrics | métricas-grafite | 4.1.1 |
| io.dropwizard.metrics | métricas e verificações de saúde | 4.1.1 |
| io.dropwizard.metrics | métricas-jetty9 | 4.1.1 |
| io.dropwizard.metrics | métricas-jmx | 4.1.1 |
| io.dropwizard.metrics | métricas-json | 4.1.1 |
| io.dropwizard.metrics | métricas do JVM | 4.1.1 |
| io.dropwizard.metrics | Métricas-Servlets | 4.1.1 |
| io.netty | netty-tudo | 4.1.74.Final |
| io.netty | netty-buffer | 4.1.74.Final |
| io.netty | netty-codec | 4.1.74.Final |
| io.netty | netty-comum | 4.1.74.Final |
| io.netty | netty-manipulador | 4.1.74.Final |
| io.netty | netty-resolver (resolução do Netty) | 4.1.74.Final |
| io.netty | netty-tcnative-classes | 2.0.48.Final |
| io.netty | transporte de rede | 4.1.74.Final |
| io.netty | netty-transport-classes-epoll | 4.1.74.Final |
| io.netty | netty-transport-classes-kqueue | 4.1.74.Final |
| io.netty | netty-transport-native-epoll-linux-aarch_64 | 4.1.74.Final |
| io.netty | netty-transport-native-epoll-linux-x86_64 | 4.1.74.Final |
| io.netty | netty-transport-native-kqueue-osx-aarch_64 | 4.1.74.Final |
| io.netty | netty-transport-native-kqueue-osx-x86_64 | 4.1.74.Final |
| io.netty | netty-transport-nativo-unix-comum | 4.1.74.Final |
| io.prometeu | cliente simples | 0.7.0 |
| io.prometeu | simpleclient_comum | 0.7.0 |
| io.prometeu | simpleclient_dropwizard | 0.7.0 |
| io.prometeu | simpleclient_pushgateway | 0.7.0 |
| io.prometeu | simpleclient_servlet | 0.7.0 |
| io.prometheus.jmx | recoletor | 0.12.0 |
| jacarta.anotação | Jacarta.Anotação-API | 1.3.5 |
| jacarta.servlet | jacarta.servlet-api | 4.0.3 |
| jacarta.validação | Jacarta.validation-api | 2.0.2 |
| jakarta.ws.rs | Jacarta.ws.rs-api | 2.1.6 |
| javax.ativação | ativação | 1.1.1 |
| javax.el | javax.el-api | 2.2.4 |
| javax.jdo | JDO-API | 3.0.1 |
| javax.transaction | JTA | 1.1 |
| javax.transaction | API de transação | 1.1 |
| javax.xml.bind | JAXB-API | 2.2.11 |
| Javolution | Javolution | 5.5.1 |
| Jline | Jline | 2.14.6 |
| Joda-Time | Joda-Time | 2.10.13 |
| net.java.dev.jna | JNA | 5.8.0 |
| net.razorvine | picles | 1.2 |
| net.sf.jpam | JPAM | 1.1 |
| net.sf.opencsv | OpenCSV | 2.3 |
| net.sf.supercsv | Super-CSV | 2.2.0 |
| net.floco de neve | flocos de neve-ingestão-sdk | 0.9.6 |
| net.floco de neve | Flocos de Neve-JDBC | 3.13.22 |
| net.sourceforge.f2j | arpack_combinado_tudo | 0.1 |
| org.acplt.remotetea | Remotetea-oncrpc | 1.1.2 |
| org.antlr | ST4 | 4.0.4 |
| org.antlr | ANTLR Runtime | 3.5.2 |
| org.antlr | antlr4-tempo de execução | 4.8 |
| org.antlr | StringTemplate | 3.2.1 |
| org.apache.ant | formiga | 1.9.2 |
| org.apache.ant | ANT-JSCH | 1.9.2 |
| org.apache.ant | lançador de formigas | 1.9.2 |
| org.apache.arrow | formato de seta | 7.0.0 |
| org.apache.arrow | seta-memória-núcleo | 7.0.0 |
| org.apache.arrow | seta-memória-netty | 7.0.0 |
| org.apache.arrow | vetor de seta | 7.0.0 |
| org.apache.avro | Avro | 1.11.0 |
| org.apache.avro | AVRO-IPC | 1.11.0 |
| org.apache.avro | avro-mapeado | 1.11.0 |
| org.apache.commons | colecções-commons4 | 4.4 |
| org.apache.commons | commons-comprimir | 1.21 |
| org.apache.commons | commons-cripto | 1.1.0 |
| org.apache.commons | commons-lang3 | 3.12.0 |
| org.apache.commons | commons-matemática3 | 3.6.1 |
| org.apache.commons | commons-texto | 1.10.0 |
| org.apache.curador | curador-cliente | 2.13.0 |
| org.apache.curador | curador-framework | 2.13.0 |
| org.apache.curador | curador-receitas | 2.13.0 |
| org.apache.derby | Dérbi | 10.14.2.0 |
| org.apache.hadoop | hadoop-client-api (API do cliente Hadoop) | 3.3.4-DATABRICKS |
| org.apache.hadoop | tempo de execução do cliente Hadoop | 3.3.4 |
| org.apache.hive | colmeia-abelha | 2.3.9 |
| org.apache.hive | Hive-CLI | 2.3.9 |
| org.apache.hive | Hive-JDBC | 2.3.9 |
| org.apache.hive | hive-llap-cliente | 2.3.9 |
| org.apache.hive | colmeia-lamp-comum | 2.3.9 |
| org.apache.hive | Colmeia-Serde | 2.3.9 |
| org.apache.hive | colmeias-calços | 2.3.9 |
| org.apache.hive | API de armazenamento Hive | 2.7.2 |
| org.apache.hive.shims | colmeia-calços-0,23 | 2.3.9 |
| org.apache.hive.shims | colmeia-calços-comum | 2.3.9 |
| org.apache.hive.shims | colmeia-shims-scheduler | 2.3.9 |
| org.apache.httpcomponents | httpclient | 4.5.13 |
| org.apache.httpcomponents | Núcleo Http | 4.4.14 |
| org.apache.ivy | hera | 2.5.0 |
| org.apache.logging.log4j | log4j-1.2-api | 2.18.0 |
| org.apache.logging.log4j | log4j-api | 2.18.0 |
| org.apache.logging.log4j | log4j-core | 2.18.0 |
| org.apache.logging.log4j | log4j-slf4j-impl | 2.18.0 |
| org.apache.mesos | mesos-sombreado-protobuf | 1.4.0 |
| org.apache.orc | orc-núcleo | 1.7.6 |
| org.apache.orc | orc-mapreduce | 1.7.6 |
| org.apache.orc | Orc-calços | 1.7.6 |
| org.apache.parquet | parquet-coluna | 1.12.3-databricks-0001 |
| org.apache.parquet | parquet-comum | 1.12.3-databricks-0001 |
| org.apache.parquet | codificação-parquet | 1.12.3-databricks-0001 |
| org.apache.parquet | parquet-formato-estruturas | 1.12.3-databricks-0001 |
| org.apache.parquet | Parquet-Hadoop | 1.12.3-databricks-0001 |
| org.apache.parquet | Parquet-Jackson | 1.12.3-databricks-0001 |
| org.apache.thrift | libfb303 | 0.9.3 |
| org.apache.thrift | libthrift | 0.12.0 |
| org.apache.xbean | xbean-asm9-sombreado | 4.20 |
| org.apache.yetus | anotações de audiência | 0.13.0 |
| org.apache.zookeeper | cuidador de zoológico | 3.6.2 |
| org.apache.zookeeper | zookeeper-juta | 3.6.2 |
| org.checkerframework | verificador-qual | 3.5.0 |
| org.codehaus.jackson | jackson-core-asl | 1.9.13 |
| org.codehaus.jackson | jackson-mapper-ASL | 1.9.13 |
| org.codehaus.janino | compilador comum | 3.0.16 |
| org.codehaus.janino | Janino | 3.0.16 |
| org.datanucleus | datanucleus-api-jdo | 4.2.4 |
| org.datanucleus | DataNucleus Core | 4.1.17 |
| org.datanucleus | Datanucleus-RDBMS | 4.1.19 |
| org.datanucleus | javax.jdo | 3.2.0-m3 |
| org.eclipse.píer | Jetty-Cliente | 9.4.46.v20220331 |
| org.eclipse.píer | jetty-continuation (componente de software do Jetty) | 9.4.46.v20220331 |
| org.eclipse.píer | Jetty-HTTP | 9.4.46.v20220331 |
| org.eclipse.píer | Molhe IO | 9.4.46.v20220331 |
| org.eclipse.píer | Cais-JNDI | 9.4.46.v20220331 |
| org.eclipse.píer | Cais-Plus | 9.4.46.v20220331 |
| org.eclipse.píer | Jetty-Proxy | 9.4.46.v20220331 |
| org.eclipse.píer | Segurança do Jetty | 9.4.46.v20220331 |
| org.eclipse.píer | servidor jetty | 9.4.46.v20220331 |
| org.eclipse.píer | Jetty-servlet | 9.4.46.v20220331 |
| org.eclipse.píer | Jetty-servlets | 9.4.46.v20220331 |
| org.eclipse.píer | Jetty-util | 9.4.46.v20220331 |
| org.eclipse.píer | cais-util-ajax | 9.4.46.v20220331 |
| org.eclipse.píer | Aplicação web Jetty | 9.4.46.v20220331 |
| org.eclipse.píer | Jetty-XML | 9.4.46.v20220331 |
| org.eclipse.jetty.websocket | API WebSocket | 9.4.46.v20220331 |
| org.eclipse.jetty.websocket | Websocket-cliente | 9.4.46.v20220331 |
| org.eclipse.jetty.websocket | Websocket-Comum | 9.4.46.v20220331 |
| org.eclipse.jetty.websocket | servidor websocket | 9.4.46.v20220331 |
| org.eclipse.jetty.websocket | Websocket-servlet | 9.4.46.v20220331 |
| org.fusesource.leveldbjni | leveldbjni-all | 1.8 |
| org.glassfish.hk2 | HK2-API | 2.6.1 |
| org.glassfish.hk2 | localizador hk2 | 2.6.1 |
| org.glassfish.hk2 | HK2-Utils | 2.6.1 |
| org.glassfish.hk2 | localizador de recursos OSGi | 1.0.3 |
| org.glassfish.hk2.externo | aopalliance-reembalado | 2.6.1 |
| org.glassfish.hk2.externo | jacarta.inject | 2.6.1 |
| org.glassfish.jersey.containers | jersey-container-servlet (serviço de contêiner Jersey) | 2,36 |
| org.glassfish.jersey.containers | jersey-container-servlet-core | 2,36 |
| org.glassfish.jersey.core | jersey-cliente | 2,36 |
| org.glassfish.jersey.core | Jersey comum | 2,36 |
| org.glassfish.jersey.core | servidor de jersey | 2,36 |
| org.glassfish.jersey.inject | Jersey-HK2 | 2,36 |
| org.hibernate.validator | hibernate-validator (ferramenta de validação de dados de Java) | 6.1.0.Final |
| org.javassist | Javassist | 3.25.0-GA |
| org.jboss.logging | jboss-registro em log | 3.3.2.Final |
| org.jdbi | JDBI | 2.63.1 |
| org.jetbrains | anotações | 17.0.0 |
| org.joda | joda-converter | 1.7 |
| org.jodd | JODD-CORE | 3.5.2 |
| org.json4s | JSON4S-ast_2.12 | 3.7.0-M11 |
| org.json4s | JSON4S-core_2.12 | 3.7.0-M11 |
| org.json4s | JSON4S-jackson_2,12 | 3.7.0-M11 |
| org.json4s | JSON4S-scalap_2.12 | 3.7.0-M11 |
| org.lz4 | LZ4-Java | 1.8.0 |
| org.mariadb.jdbc | mariadb-java-cliente | 2.7.4 |
| org.mlflow | MLFLOW-Faísca | 1.27.0 |
| org.objenesis | objenese | 2.5.1 |
| org.postgresql | PostgreSQL | 42.3.3 |
| org.roaringbitmap | RoaringBitmap | 0.9.25 |
| org.roaringbitmap | calços | 0.9.25 |
| org.rocksdb | rocksdbjni | 6.24.2 |
| org.rosuda.REngine | REngine | 2.1.0 |
| org.scala-lang | Escala-compiler_2.12 | 2.12.14 |
| org.scala-lang | Escala-library_2.12 | 2.12.14 |
| org.scala-lang | Escala-reflect_2,12 | 2.12.14 |
| org.scala-lang.modules | scala-coleção-compat_2.12 | 2.4.3 |
| org.scala-lang.modules | scala-parser-combinators_2.12 | 1.1.2 |
| org.scala-lang.modules | Escala-xml_2.12 | 1.2.0 |
| org.scala-sbt | interface de teste | 1.0 |
| org.scalacheck | scalacheck_2.12 | 1.14.2 |
| org.scalactic | scalactic_2.12 | 3.0.8 |
| org.scalanlp | Brisa-macros_2.12 | 1.2 |
| org.scalanlp | breeze_2.12 | 1.2 |
| org.scalatest | scalatest_2.12 | 3.0.8 |
| org.slf4j | jcl-compatível-com-slf4j | 1.7.36 |
| org.slf4j | jul-para-slf4j | 1.7.36 |
| org.slf4j | SLF4J-API | 1.7.36 |
| org.spark-project.spark | não utilizado | 1.0.0 |
| org.threeten | trêsdez-extra | 1.5.0 |
| org.tukaani | XZ | 1.8 |
| org.typelevel | algebra_2.12 | 2.0.1 |
| org.typelevel | gatos-kernel_2.12 | 2.1.1 |
| org.typelevel | macro-compat_2.12 | 1.1.1 |
| org.typelevel | torre-macros_2.12 | 0.17.0 |
| org.typelevel | torre-platform_2.12 | 0.17.0 |
| org.typelevel | torre-util_2.12 | 0.17.0 |
| org.typelevel | spire_2.12 | 0.17.0 |
| org.wildfly.openssl | mosca-selvagem-openssl | 1.0.7.Final |
| org.xerial | SQLITE-JDBC | 3.8.11.2 |
| org.xerial.snappy | Snappy-java | 1.1.8.4 |
| org.yaml | Snakeyaml | 1,24 |
| ouro | ouro | 2.0.8 |
| pl.edu.icm | JLargeArrays | 1.5 |
| software.amazon.ion | íon-java | 1.0.2 |
| Stax | Stax-API | 1.0.1 |