DLT versão 2022.37

14 a 22 de setembro de 2022

Esses recursos e melhorias foram lançados com a versão 2022.37 do DLT.

Versões do Databricks Runtime usadas por esta versão

Channel:

• ATUAL (padrão): Databricks Runtime 10.3.7
• PRÉ-VISUALIZAÇÃO: Databricks Runtime 11.0.5

Novos recursos e melhorias nesta versão

• A solicitação de API de atualização inicial agora retorna o campo request_id no corpo da resposta. O request_id é um identificador estável para a solicitação original que inicia a atualização. Se uma atualização for repetida ou reiniciada, a nova atualização herdará o request_id.

{
  "update_id": "the ID of the update that was started",
  "request_id": "The ID of the request that started this update"
}

A nova solicitação de API requests (GET /pipelines/{pipeline_id}/requests/{request_id}) retorna o status da atualização de pipeline associada a request_id. A resposta inclui informações sobre a atualização mais recente.

{
  "status": "ACTIVE",
  "latest_update": {}
}

• O seu código Python agora pode chamar operações spark.sql fora das funções dlt.table() ou dlt.view(), desde que a operação não esteja a ler de uma vista materializada ou tabela em fluxo.

• As entradas do log de eventos agora contêm a propriedade maturity para indicar a estabilidade do esquema de eventos. Os valores possíveis são stable, evolvinge deprecated. Para obter mais informações sobre o log de eventos DLT, consulte Pipeline event log.

• A mensagem de erro é melhorada quando são feitas alterações incompatíveis nas tabelas de origem utilizadas por uma tabela de streaming.

• Agora você pode selecionar uma política de cluster na interface do usuário DLT ao criar ou editar um pipeline. Anteriormente, a definição da política de cluster para um pipeline exigia a edição das configurações JSON do pipeline.

• Inicialização de pipeline mais rápida. Esta versão inclui aprimoramentos que aceleram a etapa SETTING_UP_TABLES quando um pipeline é iniciado.

Correções de bugs nesta versão

• Esta versão corrige um bug que impede que o dimensionamento automático avançado aumente quando não há instâncias de cluster ociosas disponíveis.