Retirar ou substituir uma mesa

O Azure Databricks dá suporte a comandos DDL padrão do SQL para descartar e substituir tabelas registradas no Catálogo Unity ou no metastore do Hive. Este artigo apresenta exemplos de eliminação e substituição de tabelas e recomendações de sintaxe dependendo do ambiente configurado e do resultado desejado.

Quando eliminar uma tabela

Você deve usar DROP TABLE para remover uma tabela do metastore quando quiser excluir permanentemente a tabela e não tiver intenção de criar uma nova tabela no mesmo local. Por exemplo:

DROP TABLE table_name

DROP TABLE tem semânticas diferentes, dependendo do tipo de tabela e se a tabela está registrada no Unity Catalog ou no metastore herdado do Hive.

DROP TABLE A semântica varia entre tipos de tabelas, e o Unity Catalog mantém um histórico de tabelas usando um ID interno de tabela. No entanto, todas as tabelas compartilham o resultado comum de que, após a conclusão da operação, o nome da tabela registrada anteriormente não tem mais um link ativo para dados e histórico de tabelas do metastore.

Ver DROP TABLE.

Quando substituir uma tabela

O Databricks recomenda o uso de instruções CREATE OR REPLACE TABLE para casos de uso em que você deseja substituir totalmente a tabela de destino por novos dados. Por exemplo, para sobrescrever uma tabela com todos os dados de um diretório Parquet, pode executar o seguinte comando:

CREATE OR REPLACE TABLE table_name
AS SELECT * FROM parquet.`/path/to/files`

CREATE OR REPLACE TABLE tem a mesma semântica, independentemente do tipo de tabela ou metastore em uso. As seguintes são vantagens importantes de CREATE OR REPLACE TABLE:

• O conteúdo da tabela é substituído, mas a identidade da tabela é mantida.
• O histórico da tabela é mantido e você pode reverter a tabela para uma versão anterior com o comando RESTORE.
• A operação é uma única transação, portanto, nunca há um momento em que a tabela não exista.
• A leitura simultânea de consultas da tabela pode continuar sem interrupção. Como a versão antes e depois da substituição ainda existe no histórico da tabela, consultas simultâneas podem fazer referência a qualquer versão da tabela, conforme necessário.
• Se a tabela original incluísse máscaras de coluna, essas máscaras seriam mantidas para quaisquer colunas que ainda existissem na nova tabela. Isso garante que as políticas de acesso aos dados sejam preservadas.

Ver CREATE TABLE [USING].

Substituir dados por operações simultâneas

Sempre que desejar executar uma substituição completa de dados em uma tabela que possa ser usada em operações simultâneas, você deverá usar CREATE OR REPLACE TABLE.

O seguinte anti-padrão não deve ser usado:

-- This is an anti-pattern. Avoid doing this!
DROP TABLE IF EXISTS table_name;

CREATE TABLE table_name
AS SELECT * FROM parquet.`/path/to/files`;

As razões para esta recomendação variam dependendo de se está a usar tabelas controladas ou externas e se está a usar o Unity Catalog, mas em todos os tipos de tabelas este padrão pode resultar em erro, registos perdidos ou resultados corrompidos.

Em vez disso, o Databricks recomenda sempre usar CREATE OR REPLACE TABLEo , como no exemplo a seguir:

CREATE OR REPLACE TABLE table_name
AS SELECT * FROM parquet.`/path/to/files`

Como o histórico da tabela é mantido durante a substituição de dados atômicos, as transações simultâneas podem validar a versão da tabela de origem referenciada e, portanto, falhar ou reconciliar transações simultâneas conforme necessário sem introduzir comportamento ou resultados inesperados.