Imagem

A fonte de dados de imagem abstrai dos detalhes das representações de imagem e fornece uma API padrão para carregar dados de imagem. Para ler arquivos de imagem, especifique a fonte de dados format como image.

df = spark.read.format("image").load("<path-to-image-data>")

Existem APIs semelhantes para Scala, Java e R.

Você pode importar uma estrutura de diretórios aninhadas (por exemplo, usar um caminho como /path/to/dir/) e usar a descoberta de partição especificando um caminho com um diretório de partição (ou seja, um caminho como /path/to/dir/date=2018-01-02/category=automobile).

Estrutura da imagem

Os arquivos de imagem são carregados como um DataFrame que contém uma única coluna de tipo “struct” chamada image com os seguintes campos:

image: struct containing all the image data
  |-- origin: string representing the source URI
  |-- height: integer, image height in pixels
  |-- width: integer, image width in pixels
  |-- nChannels
  |-- mode
  |-- data

em que os campos são:

• nChannels: o número de canais de cores. Os valores típicos são 1 para imagens em escala de cinza, 3 para imagens coloridas (por exemplo, RGB) e 4 para imagens coloridas com canal alfa.

• mode: sinalizador de inteiro que indica como interpretar o campo de dados. Especifica o tipo de dados e a ordem de canal em que os dados são armazenados. É esperado (mas não imposto) que o valor do campo seja mapeado para um dos tipos OpenCV exibidos na tabela a seguir. Os tipos OpenCV são definidos para 1, 2, 3 ou 4 canais e vários tipos de dados para os valores de pixel. A ordem do canal especifica a ordem de armazenamento das cores. Por exemplo, se você tiver uma imagem típica de três canais com componentes vermelhos, azuis e verdes, haverá seis ordenações possíveis. A maioria das bibliotecas usa RGB ou BGR. Três (quatro) tipos OpenCV de canal devem estar na ordem BGR(A).

  Mapa de Tipo para Números no OpenCV (tipos de dados x número de canais)

• data: Dados de imagem armazenados em formato binário. Os dados de imagem são representados como matriz tridimensional com a forma da dimensão (altura, largura, nChannels) e valores de matriz do tipo t especificados pelo campo de modo. A matriz é armazenada em ordem de linha principal.

Exibir dados de imagem

A função display do Databricks oferece suporte à exibição de dados de imagem. Consulte Imagens.

Exemplo de Notebook: leitura e gravação de dados em arquivos de imagem

O notebook a seguir mostra como ler e gravar dados em arquivos de imagem.

Imagem de notebook da fonte de dados

Obter notebook

Limitações da fonte de dados da imagem

A fonte de dados de imagem decodifica os arquivos de imagem durante a criação do DataFrame do Spark, aumenta o tamanho dos dados e traz limitações nos seguintes cenários:

1. Manter o DataFrame: se você quiser manter o DataFrame em uma tabela Delta para facilitar o acesso, deverá manter os bytes brutos em vez d e decodificados, para economizar espaço em disco.
2. Embaralhar as partições: embaralhar os dados de imagem decodificados requer mais espaço em disco e largura de banda de rede, o que resulta em embaralhamento mais lento. Você deve atrasar a decodificação da imagem o máximo possível.
3. Escolha de outro método de decodificação: a fonte de dados de imagem usa a biblioteca de E/S de Imagem do javax para decodificar a imagem, o que impede a escolha de outras bibliotecas de decodificação de imagem para melhorar o desempenho ou a implementação de uma lógica de decodificação personalizada.

Essas limitações podem ser evitadas com o uso da fonte de dados de arquivo binário para carregar dados de imagem e a decodificação somente conforme necessário.