Partilhar via


Tutorial: Analisar dependências funcionais em um modelo semântico

Neste tutorial, você aproveita o trabalho de um analista do Power BI armazenado como modelos semânticos (conjuntos de dados do Power BI). Usando o SemPy (visualização) na experiência Synapse Data Science no Microsoft Fabric, você analisa dependências funcionais em colunas DataFrame. Essa análise ajuda você a descobrir problemas sutis de qualidade de dados para obter informações mais precisas.

Neste tutorial, você aprenderá a:

  • Aplicar conhecimento de domínio para formular hipóteses sobre dependências funcionais em um modelo semântico.
  • Familiarize-se com os componentes da biblioteca Python (SemPy) do Link Semântico que se integram ao Power BI e ajudam a automatizar a análise da qualidade dos dados. Esses componentes incluem:
    • FabricDataFrame — estrutura semelhante a pandas aprimorada com informações semânticas adicionais
    • Funções que extraem modelos semânticos de um espaço de trabalho do Fabric para o seu bloco de notas
    • Funções que avaliam hipóteses de dependência funcional e identificam violações de relacionamento em seus modelos semânticos

Pré-requisitos

  • Obtenha uma assinatura Microsoft Fabric. Ou inscreva-se para obter uma avaliação gratuita do Microsoft Fabric.

  • Inicie sessão no Microsoft Fabric.

  • Altera para o Fabric usando o alternador de experiência no canto inferior esquerdo da sua página inicial.

    Captura de ecrã que mostra a seleção de Fabric no menu do comutador de experiências.

  1. Selecione Espaços de trabalho no painel de navegação para localizar e selecionar seu espaço de trabalho. Este espaço de trabalho torna-se o seu espaço de trabalho atual.

  2. Baixe o arquivo Customer Profitability Sample.pbix do repositório GitHub de amostras de malha.

  3. No seu espaço de trabalho, selecione Importar Relatório de>ou Relatório Paginado>a partir deste computador para importar o ficheiro Customer Profitability Sample.pbix para o seu espaço de trabalho.

Acompanhe no caderno

O notebook powerbi_dependencies_tutorial.ipynb acompanha este tutorial.

Configurar o notebook

Configure um ambiente de notebook com os módulos e dados necessários.

  1. Use %pip para instalar o SemPy do PyPI no notebook.

    %pip install semantic-link
    
  2. Importe os módulos de que precisa.

    import sempy.fabric as fabric
    from sempy.dependencies import plot_dependency_metadata
    

Carregue e pré-processe os dados

Este tutorial usa um modelo semântico de exemplo padrão Customer Profitability Sample.pbix. Para obter uma descrição do modelo semântico, consulte exemplo de Rentabilidade do Cliente para o Power BI.

  1. Carregue dados do Power BI em um FabricDataFrame usando a fabric.read_table função.

    dataset = "Customer Profitability Sample"
    customer = fabric.read_table(dataset, "Customer")
    customer.head()
    
  2. Carregue a State tabela em um FabricDataFramearquivo .

    state = fabric.read_table(dataset, "State")
    state.head()
    

    Embora a saída pareça um DataFrame pandas, esse código inicializa uma estrutura de dados chamada a FabricDataFrame que adiciona operações sobre pandas.

  3. Verifique o tipo de dados do customer.

    type(customer)
    

    A saída mostra que customer é sempy.fabric._dataframe._fabric_dataframe.FabricDataFrame.

  4. Junte-se aos customer e stateDataFrame objetos.

    customer_state_df = customer.merge(state, left_on="State", right_on="StateCode", how='left')
    customer_state_df.head()
    

Identificar dependências funcionais

Uma dependência funcional é uma relação um-para-muitos entre valores em duas ou mais colunas em um DataFramearquivo . Use essas relações para detetar automaticamente problemas de qualidade de dados.

  1. Execute a função do SemPy na mesclada find_dependencies para identificar dependências DataFrame funcionais entre valores de coluna.

    dependencies = customer_state_df.find_dependencies()
    dependencies
    
  2. Visualize as dependências usando a função do plot_dependency_metadata SemPy.

    plot_dependency_metadata(dependencies)
    

    Captura de tela do gráfico de metadados de dependência.

    O gráfico de dependências funcionais mostra que a Customer coluna determina colunas como City, Postal Codee Name.

    O gráfico não mostra uma dependência funcional entre City e Postal Code, provavelmente porque há muitas violações na relação entre as colunas. Use a função do SemPy para visualizar violações de plot_dependency_violations dependência entre colunas específicas.

Explore os dados em busca de problemas de qualidade

  1. Desenhe um gráfico com a função de visualização plot_dependency_violations do SemPy.

    customer_state_df.plot_dependency_violations('Postal Code', 'City')
    

    Captura de tela de um gráfico que mostra violações de dependência.

    O gráfico de violações de dependência mostra valores para Postal Code no lado esquerdo e valores para City no lado direito. Uma aresta conecta uma Postal Code no lado esquerdo com uma City no lado direito se houver uma linha que contenha esses dois valores. As arestas são anotadas com a contagem do número dessas filas. Por exemplo, existem duas linhas com o código postal 20004, uma com cidade "North Tower" e outra com cidade "Washington".

    O enredo também mostra algumas violações e muitos valores vazios.

  2. Confirme o número de valores vazios para Postal Code:

    customer_state_df['Postal Code'].isna().sum()
    

    50 linhas têm NA para Postal Code.

  3. Eliminar linhas com valores vazios. Em seguida, encontre dependências usando a função find_dependencies. Observe o parâmetro extra verbose=1 que oferece um vislumbre do funcionamento interno do SemPy:

    customer_state_df2=customer_state_df.dropna()
    customer_state_df2.find_dependencies(verbose=1)
    

    A entropia condicional para Postal Code e City é 0,049. Esse valor indica que há violações de dependência funcional. Antes de corrigir as violações, aumente o limite de entropia condicional do valor padrão de 0.01 para 0.05, apenas para ver as dependências. Limiares mais baixos resultam em menos dependências (ou maior seletividade).

  4. Aumente o limite de entropia condicional do valor padrão de 0.01 para 0.05:

    plot_dependency_metadata(customer_state_df2.find_dependencies(threshold=0.05))
    

    Captura de tela do gráfico de metadados de dependência com um limiar de entropia mais alto.

    Se você aplicar o conhecimento de domínio de qual entidade determina os valores de outras entidades, esse gráfico de dependência parece preciso.

  5. Explore mais problemas de qualidade de dados que foram detetados. Por exemplo, uma seta tracejada une City e Region, o que indica que a dependência é apenas aproximada. Essa relação aproximada pode implicar que há uma dependência funcional parcial.

    customer_state_df.list_dependency_violations('City', 'Region')
    
  6. Dê uma olhada mais de perto em cada um dos casos em que um valor de Region não vazio causa uma violação:

    customer_state_df[customer_state_df.City=='Downers Grove']
    

    O resultado mostra a cidade de Downers Grove, em Illinois e Nebraska. No entanto, Downers Grove é uma cidade em Illinois, não Nebraska.

  7. Dê uma olhada na cidade de Fremont:

    customer_state_df[customer_state_df.City=='Fremont']
    

    Há uma cidade chamada Fremont na Califórnia. No entanto, para o Texas, o motor de busca retorna Premont, não Fremont.

  8. Também é suspeito ver violações da dependência entre Name e Country/Region, conforme indicado pela linha pontilhada no gráfico original de violações de dependência (antes de eliminar as linhas com valores vazios).

    customer_state_df.list_dependency_violations('Name', 'Country/Region')
    

    Um cliente, SDI Design, aparece em duas regiões: Estados Unidos e Canadá. Este caso pode não ser uma violação semântica, apenas incomum. Ainda assim, vale a pena dar uma olhada de perto:

  9. Dê uma olhada mais de perto no cliente SDI Design:

    customer_state_df[customer_state_df.Name=='SDI Design']
    

    Uma inspeção mais aprofundada mostra dois clientes diferentes de indústrias diferentes com o mesmo nome.

A análise exploratória de dados e a limpeza de dados são iterativas. O que você encontra depende de suas perguntas e perspetiva. O Link Semântico oferece novas ferramentas para obter mais de seus dados.

Confira outros tutoriais para link semântico e SemPy: