Configurar a replicação do cluster do Apache HBase em redes virtuais do Azure

Saiba como configurar a replicação do Apache HBase em uma rede virtual ou entre duas redes virtuais no Azure.

A replicação em cluster utiliza uma metodologia de envio a partir da origem. Um cluster HBase pode ser uma origem ou um destino, ou pode cumprir ambas as funções ao mesmo tempo. A replicação é assíncrona. O objetivo da replicação é a consistência final. Quando a origem recebe uma edição para uma família de colunas quando a replicação está habilitada, a edição é propagada para todos os clusters de destino. Quando os dados são replicados de um cluster para outro, o cluster de origem e todos os clusters que já consumiram os dados são rastreados, para evitar loops de replicação.

Neste artigo, você configura uma replicação de origem-destino. Para outras topologias de cluster, consulte o guia de referência do Apache HBase.

A seguir estão os casos de uso de replicação do HBase para uma única rede virtual:

• Balanceamento de carga. Por exemplo, você pode executar verificações ou trabalhos do MapReduce no cluster de destino e ingerir dados no cluster de origem.
• Adicionando alta disponibilidade.
• Migração de dados de um cluster HBase para outro.
• Atualizar um cluster do Azure HDInsight de uma versão para outra.

A seguir estão os casos de uso de replicação do HBase para duas redes virtuais:

• Configuração da recuperação de desastres.
• Balanceamento de carga e particionamento do aplicativo.
• Adicionando alta disponibilidade.

Você pode replicar clusters usando scripts de ação de GitHub.

Pré-requisitos

Antes de começar este artigo, você deve ter uma assinatura do Azure.

Configurar os ambientes

Você tem três opções de configuração:

• Dois clusters Apache HBase em uma rede virtual do Azure.
• Dois clusters Apache HBase em duas redes virtuais diferentes na mesma região.
• Dois clusters Apache HBase em duas redes virtuais diferentes em duas regiões diferentes (replicação geográfica).

Este artigo aborda o cenário de replicação geográfica.

Para ajudá-lo a configurar os ambientes, criamos alguns modelos do Azure Resource Manager. Se preferir configurar os ambientes usando outros métodos, consulte:

• Criar clusters Apache Hadoop no HDInsight
• Criar clusters Apache HBase na Rede Virtual do Azure

Configurar duas redes virtuais em duas regiões diferentes

Para usar um modelo que cria duas redes virtuais em duas regiões diferentes e a conexão VPN entre as redes virtuais, selecione o seguinte botão Implantar no Azure .

Alguns dos valores codificados no modelo:

VNet 1

VNet 2

Como alternativa, siga as etapas abaixo para configurar duas vnets e VMs diferentes manualmente

1. Criar duas VNET (rede virtual) em regiões diferentes
2. Habilite o emparelhamento na VNET. Vá para Rede virtual criada nas etapas acima, clique em emparelhamento e adicione link de emparelhamento de outra região. Faça isso para ambas as redes virtuais.
3. Crie a versão mais recente do Ubuntu em cada VNET.

Configurar DNS

Na última seção, o modelo cria uma máquina virtual Ubuntu em cada uma das duas redes virtuais. Nesta seção, você instala o Bind nas duas máquinas virtuais DNS e configura o encaminhamento DNS nas duas máquinas virtuais.

Para instalar Bind, yon precisa encontrar o endereço IP público das duas máquinas virtuais DNS.

1. Abra o portal do Azure.
2. Abra a máquina virtual DNS selecionando Grupos de >.> O nome do grupo de recursos é aquele criado no último procedimento. Os nomes de máquina virtual DNS padrão são vnet1DNS e vnet2NDS.
3. Selecione Propriedades para abrir a página de propriedades da rede virtual.
4. Anote o endereço IP público e verifique também o endereço IP privado. O endereço IP privado deve ser 10.1.0.4 para vnet1DNS e 10.2.0.4 para vnet2DNS.
5. Altere os Servidores DNS de ambas as redes virtuais para usar servidores DNS Padrão (Fornecidos pelo Azure) para permitir acesso de entrada e saída para baixar pacotes para instalar o Bind nas etapas a seguir.

Para instalar o Bind, use o seguinte procedimento:

1. Use SSH para se conectar ao endereço IP público da máquina virtual DNS. O exemplo a seguir se conecta a uma máquina virtual em 40.68.254.142:

   ssh sshuser@40.68.254.142
   

   Substitua sshuser pela conta de usuário SSH especificada ao criar a máquina virtual DNS.

   Nota

   Há uma variedade de maneiras de obter a ssh ferramenta. No Linux, Unix e macOS, é fornecido como parte do sistema operacional. Se estiver a utilizar o Windows, considere uma das seguintes opções:

   • Azure Cloud Shell
   • Bash no Ubuntu no Windows 10
   • Git (https://git-scm.com/)
   • OpenSSH (https://github.com/PowerShell/Win32-OpenSSH/wiki/Install-Win32-OpenSSH)

2. Para instalar o Bind, use os seguintes comandos da sessão SSH:

    sudo apt-get update -y
    sudo apt-get install bind9 -y
   

3. Configure Bind para encaminhar solicitações de resolução de nomes para seu servidor DNS local. Para fazer isso, use o seguinte texto como o conteúdo do /etc/bind/named.conf.options arquivo:

   acl goodclients {
       10.1.0.0/16; # Replace with the IP address range of the virtual network 1
       10.2.0.0/16; # Replace with the IP address range of the virtual network 2
       localhost;
       localhost;
   };
   
   options {
       directory "/var/cache/bind";
       recursion yes;
       allow-query { goodclients; };
   
       forwarders {
           168.63.129.16; #This is the Azure DNS server
       };
   
       dnssec-validation auto;
   
       auth-nxdomain no;    # conform to RFC1035
       listen-on-v6 { any; };
   };
   

   Importante

   Substitua os valores na seção goodclients pelo intervalo de endereços IP das duas redes virtuais. Esta seção define os endereços dos quais esse servidor DNS aceita solicitações.

   Para editar esse arquivo, use o seguinte comando:

   sudo nano /etc/bind/named.conf.options
   

   Para guardar o ficheiro, utilize Ctrl+X, Y e, em seguida , Enter.

4. Na sessão SSH, use o seguinte comando:

   hostname -f
   

   Este comando retorna um valor semelhante ao seguinte texto:

   vnet1DNS.icb0d0thtw0ebifqt0g1jycdxd.ex.internal.cloudapp.net
   

   O icb0d0thtw0ebifqt0g1jycdxd.ex.internal.cloudapp.net texto é o sufixo DNS para esta rede virtual. Guarde este valor, tal como é utilizado mais tarde.

   Você também deve descobrir o sufixo DNS do outro servidor DNS. Você precisa dele na próxima etapa.

5. Para configurar Bind para resolver nomes DNS para recursos dentro da rede virtual, use o seguinte texto como o conteúdo do /etc/bind/named.conf.local arquivo:

   // Replace the following with the DNS suffix for your virtual network
   zone "v5ant3az2hbe1edzthhvwwkcse.bx.internal.cloudapp.net" {
           type forward;
           forwarders {10.2.0.4;}; # The Azure recursive resolver
   };
   

   Importante

   Você deve substituir o v5ant3az2hbe1edzthhvwwkcse.bx.internal.cloudapp.net com o sufixo DNS da outra rede virtual. E o IP do encaminhador é o endereço IP privado do servidor DNS na outra rede virtual.

   Para editar esse arquivo, use o seguinte comando:

   sudo nano /etc/bind/named.conf.local
   

   Para guardar o ficheiro, utilize Ctrl+X, Y e, em seguida , Enter.

6. Para iniciar Bind, use o seguinte comando:

   sudo service bind9 restart
   

7. Para verificar se o bind consegue resolver os nomes dos recursos em outra rede virtual, use os seguintes comandos:

   sudo apt install dnsutils
   nslookup vnet2dns.v5ant3az2hbe1edzthhvwwkcse.bx.internal.cloudapp.net
   

   Importante

   Substitua vnet2dns.v5ant3az2hbe1edzthhvwwkcse.bx.internal.cloudapp.net pelo nome de domínio totalmente qualificado (FQDN) da máquina virtual DNS na outra rede.

   Substitua 10.2.0.4 pelo endereço IP interno do seu servidor DNS personalizado na outra rede virtual.

   A resposta é semelhante ao seguinte texto:

   Server:         10.2.0.4
   Address:        10.2.0.4#53
   
   Non-authoritative answer:
   Name:   vnet2dns.v5ant3az2hbe1edzthhvwwkcse.bx.internal.cloudapp.net
   Address: 10.2.0.4
   

   Até agora, você não pode procurar o endereço IP da outra rede sem o endereço IP do servidor DNS especificado.

Configurar a rede virtual para usar o servidor DNS personalizado

Para configurar a rede virtual para usar o servidor DNS personalizado em vez do resolvedor recursivo do Azure, use as seguintes etapas:

1. No portal do Azure, selecione a rede virtual e, em seguida, selecione Servidores DNS.

2. Selecione Personalizado e insira o endereço IP interno do servidor DNS personalizado. Por último, selecione Guardar.

3. Abra a máquina virtual do servidor DNS em vnet1 e clique em Reiniciar. Você deve reiniciar todas as máquinas virtuais na rede virtual para que a configuração DNS entre em vigor.

4. Repita as etapas para configurar o servidor DNS personalizado para vnet2.

Para testar a configuração de DNS, você pode se conectar às duas máquinas virtuais DNS usando SSH e executar ping no servidor DNS da outra rede virtual usando seu nome de host. Se não funcionar, use o seguinte comando para verificar o status do DNS:

sudo service bind9 status

Criar os clusters Apache HBase

Crie um cluster Apache HBase em cada uma das duas redes virtuais com a seguinte configuração:

• Nome do grupo de recursos: use o mesmo nome do grupo de recursos que criou para as redes virtuais.
• Tipo de cluster: HBase
• Versão: HBase 1.1.2 (HDI 3.6)
• Localização: Use a mesma localização da rede virtual. Por padrão, vnet1 é West US e vnet2 é East US.
• Armazenamento: crie uma nova conta de armazenamento para o cluster.
• Rede virtual (a partir de Configurações avançadas no portal): Selecione vnet1 que você criou no último procedimento.
• Sub-rede: O nome predefinido usado no template é subnet1.

Para garantir que o ambiente esteja configurado corretamente, deves ser capaz de pingar o FQDN do nó principal entre os dois clusters.

Carregar os dados de teste

Ao replicar um cluster, você deve especificar as tabelas que deseja replicar. Nesta seção, você carrega alguns dados no cluster de origem. Na próxima seção, você habilitará a replicação entre os dois clusters.

Para criar uma tabela de Contatos e inserir alguns dados na tabela, siga as instruções no tutorial do Apache HBase: Introdução ao uso do Apache HBase no HDInsight.

Ativar a replicação

As etapas a seguir descrevem como chamar a ação de script do portal do Azure. Para obter informações sobre como executar uma ação de script usando o Azure PowerShell e a CLI Clássica do Azure, consulte Personalizar clusters HDInsight usando ação de script.

Para habilitar a replicação do HBase a partir do portal do Azure

1. Inicie sessão no portal do Azure.

2. Abra o cluster HBase de origem.

3. No menu do cluster, selecione Ações de script.

4. Na parte superior da página, selecione Enviar novo.

5. Selecione ou insira as seguintes informações:

   1. Nome: insira Habilitar replicação.
   2. URL do script Bash: digite https://raw.githubusercontent.com/Azure/hbase-utils/master/replication/hdi_enable_replication.sh.
   3. Cabeça: Certifique-se de que este parâmetro está selecionado. Remova todos os outros tipos de nó.
   4. Parâmetros: Os seguintes parâmetros de exemplo habilitam a replicação para todas as tabelas existentes e, em seguida, copiam todos os dados do cluster de origem para o cluster de destino:

   -m hn1 -s <source hbase cluster name> -d <destination hbase cluster name> -sp <source cluster Ambari password> -dp <destination cluster Ambari password> -copydata

   Nota

   Use o hostname em substituição de FQDN para o nome DNS do cluster de origem e de destino.

   Este passo a passo assume hn1 como headnode ativo. Verifique o cluster para identificar o nó principal ativo.

6. Selecione Criar. O script pode demorar um pouco para ser executado, especialmente quando você usa o argumento -copydata .

Argumentos necessários:

Argumentos opcionais:

A print_usage() seção do script tem uma explicação detalhada dos parâmetros.

Depois que a ação de script for implantada com êxito, você poderá usar o SSH para se conectar ao cluster HBase de destino e verificar se os dados foram replicados.

Cenários de replicação

A lista a seguir mostra alguns casos de uso gerais e suas configurações de parâmetro:

• Habilite a replicação em todas as tabelas entre os dois clusters. Esse cenário não requer cópia ou migração de dados existentes nas tabelas e não usa tabelas Phoenix. Use os seguintes parâmetros:

  -m hn1 -s <source hbase cluster name> -d <destination hbase cluster name> -sp <source cluster Ambari password> -dp <destination cluster Ambari password>

• Habilite a replicação em tabelas específicas. Para habilitar a replicação na tabela1, tabela2 e tabela3, use os seguintes parâmetros:

  -m hn1 -s <source hbase cluster name> -d <destination hbase cluster name> -sp <source cluster Ambari password> -dp <destination cluster Ambari password> -t "table1;table2;table3"

• Habilite a replicação em tabelas específicas e copie os dados existentes. Para habilitar a replicação na tabela1, tabela2 e tabela3, use os seguintes parâmetros:

  -m hn1 -s <source hbase cluster name> -d <destination hbase cluster name> -sp <source cluster Ambari password> -dp <destination cluster Ambari password> -t "table1;table2;table3" -copydata

• Habilite a replicação em todas as tabelas e replique metadados Phoenix da origem ao destino. A replicação de metadados Phoenix não é perfeita. Use-o com cuidado. Use os seguintes parâmetros:

  -m hn1 -s <source hbase cluster name> -d <destination hbase cluster name> -sp <source cluster Ambari password> -dp <destination cluster Ambari password> -t "table1;table2;table3" -replicate-phoenix-meta

Configurar a replicação entre clusters ESP

Pré-requisitos

1. Ambos os clusters ESP devem estar no mesmo domínio. Verifique a propriedade realm padrão do arquivo /etc/krb5.conf para confirmar.
2. O usuário comum deve estar lá que tenha acesso de leitura e gravação a ambos os clusters
   1. Por exemplo, se ambos os clusters tiverem o mesmo usuário administrador de cluster (por exemplo, admin@abc.example.com), esse usuário poderá ser usado para executar o script de replicação.
   2. Se ambos os clusters usarem o mesmo grupo de usuários, você poderá adicionar um novo usuário ou usar o usuário existente do grupo.
   3. Se ambos os clusters estiverem a usar grupos de utilizadores diferentes, poderá adicionar um novo utilizador para que ambos utilizem o utilizador existente dos grupos.

Etapas para executar o script de replicação

Etapa 1: Criar arquivo keytab para o usuário usando ktutilo . $ ktutil

1. addent -password -p admin@ABC.EXAMPLE.COM -k 1 -e RC4-HMAC
2. Pedir palavra-passe para autenticar, fornecer palavra-passe de utilizador
3. wkt /etc/security/keytabs/admin.keytab

Etapa 2: Executar ação de script com a opção -ku

1. Fornecer -ku <username> em clusters ESP.

Copiar e migrar dados

Há dois scripts de ação separados disponíveis para copiar ou migrar dados após a ativação da replicação:

• Script para tabelas pequenas (tabelas com alguns gigabytes de tamanho e a cópia geral deve ser concluída em menos de uma hora)

• Script para tabelas grandes (tabelas que devem levar mais de uma hora para serem copiadas)

Você pode seguir o mesmo procedimento descrito em Habilitar replicação para chamar a ação de script. Use os seguintes parâmetros:

-m hn1 -t <table1:start_timestamp:end_timestamp;table2:start_timestamp:end_timestamp;...> -p <replication_peer> [-everythingTillNow]

A print_usage() seção do script tem uma descrição detalhada dos parâmetros.

Cenários

• Copie tabelas específicas (test1, test2 e test3) para todas as linhas editadas até agora (carimbo de data/hora atual):

  -m hn1 -t "test1::;test2::;test3::" -p "<zookeepername1>;<zookeepername2>;<zookeepername3>:2181:/hbase-unsecure" -everythingTillNow

  Ou:

  -m hn1 -t "test1::;test2::;test3::" --replication-peer="<zookeepername1>;<zookeepername2>;<zookeepername3>:2181:/hbase-unsecure" -everythingTillNow

• Copie tabelas específicas com um intervalo de tempo especificado:

  -m hn1 -t "table1:0:452256397;table2:14141444:452256397" -p "<zookeepername1>;<zookeepername2>;<zookeepername3>:2181:/hbase-unsecure"

Desativar a replicação

Para desativar a replicação, use outro script de ação do GitHub. Você pode seguir o mesmo procedimento descrito em Habilitar replicação para chamar a ação de script. Use os seguintes parâmetros:

-m hn1 -s <source hbase cluster name> -sp <source cluster Ambari password> <-all|-t "table1;table2;...">

A print_usage() seção do script tem uma explicação detalhada dos parâmetros.

Cenários

• Desative a replicação em todas as tabelas:

  -m hn1 -s <source hbase cluster name> -sp Mypassword\!789 -all

  ou

  --src-cluster=<source hbase cluster name> --dst-cluster=<destination hbase cluster name> --src-ambari-user=<source cluster Ambari user name> --src-ambari-password=<source cluster Ambari password>

• Desative a replicação em tabelas especificadas (tabela1, tabela2 e tabela3):

  -m hn1 -s <source hbase cluster name> -sp <source cluster Ambari password> -t "table1;table2;table3"

Próximos passos

Neste artigo, você aprendeu como configurar a replicação do Apache HBase em uma rede virtual ou entre duas redes virtuais. Para saber mais sobre o HDInsight e o Apache HBase, consulte estes artigos:

• Introdução ao Apache HBase no HDInsight
• Visão geral do HDInsight Apache HBase
• Criar clusters Apache HBase na Rede Virtual do Azure