Ativar dumps de heap para serviços do Apache Hadoop no HDInsight baseado em Linux

  • Artigo

Despejos de heap contêm um instantâneo da memória do aplicativo, incluindo os valores das variáveis no momento em que o despejo foi criado. Portanto, eles são úteis para diagnosticar problemas que ocorrem em tempo de execução.

Serviços

Você pode habilitar o despejo de heap para os seguintes serviços:

  • Apache hcatalog -tempelton
  • Hive Apache -hiveserver2, metastore, derbyserver
  • mapreduce - jobhistoryserver
  • Yarn Apache -resourcemanager, nodemanager, timelineserver
  • Apache hdfs -datanode, secondarynamenode namenode

Você também pode habilitar despejos de heap para os processos de mapeamento e redução executados pelo HDInsight.

Compreendendo a configuração do despejo de heap

Despejos de heap são habilitados transmitindo opções (às vezes conhecidas como opts, ou parâmetros) para a JVM quando um serviço é iniciado. Para a maioria dos serviços do Apache Hadoop, você pode modificar o script de shell usado para iniciar o serviço para passar essas opções.

Em cada script, há uma exportação para *_OPTS, que contém as opções passadas para a JVM. Por exemplo, no script hadoop-env.sh, a linha que começa com export HADOOP_NAMENODE_OPTS= contém as opções para o serviço NameNode.

Os processos de mapeamento e redução são ligeiramente diferentes, uma vez que essas operações são processos filho do serviço MapReduce. Cada processo de mapeamento ou redução é executado em um contêiner filho, e há duas entradas que contêm as opções de JVM. Contidos em mapred-site.xml:

  • mapreduce.admin.map.child.java.opts
  • mapreduce.admin.reduce.child.java.opts

Observação

Recomendamos usar o Apache Ambari para modificar as configurações de scripts e mapred-site.xml, já que o Ambari manipula as alterações de replicação nos nós do cluster. Consulte a seção Usando o Apache Ambari para obter etapas específicas.

Habilitar despejos de heap

A seguinte opção habilita os despejos de heap quando ocorre um OutOfMemoryError:

-XX:+HeapDumpOnOutOfMemoryError

O + indica que a opção está habilitada. Por padrão, ela fica desabilitada.

Aviso

Despejos de heap não são habilitados para serviços do Hadoop no HDInsight por padrão, pois os arquivos de despejo podem ser grandes. Se você habilitá-los para solução de problemas, lembre-se de desabilitá-los após ter reproduzido o problema e coletado os arquivos de despejo.

Local do despejo

O local padrão para o arquivo de despejo é o diretório de trabalho atual. Você pode controlar onde o arquivo é armazenado usando a seguinte opção:

-XX:HeapDumpPath=/path

Por exemplo, usar -XX:HeapDumpPath=/tmp fará com que os despejos sejam armazenados no diretório /tmp.

Scripts

Você também pode disparar um script quando um OutOfMemoryError ocorrer. Por exemplo, disparar uma notificação para que você saiba que o erro ocorreu. Use a opção a seguir para disparar um script em um OutOfMemoryError:

-XX:OnOutOfMemoryError=/path/to/script

Observação

Como o Apache Hadoop é um sistema distribuído, qualquer script usado deve ser colocado em todos os nós no cluster no qual o serviço é executado.

O script deve também estar em um local que seja acessível pela conta em que o serviço é executado e deve fornecer permissões de execução. Por exemplo, você pode optar por armazenar scripts em /usr/local/bin e usar chmod go+rx /usr/local/bin/filename.sh para conceder permissões de leitura e execução.

Usando o Apache Ambari

Para modificar a configuração de um serviço, use as seguintes etapas:

  1. Em um navegador da Web, navegue até https://CLUSTERNAME.azurehdinsight.net, em que CLUSTERNAME é o nome do cluster.

  2. Usando a lista à esquerda, selecione a área de serviço que você deseja modificar. Por exemplo, HDFS. Na área central, selecione a guia Configurações .

    Image of Ambari web with HDFS Configs tab selected.

  3. Usando a entrada Filtrar..., insira opts. Apenas os itens que contêm esse texto são exibidos.

    Apache Ambari config filtered list.

  4. Encontre a entrada *_OPTS do serviço para o qual você deseja habilitar os despejos de heap e adicione as opções que deseja habilitar. Na imagem a seguir, adicionei -XX:+HeapDumpOnOutOfMemoryError -XX:HeapDumpPath=/tmp/ à entrada HADOOPNAMENODE_OPTS:

    Apache Ambari hadoop-namenode-opts.

    Observação

    Ao habilitar despejos de heap para o processo filho de mapeamento ou redução, procure os campos denominados mapreduce.admin.map.child.java.opts e mapreduce.admin.reduce.child.java.opts.

    Use o botão Salvar para salvar as alterações. Você pode inserir uma nota breve que descreve as alterações.

  5. Após as alterações serem aplicadas, o ícone Reinicialização necessária aparecerá ao lado de um ou mais serviços.

    restart required icon and restart button.

  6. Selecione cada serviço que precisa ser reiniciado e use o botão Ações de Serviço para Ativar o Modo de Manutenção. O modo de manutenção impede que alertas sejam gerados pelo serviço ao reiniciá-lo.

    Turn on hdi maintenance mode menu.

  7. Após ter habilitado o modo de manutenção, use o botão Reiniciar para o serviço Reiniciar Todos os Afetados

    Apache Ambari Restart All Affected entry.

    Observação

    As entradas do botão Reiniciar podem ser diferentes para outros serviços.

  8. Após os serviços serem reiniciados, use o botão Ações de Serviço para Desativar o Modo de Manutenção. Use este Ambari para retomar o monitoramento dos alertas do serviço.