Lar Finanças Pessoais Dimensionando seu Hadoop Cluster - dummies

Dimensionando seu Hadoop Cluster - dummies

Vídeo: HDInsight: Fast Interactive Queries with Hive on LLAP | Azure Friday 2025

Vídeo: HDInsight: Fast Interactive Queries with Hive on LLAP | Azure Friday 2025
Anonim

Dimensionar qualquer sistema de processamento de dados é tanto uma ciência quanto é uma arte. Com o Hadoop, você considera a mesma informação que você faria com um banco de dados relacional, por exemplo. Mais importante, você precisa saber quanto de dados você possui, estimar suas taxas de crescimento esperadas e estabelecer uma política de retenção (quanto tempo para manter os dados).

As respostas a essas perguntas servem como ponto de partida, que é independente de quaisquer requisitos relacionados à tecnologia.

Depois de determinar a quantidade de dados você precisa armazenar, você pode começar a avaliar as considerações específicas do Hadoop. Suponha que você tenha uma empresa de telecomunicações e você estabeleceu que você precisa de 750 terabytes (TB) de espaço de armazenamento para seus arquivos de registro de registro de detalhes de chamadas (CDR). < Você retém esses registros para obedecer os regulamentos governamentais, mas você também pode analisá-los o veja padrões de churn e monitorar a saúde da rede, por exemplo. Para determinar quanto espaço de armazenamento você precisa e, como resultado, quantos racks e nós escravos você precisa, você faz seus cálculos com esses fatores em mente:

Replicação:
  • O fator de replicação padrão para dados em HDFS é 3. Os 500 terabytes de dados de CDR para a empresa de telecomunicações no exemplo, em seguida, converte-se em 1500 terabytes. Espaço de troca:

  • Qualquer análise ou processamento dos dados pelo MapReduce precisa de mais 25% do espaço para armazenar os conjuntos de resultados provisórios e finais. (A empresa de telecomunicações agora precisa de 1875 terabytes de espaço de armazenamento.)

    Compressão:
  • A empresa de telecomunicações armazena as CDRs em uma forma comprimida, onde a taxa média de compressão deverá ser de 3: 1. Agora você precisa de 625 terabytes. Número de nós escravos:

  • Supondo que cada nó escravo tenha doze unidades 3TB dedicadas a HDFS, cada nó escravo possui 36 terabytes de armazenamento HDFS bruto disponível, portanto a empresa precisa de 18 nós escravos. Número de racks:

  • Como cada nó escravo usa 2RU e a empresa no exemplo precisa de três nós mestres (1RU cada) e dois switches ToR (1RU cada), você precisa de um total de 41RU. É 1RU menor do que a capacidade total de um rack padrão, de modo que um único rack é suficiente para esta implantação. Independentemente, não há espaço para o crescimento neste cluster, por isso é prudente comprar um segundo rack (e dois switches ToR adicionais) e dividir os nós escravos entre os dois racks.

    Teste:

  • A manutenção de um cluster de teste que é uma representação em escala menor do cluster de produção é uma prática padrão. Não precisa ser enorme, mas você quer pelo menos cinco nós de dados para que você obtenha uma representação precisa do comportamento de Hadoop.Tal como acontece com qualquer ambiente de teste, ele deve ser isolado em uma rede diferente do cluster de produção. Backup e recuperação de desastres:

  • Como qualquer sistema de produção, a empresa de telecomunicações também precisará considerar requisitos de backup e recuperação de desastres. Esta empresa poderia ir tão longe quanto para criar um cluster espelho para garantir que eles tenham um modo de espera quente para todo o sistema. Esta é obviamente a opção mais cara, mas é apropriada para ambientes onde o tempo de atividade constante é crítico. No final menos dispendioso do espectro (além de não fazer backup dos dados), a empresa de telecomunicações poderia fazer backup regularmente todos os dados (incluindo o próprio dado, aplicativos, arquivos de configuração e metadados) armazenados em seu cluster de produção gravar. Com a fita adesiva, os dados não são imediatamente acessíveis, mas isso permitirá um esforço de recuperação de desastres no caso de todo o cluster Hadoop de produção falhar.

    Tal como acontece com o seu próprio computador pessoal, quando a unidade de disco rígido principal preenche o espaço, o sistema diminui consideravelmente. Hadoop não é exceção. Além disso, um disco rígido funciona melhor quando está menos de 85 a 90 por cento cheio. Com esta informação em mente, se o desempenho for importante para você, você deve superar o fator de espaço de troca de 25 a 33 por cento.

Dimensionando seu Hadoop Cluster - dummies

Escolha dos editores

Fatos de plantas e animais para lembrar para o exame de biologia AP - dummies

Fatos de plantas e animais para lembrar para o exame de biologia AP - dummies

A seguinte lista contém algumas das informações mais desafiadoras sobre plantas e animais que você pode encontrar no exame de biologia AP. Estude esta lista, desde que você precise - se você se lembrar dessa informação durante o teste, você fará tudo bem. As plantas vasculares têm raízes, rebentos e caules, cada um dos quais ...

Física Tópicos para estudar para o teste Miller Analogies (MAT) - dummies

Física Tópicos para estudar para o teste Miller Analogies (MAT) - dummies

Massa , velocidade, aceleração - sim, é hora de rever toda a física que você aprendeu no ensino médio e se preparar para o MAT (Miller Analogies Test). Para o MAT, familiarizar-se com a física não implica aprender equações complicadas. Você só precisa se lembrar de alguns termos de física e aprender sobre alguns físicos famosos. Essas listas ajudam ...

Médico Assistente de Exame para Dummies Cheat Sheet - dummies

Médico Assistente de Exame para Dummies Cheat Sheet - dummies

Quando você está se preparando para tomar a PANCE ou PANRE , você pode sentir que precisa conhecer uma quantidade infinita de informações. Como você vai se lembrar de todos os detalhes de tantas doenças e condições? Aqui, você pode revisar alguns mnemônicos úteis que não só ajudarão seu recall como você se prepara para o seu ...

Escolha dos editores

Como criar uma ordem de compra no QuickBooks 2010 - dummies

Como criar uma ordem de compra no QuickBooks 2010 - dummies

Você pode usar o QuickBooks para criar uma compra Ordem para o seu negócio. Uma ordem de compra informa um fornecedor que deseja comprar algum item. Na verdade, um pedido de compra é um contrato para compra.

Como personalizar os formulários de verificação no QuickBooks 2011 - dummies

Como personalizar os formulários de verificação no QuickBooks 2011 - dummies

Antes de escrever suas verificações no QuickBooks, você pode decida que deseja personalizá-los um pouco. Você pode querer que seus cheques reflitam a aparência do seu negócio. Por exemplo, o QuickBooks oferece a oportunidade de alterar as fontes em seus cheques. Se você clicar na aba Fontes na caixa de diálogo Verificar impressão ...

Como personalizar os formulários on-line do QuickBooks para lidar com os subtotais - manequins

Como personalizar os formulários on-line do QuickBooks para lidar com os subtotais - manequins

Se precisar subtotar informações sobre o seu formulários de vendas, configure formulários de vendas no QuickBooks Online para que você possa incluir subtotais neles. Você pode subtotar linhas em uma fatura, uma estimativa ou um recibo de venda. Primeiro, ative o recurso; Para este exemplo, ative o recurso para o formulário de fatura. Siga ...

Escolha dos editores

Como converter imagens em modo escala de cinza em Photoshop Elements 11 - dummies

Como converter imagens em modo escala de cinza em Photoshop Elements 11 - dummies

Imagens em escala de cinza têm preto e pixels brancos e qualquer um dos 256 níveis de cinza. Ao converter uma imagem RGB em escala de cinza no Photoshop Elements 11, você pode fazer com que pareça uma foto em preto e branco. Evite converter em escala de cinza escolhendo Image → Mode → Grayscale. Quando os elementos executam essa conversão, ele remove toda a cor dos pixels, ...

Como converter imagens em modo escala de cinza em Photoshop Elements 9 - dummies

Como converter imagens em modo escala de cinza em Photoshop Elements 9 - dummies

Em Photoshop Elements, você pode converter uma imagem RGB em escala de cinza, fazendo com que pareça uma foto em preto e branco. As imagens de tons de cinza têm pixels em preto e branco e qualquer um dos 256 níveis de cinza. No entanto, você não precisa desistir de seus dados de cores. Como alternativa ao uso do comando de menu para converter imagens para ...

Como corrigir imagens com curvas de cores - dummies

Como corrigir imagens com curvas de cores - dummies

Photoshop Elements 10 emprestou um recurso muito usado do Photoshop chamado Curves. No entanto, adicionou a palavra Cor e tirou parte de sua sofisticação. No entanto, o ajuste Color Curves tenta melhorar o alcance tonal em imagens a cores fazendo ajustes em destaques, sombras e tons médios em cada canal de cores. Tente usar este comando em ...