Lar Finanças Pessoais Dimensionando seu Hadoop Cluster - dummies

Dimensionando seu Hadoop Cluster - dummies

Vídeo: HDInsight: Fast Interactive Queries with Hive on LLAP | Azure Friday 2025

Vídeo: HDInsight: Fast Interactive Queries with Hive on LLAP | Azure Friday 2025
Anonim

Dimensionar qualquer sistema de processamento de dados é tanto uma ciência quanto é uma arte. Com o Hadoop, você considera a mesma informação que você faria com um banco de dados relacional, por exemplo. Mais importante, você precisa saber quanto de dados você possui, estimar suas taxas de crescimento esperadas e estabelecer uma política de retenção (quanto tempo para manter os dados).

As respostas a essas perguntas servem como ponto de partida, que é independente de quaisquer requisitos relacionados à tecnologia.

Depois de determinar a quantidade de dados você precisa armazenar, você pode começar a avaliar as considerações específicas do Hadoop. Suponha que você tenha uma empresa de telecomunicações e você estabeleceu que você precisa de 750 terabytes (TB) de espaço de armazenamento para seus arquivos de registro de registro de detalhes de chamadas (CDR). < Você retém esses registros para obedecer os regulamentos governamentais, mas você também pode analisá-los o veja padrões de churn e monitorar a saúde da rede, por exemplo. Para determinar quanto espaço de armazenamento você precisa e, como resultado, quantos racks e nós escravos você precisa, você faz seus cálculos com esses fatores em mente:

Replicação:
  • O fator de replicação padrão para dados em HDFS é 3. Os 500 terabytes de dados de CDR para a empresa de telecomunicações no exemplo, em seguida, converte-se em 1500 terabytes. Espaço de troca:

  • Qualquer análise ou processamento dos dados pelo MapReduce precisa de mais 25% do espaço para armazenar os conjuntos de resultados provisórios e finais. (A empresa de telecomunicações agora precisa de 1875 terabytes de espaço de armazenamento.)

    Compressão:
  • A empresa de telecomunicações armazena as CDRs em uma forma comprimida, onde a taxa média de compressão deverá ser de 3: 1. Agora você precisa de 625 terabytes. Número de nós escravos:

  • Supondo que cada nó escravo tenha doze unidades 3TB dedicadas a HDFS, cada nó escravo possui 36 terabytes de armazenamento HDFS bruto disponível, portanto a empresa precisa de 18 nós escravos. Número de racks:

  • Como cada nó escravo usa 2RU e a empresa no exemplo precisa de três nós mestres (1RU cada) e dois switches ToR (1RU cada), você precisa de um total de 41RU. É 1RU menor do que a capacidade total de um rack padrão, de modo que um único rack é suficiente para esta implantação. Independentemente, não há espaço para o crescimento neste cluster, por isso é prudente comprar um segundo rack (e dois switches ToR adicionais) e dividir os nós escravos entre os dois racks.

    Teste:

  • A manutenção de um cluster de teste que é uma representação em escala menor do cluster de produção é uma prática padrão. Não precisa ser enorme, mas você quer pelo menos cinco nós de dados para que você obtenha uma representação precisa do comportamento de Hadoop.Tal como acontece com qualquer ambiente de teste, ele deve ser isolado em uma rede diferente do cluster de produção. Backup e recuperação de desastres:

  • Como qualquer sistema de produção, a empresa de telecomunicações também precisará considerar requisitos de backup e recuperação de desastres. Esta empresa poderia ir tão longe quanto para criar um cluster espelho para garantir que eles tenham um modo de espera quente para todo o sistema. Esta é obviamente a opção mais cara, mas é apropriada para ambientes onde o tempo de atividade constante é crítico. No final menos dispendioso do espectro (além de não fazer backup dos dados), a empresa de telecomunicações poderia fazer backup regularmente todos os dados (incluindo o próprio dado, aplicativos, arquivos de configuração e metadados) armazenados em seu cluster de produção gravar. Com a fita adesiva, os dados não são imediatamente acessíveis, mas isso permitirá um esforço de recuperação de desastres no caso de todo o cluster Hadoop de produção falhar.

    Tal como acontece com o seu próprio computador pessoal, quando a unidade de disco rígido principal preenche o espaço, o sistema diminui consideravelmente. Hadoop não é exceção. Além disso, um disco rígido funciona melhor quando está menos de 85 a 90 por cento cheio. Com esta informação em mente, se o desempenho for importante para você, você deve superar o fator de espaço de troca de 25 a 33 por cento.

Dimensionando seu Hadoop Cluster - dummies

Escolha dos editores

Como o Colégio dos Cardeais Escolhe um Novo Papa - manequins

Como o Colégio dos Cardeais Escolhe um Novo Papa - manequins

Quando um papa morre no cargo ou renuncia , como fez o Papa Bento XVI no início de 2013, o Colégio dos Cardeais (todos os cardeais da Igreja Católica) reuniu-se para eleger um novo papa. No prazo de 15 dias e no máximo 20 dias após a morte ou renúncia do papa, todos os cardeais ...

Como o Papa João Paulo II tornou-se um filósofo-Teólogo - manequins

Como o Papa João Paulo II tornou-se um filósofo-Teólogo - manequins

Quando João Paulo II ainda era Karol Wojtyła, uma adolescente no ensino médio, ele era tão bom em falar em público que ele foi escolhido para dar o endereço de boas-vindas a um dignitário muito especial visitando a escola um dia. O Príncipe Adam Stefan Stanisław Bonfatiusz Józef Sapieha (que é um bocado), o Arcebispo de Cracóvia e um ...

Assunção de Mary no Céu - manequins

Assunção de Mary no Céu - manequins

No calendário católico, o Dia da Assunção observa o dia em que Maria morreu e subiu - corpo e alma - no paraíso. A Igreja Católica professa que quando o tempo de Maria na Terra chegou ao fim, seu corpo foi colocado em um túmulo, mas seu corpo não caiu na Terra. Em vez disso, seu filho, Jesus Cristo, assumiu o seu corpo ...

Escolha dos editores

Como excluir fotos na sua Nikon D5300 - manequins

Como excluir fotos na sua Nikon D5300 - manequins

Você tem três opções para apagar imagens de uma memória quando estiver na sua Nikon D5300. Uma nota antes de começar: nenhuma das funções Excluir apaga as imagens que você protege. Para apagar fotos protegidas, primeiro você deve remover a proteção do arquivo. Como eliminar imagens uma de cada vez Durante a reprodução da imagem, você ...

Como exibir a visualização de visualização ao vivo em uma tela HDMI - manequins

Como exibir a visualização de visualização ao vivo em uma tela HDMI - manequins

Você pode conectar seu Câmera Nikon D7100 para um dispositivo HDMI (Interface Multimídia de Alta Definição) para ver a saída Live View na tela. Esse recurso é freqüentemente usado por fotógrafos de estúdio que querem uma visão maior do assunto do que o monitor da câmera fornece. Alguns problemas surgem quando você aproveita esta opção: ...

Como ativar a rotação automática da imagem em sua Nikon D5300 - manequins

Como ativar a rotação automática da imagem em sua Nikon D5300 - manequins

Quando tirar uma foto, o seu D5300 pode gravar a orientação da imagem - seja você segurado a câmera normalmente, criando uma imagem orientada horizontalmente ou girando a câmera do lado para filmar uma foto verticalmente orientada. Durante a reprodução, a câmera pode então ler os dados de orientação e girar automaticamente a imagem para que apareça ...

Escolha dos editores

Construir confiança para vender em mídias sociais - manequins

Construir confiança para vender em mídias sociais - manequins

Se o seu objetivo online é concluir uma venda para seus amigos e fãs de redes sociais, você terá que dar a essas pessoas um olhar frio e difícil. Alguns acreditam que mais é melhor. Mas mais o que? Você precisa se concentrar em pessoas que, no final do dia, podem comprar algo de você diretamente ou ...

Criar sua própria comunidade social para comércio - manequins

Criar sua própria comunidade social para comércio - manequins

Em um site comercial bem produzido, você muitas vezes vêem um link para uma área de comunidade social, que também pode levar o site externo para sites de redes sociais. Esta área é onde as páginas de serviço ao cliente e perguntas freqüentes vivem. Você também pode encontrar uma comunidade de clientes para clientes que incentive a participação de quem visita o site comercial. Se você escolher ...