Lar Finanças Pessoais Dimensionando seu Hadoop Cluster - dummies

Dimensionando seu Hadoop Cluster - dummies

Vídeo: HDInsight: Fast Interactive Queries with Hive on LLAP | Azure Friday 2025

Vídeo: HDInsight: Fast Interactive Queries with Hive on LLAP | Azure Friday 2025
Anonim

Dimensionar qualquer sistema de processamento de dados é tanto uma ciência quanto é uma arte. Com o Hadoop, você considera a mesma informação que você faria com um banco de dados relacional, por exemplo. Mais importante, você precisa saber quanto de dados você possui, estimar suas taxas de crescimento esperadas e estabelecer uma política de retenção (quanto tempo para manter os dados).

As respostas a essas perguntas servem como ponto de partida, que é independente de quaisquer requisitos relacionados à tecnologia.

Depois de determinar a quantidade de dados você precisa armazenar, você pode começar a avaliar as considerações específicas do Hadoop. Suponha que você tenha uma empresa de telecomunicações e você estabeleceu que você precisa de 750 terabytes (TB) de espaço de armazenamento para seus arquivos de registro de registro de detalhes de chamadas (CDR). < Você retém esses registros para obedecer os regulamentos governamentais, mas você também pode analisá-los o veja padrões de churn e monitorar a saúde da rede, por exemplo. Para determinar quanto espaço de armazenamento você precisa e, como resultado, quantos racks e nós escravos você precisa, você faz seus cálculos com esses fatores em mente:

Replicação:
  • O fator de replicação padrão para dados em HDFS é 3. Os 500 terabytes de dados de CDR para a empresa de telecomunicações no exemplo, em seguida, converte-se em 1500 terabytes. Espaço de troca:

  • Qualquer análise ou processamento dos dados pelo MapReduce precisa de mais 25% do espaço para armazenar os conjuntos de resultados provisórios e finais. (A empresa de telecomunicações agora precisa de 1875 terabytes de espaço de armazenamento.)

    Compressão:
  • A empresa de telecomunicações armazena as CDRs em uma forma comprimida, onde a taxa média de compressão deverá ser de 3: 1. Agora você precisa de 625 terabytes. Número de nós escravos:

  • Supondo que cada nó escravo tenha doze unidades 3TB dedicadas a HDFS, cada nó escravo possui 36 terabytes de armazenamento HDFS bruto disponível, portanto a empresa precisa de 18 nós escravos. Número de racks:

  • Como cada nó escravo usa 2RU e a empresa no exemplo precisa de três nós mestres (1RU cada) e dois switches ToR (1RU cada), você precisa de um total de 41RU. É 1RU menor do que a capacidade total de um rack padrão, de modo que um único rack é suficiente para esta implantação. Independentemente, não há espaço para o crescimento neste cluster, por isso é prudente comprar um segundo rack (e dois switches ToR adicionais) e dividir os nós escravos entre os dois racks.

    Teste:

  • A manutenção de um cluster de teste que é uma representação em escala menor do cluster de produção é uma prática padrão. Não precisa ser enorme, mas você quer pelo menos cinco nós de dados para que você obtenha uma representação precisa do comportamento de Hadoop.Tal como acontece com qualquer ambiente de teste, ele deve ser isolado em uma rede diferente do cluster de produção. Backup e recuperação de desastres:

  • Como qualquer sistema de produção, a empresa de telecomunicações também precisará considerar requisitos de backup e recuperação de desastres. Esta empresa poderia ir tão longe quanto para criar um cluster espelho para garantir que eles tenham um modo de espera quente para todo o sistema. Esta é obviamente a opção mais cara, mas é apropriada para ambientes onde o tempo de atividade constante é crítico. No final menos dispendioso do espectro (além de não fazer backup dos dados), a empresa de telecomunicações poderia fazer backup regularmente todos os dados (incluindo o próprio dado, aplicativos, arquivos de configuração e metadados) armazenados em seu cluster de produção gravar. Com a fita adesiva, os dados não são imediatamente acessíveis, mas isso permitirá um esforço de recuperação de desastres no caso de todo o cluster Hadoop de produção falhar.

    Tal como acontece com o seu próprio computador pessoal, quando a unidade de disco rígido principal preenche o espaço, o sistema diminui consideravelmente. Hadoop não é exceção. Além disso, um disco rígido funciona melhor quando está menos de 85 a 90 por cento cheio. Com esta informação em mente, se o desempenho for importante para você, você deve superar o fator de espaço de troca de 25 a 33 por cento.

Dimensionando seu Hadoop Cluster - dummies

Escolha dos editores

Como criar um módulo HTML personalizado no Joomla - dummies

Como criar um módulo HTML personalizado no Joomla - dummies

Uma das grandes coisas sobre o Joomla é o quão incrivelmente flexível é. A instalação padrão do CMS inclui 23 módulos diferentes para ajudá-lo a fazer seu site funcionar sem problemas. Às vezes, no entanto, você pode querer adicionar uma função ao seu site que esses 23 módulos simplesmente não vão cobrir. Sob tais circunstâncias, você pode querer considerar ...

Como criar um item de menu no Joomla Content Management - manequins

Como criar um item de menu no Joomla Content Management - manequins

Um item de menu determina o layout dos artigos, que é um dos aspectos do Joomla para o qual você precisa se acostumar. As páginas da Web não existem fisicamente no Joomla - elas são apenas itens no seu banco de dados - até que a página seja acessada. Quando você abre um artigo, o Joomla tira os dados necessários do ...

Como criar um novo item de menu com o Joomla! 1. 6 - dummies

Como criar um novo item de menu com o Joomla! 1. 6 - dummies

Não estresse se você precisa criar um item de menu em sua página da Web interativa - é fácil ao usar o Joomla! Gerenciador de menu. Para adicionar itens de menu a um site existente, basta usar estas etapas: Escolha Menus → Gerenciador de menus para abrir o Gerenciador de menus. Clique no nome do menu que deseja adicionar um novo ...

Escolha dos editores

Obtendo Ajuda do Eclipse - dummies

Obtendo Ajuda do Eclipse - dummies

Com a complexidade do Java e a nuance do Eclipse, você não pode esperar para lembrar de tudo. Às vezes, você precisa de um pouco mais de ajuda do Eclipse para começar sua programação. Felizmente, o Eclipse oferece ajuda geral e sensível ao contexto: para ajuda sensível ao contexto: no Windows, pressione F1. No Linux, pressione Ctrl + F1. Em um Mac, pressione ...

Software gratuito: preenchimento automático de células no OpenOffice. org Calc - dummies

Software gratuito: preenchimento automático de células no OpenOffice. org Calc - dummies

OpenOffice. org - uma alternativa gratuita para o Microsoft Office - inclui Calc, uma planilha eletrônica semelhante ao Excel. O Calc fornece uma maneira fácil de criar automaticamente uma coluna ou linha de números em qualquer sequência que você especificar. Esse recurso de preenchimento automático é útil para criar listas numeradas ou preencher os cabeçalhos de colunas e linhas de tabelas, como ...

Acessos acessíveis no modo de exibição do Prezi - dummies

Acessos acessíveis no modo de exibição do Prezi - dummies

O prezi possui dois modos de operação diferentes: Modo de edição, no qual você crie sua apresentação e Show Mode, no qual você apresenta suas criações. No modo Show, use esses atalhos úteis para tornar sua apresentação ainda mais suave. Use esta como uma lista de verificação de prática antes de começar: Use esta função: Para fazer isso: Completo ...

Escolha dos editores

Elementos HTML básicos - dummies

Elementos HTML básicos - dummies

HyperText Markup Language (HTML) é o idioma da web, onde os elementos ditaram a formatação e o estilo do seu conteúdo. Os elementos HTML compõem a codificação baixada que você vê quando você acessa uma página da Web em seu navegador da Web (como Internet Explorer, Firefox ou Safari). Aqui estão alguns elementos básicos para você ...

Usando AutoCAD DesignCenter - dummies

Usando AutoCAD DesignCenter - dummies

DesignCenter é um nome tolo para uma paleta útil, se um pouco ocupada. A paleta DesignCenter é útil para dados de mineração de todos os tipos de desenhos. Enquanto a paleta Propriedades está preocupada com as propriedades do objeto, a paleta DesignCenter lida principalmente com objetos nomeados: camadas, tipos de linha, definições de bloco (isto é, símbolo), estilos de texto e outros objetos organizacionais ...

Zoom e Panning no AutoCAD - dummies

Zoom e Panning no AutoCAD - dummies

O AutoCAD facilita a panorâmica, oferecendo barras de rolagem e panning em tempo real. Na panorâmica em tempo real (em oposição à panorâmica de finalização), você pode ver objetos movendo-se na tela enquanto você arrasta o mouse para cima e para baixo ou para frente e para trás. Claro, o ponto de vista está em movimento, não os objetos. Tanto a panorâmica quanto o zoom mudam a visualização ...