Lar Finanças Pessoais Nós de borda em Hadoop Clusters - dummies

Nós de borda em Hadoop Clusters - dummies

Índice:

Vídeo: Introduction to Amazon Web Services by Leo Zhadanovsky 2025

Vídeo: Introduction to Amazon Web Services by Leo Zhadanovsky 2025
Anonim

Os nós de borda são a interface entre o cluster Hadoop e a rede externa. Por esse motivo, eles às vezes são chamados de gateway nós. Mais comumente, os nós de borda são usados ​​para executar aplicativos de cliente e ferramentas de administração de cluster.

Eles também são freqüentemente usados ​​como áreas de teste para dados que são transferidos para o cluster Hadoop. Como tal, Oozie, Pig, Sqoop e ferramentas de gerenciamento, como Hue e Ambari correm bem lá. A figura mostra os processos que você pode executar nos nós Edge.

Os nós de borda são muitas vezes ignorados nas discussões de arquitetura de hardware do Hadoop. Esta situação é infeliz porque os nós de borda atendem a um propósito importante em um cluster Hadoop e possuem requisitos de hardware diferentes dos nós mestres e nós escravos.

Em geral, é uma boa idéia minimizar as implantações de ferramentas de administração em nós mestres e nós escravos para garantir que os serviços críticos do Hadoop, como o NomeNodo, tenham tão pouca concorrência quanto possível.

Você deve evitar colocar um utilitário de transferência de dados como Sqoop em qualquer coisa, exceto um nó de borda, pois os altos volumes de transferência de dados podem arriscar a capacidade dos serviços Hadoop no mesmo nó de se comunicar. As mensagens de intercâmbio de serviços Hadoop são sua força vital, portanto, alta latência significa que todo o nó poderia ser cortado do cluster.

A figura mostra dois nós de borda, mas para muitos clusters de Hadoop seria suficiente um único nó de borda. Os nós de borda adicionais são mais comumente necessários quando o volume de dados que estão sendo transferidos dentro ou fora do cluster é demais para um único servidor.

Armazenamento recomendado

Para nós de borda em um cluster Hadoop, use armazenamento de classe corporativa. Para nós de ponta focados em ferramentas de administração e aplicações de aplicativos em execução, use quatro unidades SAS de 900GB, juntamente com um controlador RAID HDD configurado para RAID 1 + 0.

Os nós de borda orientados para ingerir dados, obviamente, precisam de muito mais espaço de armazenamento, para que você possa adicionar unidades ao nó de borda. Neste caso, use unidades LFF SAS porque há capacidades muito maiores disponíveis, em comparação com unidades SAS de tipo fator menor.

Processadores recomendados

Um nó de borda de propósito geral seria bem servido por uma configuração de processador semelhante a usada para nós escravos - especificamente, um servidor de dupla soquete com processadores Ivy Bridge com clock entre 2 e 2. 5GHz.

Memória recomendada

Para a maioria das cargas de trabalho nos nós de borda, são suficientes 48 GB de RAM.

Rede recomendada

Para habilitar a comunicação entre a rede externa e o cluster Hadoop, os nós de borda precisam ser multi-homed na sub-rede privada do cluster Hadoop, bem como na rede corporativa.

Um computador multi-homed é aquele que possui conexões dedicadas a várias redes. Esta é uma ilustração prática de por que os nós de borda são perfeitamente adequados para a interação com o mundo fora do cluster Hadoop. Manter seu cluster Hadoop em sua própria sub-rede privada é uma excelente prática, portanto, esses nós de borda servem como uma janela controlada dentro do cluster.

Para nós de borda que servem para a execução de aplicativos de cliente ou ferramentas de administração, recomenda-se dois pares de conexões de rede 1GbE ligadas: um par para se conectar ao cluster Hadoop e outro par para a rede externa.

Os nós de borda orientados para o tratamento de taxas de transferência de dados de entrada e de saída elevadas precisarão de dois (ou mais) pares de conectores de rede 10GbE ligados: um par para se conectar ao cluster Hadoop e outro par para a rede externa ou fontes específicas de ingestão de dados.

Nós de borda em Hadoop Clusters - dummies

Escolha dos editores

Dicas para direcionar seu filme digital - manequins

Dicas para direcionar seu filme digital - manequins

Como diretor, é seu trabalho levar o filme a vida através de da maneira como seus atores interpretam os personagens e como a equipe filme cada tiro. O diretor trabalha com os atores e a equipe para obter o melhor deles e certifique-se de que a história seja contada através do que eles fazem. Dirigindo seu ...

Dez Wedding DSLR Filmmaking Techniques - dummies

Dez Wedding DSLR Filmmaking Techniques - dummies

Usando sua DSLR para filmar um casamento geralmente reside no final oposto da peça criativa espectro de fazer seu filme de autor. Aqui estão os dez melhores aspectos que você precisa considerar para mantê-lo vivo ao capturar esse evento único na vida. Tenha o equipamento de vídeo certo Você não poderá fazer um casamento até ...

Dez dicas para filmes documentários DSLR - dummies

Dez dicas para filmes documentários DSLR - dummies

Um documentário é uma conta de filme de não ficção de um tópico. Para fazer seu documentário DSLR de qualquer comprimento e assunto em algo que as pessoas acham interessante, considere estas dez dicas. Conheça o tópico que pretende filmar Se você está fazendo um filme de duração de duas horas ou um vídeo on-line de dois minutos, você precisa ...

Escolha dos editores

Como lucrar com a mamãe Blogando sem vender - manequins

Como lucrar com a mamãe Blogando sem vender - manequins

Vender é um termo usado para comprometendo sua integridade, princípios ou moral para ganhar dinheiro ou sucesso. O problema é que, se todos tivessem os mesmos princípios e a definição de integridade, não haveria muita necessidade de diferentes partidos políticos ou religiões. As pessoas podem ser acusadas de vender se eles simplesmente fazem coisas como ...

Como usar corretamente palavras-chave para sua comunidade online - manequins

Como usar corretamente palavras-chave para sua comunidade online - manequins

Quando você tem uma boa idéia de os tipos de palavras-chave para usar em sua comunidade online, é hora de escrever o conteúdo para que pareça natural. Muitas pessoas pimenta palavras-chave liberalmente em torno de suas postagens de blog, artigos da web, sobre páginas e outros conteúdos, o que parece bobo e errado. Embora o uso de palavras-chave seja bom ...

Como colocar anúncios no seu blog - manequins

Como colocar anúncios no seu blog - manequins

Para obter anúncios no site do seu blog, os programas que você Inscreva-se para fornecer-lhe geralmente um pouco de código que você insere em seus modelos de site. Alguns programas têm instruções passo-a-passo para pacotes populares de software de blog, mas esteja ciente de que você também precisará consultar a documentação do seu blog para obter ajuda com ...

Escolha dos editores

Exibindo Números como palavras no Excel - manequins

Exibindo Números como palavras no Excel - manequins

Se você já precisou exibir um número escrito como texto , você provavelmente descobriu que o Excel não oferece essa função. Quando o Excel não entrega, muitas vezes é possível corrigir a deficiência usando o VBA. Aqui está uma função VBA, denominada SPELLDOLLARS, que você pode usar nas fórmulas da planilha. Exemplos de Excel Aqui estão ...

Determinando a audiência para seu modelo financeiro - manequins

Determinando a audiência para seu modelo financeiro - manequins

Que estará visualizando ou usando seu modelo financeiro no futuro ? Se for apenas para seu próprio uso, você ainda deve seguir um bom modelo de design, mas não há necessidade de passar muito tempo na formatação para que pareça legal. Você ainda deve adicionar suposições e documentação de origem para o seu próprio ...

Eliminando células e dados no Excel 2007 - dummies

Eliminando células e dados no Excel 2007 - dummies

No Microsoft Office Excel 2007, quando você precisa excluir dados , remova a formatação em uma seleção de célula ou remova células inteiras, linhas ou colunas, você tem muitas opções dependendo do seu objetivo. O Excel pode executar dois tipos de exclusões de células em uma planilha: limpar dados de células e excluir a célula. Limpar o conteúdo da célula Limpar apenas ...