Lar Finanças Pessoais Nós de borda em Hadoop Clusters - dummies

Nós de borda em Hadoop Clusters - dummies

Índice:

Vídeo: Introduction to Amazon Web Services by Leo Zhadanovsky 2025

Vídeo: Introduction to Amazon Web Services by Leo Zhadanovsky 2025
Anonim

Os nós de borda são a interface entre o cluster Hadoop e a rede externa. Por esse motivo, eles às vezes são chamados de gateway nós. Mais comumente, os nós de borda são usados ​​para executar aplicativos de cliente e ferramentas de administração de cluster.

Eles também são freqüentemente usados ​​como áreas de teste para dados que são transferidos para o cluster Hadoop. Como tal, Oozie, Pig, Sqoop e ferramentas de gerenciamento, como Hue e Ambari correm bem lá. A figura mostra os processos que você pode executar nos nós Edge.

Os nós de borda são muitas vezes ignorados nas discussões de arquitetura de hardware do Hadoop. Esta situação é infeliz porque os nós de borda atendem a um propósito importante em um cluster Hadoop e possuem requisitos de hardware diferentes dos nós mestres e nós escravos.

Em geral, é uma boa idéia minimizar as implantações de ferramentas de administração em nós mestres e nós escravos para garantir que os serviços críticos do Hadoop, como o NomeNodo, tenham tão pouca concorrência quanto possível.

Você deve evitar colocar um utilitário de transferência de dados como Sqoop em qualquer coisa, exceto um nó de borda, pois os altos volumes de transferência de dados podem arriscar a capacidade dos serviços Hadoop no mesmo nó de se comunicar. As mensagens de intercâmbio de serviços Hadoop são sua força vital, portanto, alta latência significa que todo o nó poderia ser cortado do cluster.

A figura mostra dois nós de borda, mas para muitos clusters de Hadoop seria suficiente um único nó de borda. Os nós de borda adicionais são mais comumente necessários quando o volume de dados que estão sendo transferidos dentro ou fora do cluster é demais para um único servidor.

Armazenamento recomendado

Para nós de borda em um cluster Hadoop, use armazenamento de classe corporativa. Para nós de ponta focados em ferramentas de administração e aplicações de aplicativos em execução, use quatro unidades SAS de 900GB, juntamente com um controlador RAID HDD configurado para RAID 1 + 0.

Os nós de borda orientados para ingerir dados, obviamente, precisam de muito mais espaço de armazenamento, para que você possa adicionar unidades ao nó de borda. Neste caso, use unidades LFF SAS porque há capacidades muito maiores disponíveis, em comparação com unidades SAS de tipo fator menor.

Processadores recomendados

Um nó de borda de propósito geral seria bem servido por uma configuração de processador semelhante a usada para nós escravos - especificamente, um servidor de dupla soquete com processadores Ivy Bridge com clock entre 2 e 2. 5GHz.

Memória recomendada

Para a maioria das cargas de trabalho nos nós de borda, são suficientes 48 GB de RAM.

Rede recomendada

Para habilitar a comunicação entre a rede externa e o cluster Hadoop, os nós de borda precisam ser multi-homed na sub-rede privada do cluster Hadoop, bem como na rede corporativa.

Um computador multi-homed é aquele que possui conexões dedicadas a várias redes. Esta é uma ilustração prática de por que os nós de borda são perfeitamente adequados para a interação com o mundo fora do cluster Hadoop. Manter seu cluster Hadoop em sua própria sub-rede privada é uma excelente prática, portanto, esses nós de borda servem como uma janela controlada dentro do cluster.

Para nós de borda que servem para a execução de aplicativos de cliente ou ferramentas de administração, recomenda-se dois pares de conexões de rede 1GbE ligadas: um par para se conectar ao cluster Hadoop e outro par para a rede externa.

Os nós de borda orientados para o tratamento de taxas de transferência de dados de entrada e de saída elevadas precisarão de dois (ou mais) pares de conectores de rede 10GbE ligados: um par para se conectar ao cluster Hadoop e outro par para a rede externa ou fontes específicas de ingestão de dados.

Nós de borda em Hadoop Clusters - dummies

Escolha dos editores

Fatos de plantas e animais para lembrar para o exame de biologia AP - dummies

Fatos de plantas e animais para lembrar para o exame de biologia AP - dummies

A seguinte lista contém algumas das informações mais desafiadoras sobre plantas e animais que você pode encontrar no exame de biologia AP. Estude esta lista, desde que você precise - se você se lembrar dessa informação durante o teste, você fará tudo bem. As plantas vasculares têm raízes, rebentos e caules, cada um dos quais ...

Física Tópicos para estudar para o teste Miller Analogies (MAT) - dummies

Física Tópicos para estudar para o teste Miller Analogies (MAT) - dummies

Massa , velocidade, aceleração - sim, é hora de rever toda a física que você aprendeu no ensino médio e se preparar para o MAT (Miller Analogies Test). Para o MAT, familiarizar-se com a física não implica aprender equações complicadas. Você só precisa se lembrar de alguns termos de física e aprender sobre alguns físicos famosos. Essas listas ajudam ...

Médico Assistente de Exame para Dummies Cheat Sheet - dummies

Médico Assistente de Exame para Dummies Cheat Sheet - dummies

Quando você está se preparando para tomar a PANCE ou PANRE , você pode sentir que precisa conhecer uma quantidade infinita de informações. Como você vai se lembrar de todos os detalhes de tantas doenças e condições? Aqui, você pode revisar alguns mnemônicos úteis que não só ajudarão seu recall como você se prepara para o seu ...

Escolha dos editores

Como criar uma ordem de compra no QuickBooks 2010 - dummies

Como criar uma ordem de compra no QuickBooks 2010 - dummies

Você pode usar o QuickBooks para criar uma compra Ordem para o seu negócio. Uma ordem de compra informa um fornecedor que deseja comprar algum item. Na verdade, um pedido de compra é um contrato para compra.

Como personalizar os formulários de verificação no QuickBooks 2011 - dummies

Como personalizar os formulários de verificação no QuickBooks 2011 - dummies

Antes de escrever suas verificações no QuickBooks, você pode decida que deseja personalizá-los um pouco. Você pode querer que seus cheques reflitam a aparência do seu negócio. Por exemplo, o QuickBooks oferece a oportunidade de alterar as fontes em seus cheques. Se você clicar na aba Fontes na caixa de diálogo Verificar impressão ...

Como personalizar os formulários on-line do QuickBooks para lidar com os subtotais - manequins

Como personalizar os formulários on-line do QuickBooks para lidar com os subtotais - manequins

Se precisar subtotar informações sobre o seu formulários de vendas, configure formulários de vendas no QuickBooks Online para que você possa incluir subtotais neles. Você pode subtotar linhas em uma fatura, uma estimativa ou um recibo de venda. Primeiro, ative o recurso; Para este exemplo, ative o recurso para o formulário de fatura. Siga ...

Escolha dos editores

Como converter imagens em modo escala de cinza em Photoshop Elements 11 - dummies

Como converter imagens em modo escala de cinza em Photoshop Elements 11 - dummies

Imagens em escala de cinza têm preto e pixels brancos e qualquer um dos 256 níveis de cinza. Ao converter uma imagem RGB em escala de cinza no Photoshop Elements 11, você pode fazer com que pareça uma foto em preto e branco. Evite converter em escala de cinza escolhendo Image → Mode → Grayscale. Quando os elementos executam essa conversão, ele remove toda a cor dos pixels, ...

Como converter imagens em modo escala de cinza em Photoshop Elements 9 - dummies

Como converter imagens em modo escala de cinza em Photoshop Elements 9 - dummies

Em Photoshop Elements, você pode converter uma imagem RGB em escala de cinza, fazendo com que pareça uma foto em preto e branco. As imagens de tons de cinza têm pixels em preto e branco e qualquer um dos 256 níveis de cinza. No entanto, você não precisa desistir de seus dados de cores. Como alternativa ao uso do comando de menu para converter imagens para ...

Como corrigir imagens com curvas de cores - dummies

Como corrigir imagens com curvas de cores - dummies

Photoshop Elements 10 emprestou um recurso muito usado do Photoshop chamado Curves. No entanto, adicionou a palavra Cor e tirou parte de sua sofisticação. No entanto, o ajuste Color Curves tenta melhorar o alcance tonal em imagens a cores fazendo ajustes em destaques, sombras e tons médios em cada canal de cores. Tente usar este comando em ...