Lar Finanças Pessoais Nós escravos no sistema de arquivos distribuídos Hadoop (HDFS) - manequins

Nós escravos no sistema de arquivos distribuídos Hadoop (HDFS) - manequins

Índice:

Vídeo: Hadoop Rack Awareness 2025

Vídeo: Hadoop Rack Awareness 2025
Anonim

Em um cluster Hadoop, cada nó de dados (também conhecido como nodo escravo ) executa um processo de fundo chamado DataNode. Este processo em segundo plano (também conhecido como daemon ) acompanha as fatias de dados que o sistema armazena em seu computador. Ele fala regularmente para o servidor mestre para HDFS (conhecido como NameNode) para informar sobre a saúde e o status dos dados armazenados localmente.

Os blocos de dados são armazenados como arquivos brutos no sistema de arquivos local. Do ponto de vista de um usuário Hadoop, você não tem idéia de qual dos nós escravos tem as peças do arquivo que você precisa processar. De dentro do Hadoop, você não vê blocos de dados ou como eles são distribuídos em todo o cluster - tudo o que você vê é uma listagem de arquivos no HDFS.

A complexidade de como os blocos de arquivos são distribuídos no cluster está escondida de você - você não sabe o quão complicado é tudo, e você não precisa para conhecer. Na verdade, os próprios nós escravos nem sabem o que está dentro dos blocos de dados que estão armazenando. É o servidor NameNode que conhece os mapeamentos de quais blocos de dados compor os arquivos armazenados no HDFS.

Melhor vida através da redundância

Um princípio de design básico do HDFS é o conceito de minimizar o custo dos nós escravos individuais usando componentes de hardware básicos. Para sistemas amplamente escaláveis, essa idéia é sensata porque os custos escalam rapidamente quando você precisa de centenas ou milhares de nós escravos. O uso de hardware de menor custo tem conseqüência, no entanto, em que os componentes individuais não são tão confiáveis ​​como hardware mais caro.

Quando você está escolhendo opções de armazenamento, considere o impacto do uso de unidades de produtos em vez de unidades de qualidade empresarial mais caras. Imagine que você tenha um cluster de 750 nós, onde cada nó possui 12 unidades de disco rígido dedicadas ao armazenamento HDFS.

Com base em uma taxa de falha anual (AFR) de 4 por cento para unidades de disco de commodities (uma determinada unidade de disco rígido tem uma probabilidade de 4 por cento de falhar em um determinado ano, em outras palavras), seu cluster provavelmente experimentará um disco rígido falha todos os dias do ano.

Como pode haver tantos nós escravos, sua falha também é uma ocorrência comum em clusters maiores com centenas ou mais nós. Com esta informação em mente, o HDFS foi projetado com base no pressuposto de que todos os componentes de hardware , mesmo no nível do nó escravo, não são confiáveis.

HDFS supera a falta de confiabilidade de componentes de hardware individuais por meio de redundância: essa é a idéia por trás dessas três cópias de todos os arquivos armazenados em HDFS, distribuídos por todo o sistema.Mais especificamente, cada bloco de arquivo armazenado no HDFS possui um total de três réplicas. Se um sistema quebrar com um bloco de arquivo específico que você precisa, você pode recorrer aos outros dois.

Esboçar o design do servidor de nó escravo

Para equilibrar fatores importantes como o custo total de propriedade, capacidade de armazenamento e desempenho, você precisa planejar cuidadosamente o design de seus nós escravos.

Você geralmente vê os nós escravos agora, onde cada nó normalmente possui entre 12 e 16 unidades de disco rígido de 3 TB normalmente conectadas. Os nós escravos usam CPUs de dupla soquete moderadamente rápidos com seis a oito núcleos cada um - sem demônios de velocidade, em outras palavras. Isso é acompanhado por 48 GB de RAM. Em suma, este servidor é otimizado para armazenamento denso.

Como o HDFS é um sistema de arquivos ao nível do usuário, é importante otimizar o sistema de arquivos local nos nós escravos para trabalhar com o HDFS. A este respeito, uma decisão de alto impacto ao configurar seus servidores é escolher um sistema de arquivos para a instalação do Linux nos nós escravos.

O Ext3 é o sistema de arquivos mais comumente implantado porque tem sido a opção mais estável há vários anos. Dê uma olhada no Ext4, no entanto. É a próxima versão do Ext3, e está disponível o tempo suficiente para ser amplamente considerado estável e confiável.

Mais importante ainda para nossos propósitos, possui uma série de otimizações para lidar com arquivos grandes, o que o torna uma escolha ideal para servidores de nodos escravos HDFS.

Não use o Linux Logical Volume Manager (LVM) - representa uma camada adicional entre o sistema de arquivos Linux e o HDFS, o que impede o Hadoop de otimizar seu desempenho. Especificamente, o LVM agrega discos, o que dificulta o gerenciamento de recursos que HDFS e YARN fazem, com base em como os arquivos são distribuídos nas unidades físicas.

Nós escravos no sistema de arquivos distribuídos Hadoop (HDFS) - manequins

Escolha dos editores

Dicas para direcionar seu filme digital - manequins

Dicas para direcionar seu filme digital - manequins

Como diretor, é seu trabalho levar o filme a vida através de da maneira como seus atores interpretam os personagens e como a equipe filme cada tiro. O diretor trabalha com os atores e a equipe para obter o melhor deles e certifique-se de que a história seja contada através do que eles fazem. Dirigindo seu ...

Dez Wedding DSLR Filmmaking Techniques - dummies

Dez Wedding DSLR Filmmaking Techniques - dummies

Usando sua DSLR para filmar um casamento geralmente reside no final oposto da peça criativa espectro de fazer seu filme de autor. Aqui estão os dez melhores aspectos que você precisa considerar para mantê-lo vivo ao capturar esse evento único na vida. Tenha o equipamento de vídeo certo Você não poderá fazer um casamento até ...

Dez dicas para filmes documentários DSLR - dummies

Dez dicas para filmes documentários DSLR - dummies

Um documentário é uma conta de filme de não ficção de um tópico. Para fazer seu documentário DSLR de qualquer comprimento e assunto em algo que as pessoas acham interessante, considere estas dez dicas. Conheça o tópico que pretende filmar Se você está fazendo um filme de duração de duas horas ou um vídeo on-line de dois minutos, você precisa ...

Escolha dos editores

Como lucrar com a mamãe Blogando sem vender - manequins

Como lucrar com a mamãe Blogando sem vender - manequins

Vender é um termo usado para comprometendo sua integridade, princípios ou moral para ganhar dinheiro ou sucesso. O problema é que, se todos tivessem os mesmos princípios e a definição de integridade, não haveria muita necessidade de diferentes partidos políticos ou religiões. As pessoas podem ser acusadas de vender se eles simplesmente fazem coisas como ...

Como usar corretamente palavras-chave para sua comunidade online - manequins

Como usar corretamente palavras-chave para sua comunidade online - manequins

Quando você tem uma boa idéia de os tipos de palavras-chave para usar em sua comunidade online, é hora de escrever o conteúdo para que pareça natural. Muitas pessoas pimenta palavras-chave liberalmente em torno de suas postagens de blog, artigos da web, sobre páginas e outros conteúdos, o que parece bobo e errado. Embora o uso de palavras-chave seja bom ...

Como colocar anúncios no seu blog - manequins

Como colocar anúncios no seu blog - manequins

Para obter anúncios no site do seu blog, os programas que você Inscreva-se para fornecer-lhe geralmente um pouco de código que você insere em seus modelos de site. Alguns programas têm instruções passo-a-passo para pacotes populares de software de blog, mas esteja ciente de que você também precisará consultar a documentação do seu blog para obter ajuda com ...

Escolha dos editores

Exibindo Números como palavras no Excel - manequins

Exibindo Números como palavras no Excel - manequins

Se você já precisou exibir um número escrito como texto , você provavelmente descobriu que o Excel não oferece essa função. Quando o Excel não entrega, muitas vezes é possível corrigir a deficiência usando o VBA. Aqui está uma função VBA, denominada SPELLDOLLARS, que você pode usar nas fórmulas da planilha. Exemplos de Excel Aqui estão ...

Determinando a audiência para seu modelo financeiro - manequins

Determinando a audiência para seu modelo financeiro - manequins

Que estará visualizando ou usando seu modelo financeiro no futuro ? Se for apenas para seu próprio uso, você ainda deve seguir um bom modelo de design, mas não há necessidade de passar muito tempo na formatação para que pareça legal. Você ainda deve adicionar suposições e documentação de origem para o seu próprio ...

Eliminando células e dados no Excel 2007 - dummies

Eliminando células e dados no Excel 2007 - dummies

No Microsoft Office Excel 2007, quando você precisa excluir dados , remova a formatação em uma seleção de célula ou remova células inteiras, linhas ou colunas, você tem muitas opções dependendo do seu objetivo. O Excel pode executar dois tipos de exclusões de células em uma planilha: limpar dados de células e excluir a célula. Limpar o conteúdo da célula Limpar apenas ...