Lar Finanças Pessoais Gerenciando arquivos com os comandos do sistema de arquivos Hadoop - manequins

Gerenciando arquivos com os comandos do sistema de arquivos Hadoop - manequins

Vídeo: Ajuda Linux - Dia 84 - Ferramentas de Big Data - Apache Hadoop 2025

Vídeo: Ajuda Linux - Dia 84 - Ferramentas de Big Data - Apache Hadoop 2025
Anonim

O HDFS é um dos dois principais componentes do framework Hadoop; o outro é o paradigma computacional conhecido como MapReduce. Um sistema de arquivos distribuídos é um sistema de arquivos que gerencia o armazenamento em um conjunto de máquinas em rede.

HDFS armazena dados em blocos , unidades cujo tamanho padrão é 64MB. Os arquivos que você deseja armazenar em HDFS precisam ser divididos em blocos de tamanho de bloco que são armazenados de forma independente em todo o cluster. Você pode usar o comando de linha fsck para listar os blocos que compõem cada arquivo no HDFS, da seguinte forma:

% hadoop fsck / -files -blocks

Como o Hadoop está escrito em Java, todas as interações com HDFS são gerenciadas através da API Java. Tenha em mente, no entanto, que você não precisa ser um guru Java para trabalhar com arquivos no HDFS. Várias interfaces Hadoop, construídas em cima da API Java, agora são de uso comum (e esconder Java), mas a mais simples é a interface de linha de comando; use a linha de comando para interagir com HDFS nos exemplos fornecidos.

Você acessa o shell do sistema de arquivos Hadoop executando uma forma do comando hadoop. Todos os comandos hadoop são invocados pelo script bin / hadoop. (Para recuperar uma descrição de todos os comandos hadoop, execute o script hadoop sem especificar nenhum argumento.) O comando hadoop possui a sintaxe

hadoop [--config confdir] [COMMAND] [GENERIC_OPTIONS] [COMMAND_OPTIONS]

The - A opção config confdir substitui o diretório de configuração padrão ($ HADOOP_HOME / conf), para que você possa personalizar facilmente a configuração do ambiente Hadoop. As opções genéricas e as opções de comando são um conjunto comum de opções que são suportadas por vários comandos.

Comandos do shell do sistema de arquivos Hadoop (para interfaces de linha de comando), obtenha identificadores de recursos uniformes (URIs) como argumentos. Um URI é uma seqüência de caracteres que é usado para identificar um nome ou um recurso da Web.

A string pode incluir um nome de esquema - um qualificador para a natureza da fonte de dados. Para HDFS, o nome do esquema é hdfs, e para o sistema de arquivos local, o nome do esquema é um arquivo. Se você não especificar um nome de esquema, o padrão é o nome do esquema especificado no arquivo de configuração. Um arquivo ou diretório no HDFS pode ser especificado de forma totalmente qualificada, como neste exemplo:

hdfs: // namenodehost / parent / child

Ou simplesmente pode ser / parent / child se o arquivo de configuração apontar para hdfs: // namenodehost.

Os comandos do shell do sistema de arquivos Hadoop, que são semelhantes aos comandos de arquivos do Linux, possuem a seguinte sintaxe geral:

hadoop hdfs dfs - file_cmd

Os leitores com alguma experiência anterior do Hadoop podem perguntar: "Mas o que sobre o comando hadoop fs?"O comando fs está obsoleto na série de lançamento Hadoop 0. 2, mas ainda funciona no Hadoop 2. Use o hdfs dfs em vez disso.

Como você pode esperar, você usa o comando mkdir para criar um diretório no HDFS, assim como você faria no Linux ou em sistemas operacionais baseados em Unix. Embora o HDFS tenha um diretório de trabalho padrão, / user / $ USER, onde $ USER é seu nome de usuário de login, você precisa criá-lo usando a sintaxe

$ hadoop hdfs dfs -mkdir / user / login_user_name

Por exemplo, para criar um diretório chamado "joanna", execute este comando mkdir:

$ hadoop hdfs dfs -mkdir / user / joanna

Use o comando Hadoop put para copiar um arquivo de seu sistema de arquivos local para HDFS:

$ hadoop hdfs dfs -put file_name / user / login_user_name

Por exemplo, para copiar um arquivo chamado dados. txt para este novo diretório, execute o seguinte comando de colocação:

$ hadoop hdfs dfs -put data. txt / user / joanna

Execute o comando ls para obter uma lista de arquivos HDFS:

$ hadoop hdfs dfs -ls. Encontrados 2 itens drwxr-xr-x - joanna supergroup 0 2013-06-30 12: 25 / usuário / joanna -rw-r - r-- 1 joanna supergroup 118 2013-06-30 12: 15 / usuário / joanna / dados. txt

A listagem do arquivo se divide como descrito nesta lista:

  • A coluna 1 mostra o modo de arquivo ("d" para o diretório e "-" para o arquivo normal, seguido das permissões). Os três tipos de permissão - ler (r), escrever (w) e executar (x) - são os mesmos que você encontra em sistemas baseados em Linux e Unix. A permissão de execução para um arquivo é ignorada porque você não pode executar um arquivo no HDFS. As permissões são agrupadas pelo proprietário, grupo e público (todos os outros).

  • A coluna 2 mostra o fator de replicação para arquivos. (O conceito de replicação não se aplica aos diretórios.) Os blocos que compõem um arquivo no HDFS são replicados para garantir a tolerância a falhas. O fator de replicação, ou o número de réplicas mantidas para um arquivo específico, é configurável. Você pode especificar o fator de replicação quando o arquivo for criado ou posterior, através do seu aplicativo.

  • As colunas 3 e 4 mostram o arquivo proprietário e grupo . Supergroup é o nome do grupo de superusores e um superusuário é o usuário com a mesma identidade que o processo NameNode. Se você começar o NomeNodo, você é o superusuário por enquanto. Este é um grupo especial - os usuários regulares terão seus usuários pertencerem a um grupo sem características especiais - um grupo que é simplesmente definido por um administrador Hadoop.

  • A coluna 5 mostra o tamanho do arquivo, em bytes ou 0 se for um diretório.

  • As colunas 6 e 7 mostram a data e a hora da última modificação, respectivamente.

  • A coluna 8 mostra o nome não qualificado (o que significa que o nome do esquema não está especificado) do arquivo ou diretório.

Use o comando Hadoop get para copiar um arquivo do HDFS para o sistema de arquivos local:

$ hadoop hdfs dfs -get nome_do_ilheiro / usuário / nome_do_usuário_usuário

Use o Hadoop rm comando para excluir um arquivo ou um diretório vazio:

$ hadoop hdfs dfs -rm nome_do_ilheiro / usuário / login_user_name

Use o comando hadoop hdfs dfs -help para obter ajuda detalhada para cada opção.

Gerenciando arquivos com os comandos do sistema de arquivos Hadoop - manequins

Escolha dos editores

Fatos de plantas e animais para lembrar para o exame de biologia AP - dummies

Fatos de plantas e animais para lembrar para o exame de biologia AP - dummies

A seguinte lista contém algumas das informações mais desafiadoras sobre plantas e animais que você pode encontrar no exame de biologia AP. Estude esta lista, desde que você precise - se você se lembrar dessa informação durante o teste, você fará tudo bem. As plantas vasculares têm raízes, rebentos e caules, cada um dos quais ...

Física Tópicos para estudar para o teste Miller Analogies (MAT) - dummies

Física Tópicos para estudar para o teste Miller Analogies (MAT) - dummies

Massa , velocidade, aceleração - sim, é hora de rever toda a física que você aprendeu no ensino médio e se preparar para o MAT (Miller Analogies Test). Para o MAT, familiarizar-se com a física não implica aprender equações complicadas. Você só precisa se lembrar de alguns termos de física e aprender sobre alguns físicos famosos. Essas listas ajudam ...

Médico Assistente de Exame para Dummies Cheat Sheet - dummies

Médico Assistente de Exame para Dummies Cheat Sheet - dummies

Quando você está se preparando para tomar a PANCE ou PANRE , você pode sentir que precisa conhecer uma quantidade infinita de informações. Como você vai se lembrar de todos os detalhes de tantas doenças e condições? Aqui, você pode revisar alguns mnemônicos úteis que não só ajudarão seu recall como você se prepara para o seu ...

Escolha dos editores

Como criar uma ordem de compra no QuickBooks 2010 - dummies

Como criar uma ordem de compra no QuickBooks 2010 - dummies

Você pode usar o QuickBooks para criar uma compra Ordem para o seu negócio. Uma ordem de compra informa um fornecedor que deseja comprar algum item. Na verdade, um pedido de compra é um contrato para compra.

Como personalizar os formulários de verificação no QuickBooks 2011 - dummies

Como personalizar os formulários de verificação no QuickBooks 2011 - dummies

Antes de escrever suas verificações no QuickBooks, você pode decida que deseja personalizá-los um pouco. Você pode querer que seus cheques reflitam a aparência do seu negócio. Por exemplo, o QuickBooks oferece a oportunidade de alterar as fontes em seus cheques. Se você clicar na aba Fontes na caixa de diálogo Verificar impressão ...

Como personalizar os formulários on-line do QuickBooks para lidar com os subtotais - manequins

Como personalizar os formulários on-line do QuickBooks para lidar com os subtotais - manequins

Se precisar subtotar informações sobre o seu formulários de vendas, configure formulários de vendas no QuickBooks Online para que você possa incluir subtotais neles. Você pode subtotar linhas em uma fatura, uma estimativa ou um recibo de venda. Primeiro, ative o recurso; Para este exemplo, ative o recurso para o formulário de fatura. Siga ...

Escolha dos editores

Como converter imagens em modo escala de cinza em Photoshop Elements 11 - dummies

Como converter imagens em modo escala de cinza em Photoshop Elements 11 - dummies

Imagens em escala de cinza têm preto e pixels brancos e qualquer um dos 256 níveis de cinza. Ao converter uma imagem RGB em escala de cinza no Photoshop Elements 11, você pode fazer com que pareça uma foto em preto e branco. Evite converter em escala de cinza escolhendo Image → Mode → Grayscale. Quando os elementos executam essa conversão, ele remove toda a cor dos pixels, ...

Como converter imagens em modo escala de cinza em Photoshop Elements 9 - dummies

Como converter imagens em modo escala de cinza em Photoshop Elements 9 - dummies

Em Photoshop Elements, você pode converter uma imagem RGB em escala de cinza, fazendo com que pareça uma foto em preto e branco. As imagens de tons de cinza têm pixels em preto e branco e qualquer um dos 256 níveis de cinza. No entanto, você não precisa desistir de seus dados de cores. Como alternativa ao uso do comando de menu para converter imagens para ...

Como corrigir imagens com curvas de cores - dummies

Como corrigir imagens com curvas de cores - dummies

Photoshop Elements 10 emprestou um recurso muito usado do Photoshop chamado Curves. No entanto, adicionou a palavra Cor e tirou parte de sua sofisticação. No entanto, o ajuste Color Curves tenta melhorar o alcance tonal em imagens a cores fazendo ajustes em destaques, sombras e tons médios em cada canal de cores. Tente usar este comando em ...