Lar Finanças Pessoais Mina Big Data with Hive - dummies

Mina Big Data with Hive - dummies

Vídeo: Howto install Hive on Ubuntu 2025

Vídeo: Howto install Hive on Ubuntu 2025
Anonim

A colmeia é uma camada de armazenamento de dados baseada em lote, construída nos elementos principais do Hadoop (HDFS e MapReduce) e é muito útil em grandes dados. Ele fornece aos usuários que conhecem o SQL com uma implementação SQL-lite simples chamada HiveQL sem sacrificar o acesso via mapeadores e redutores. Com a Hive, você pode obter o melhor dos dois mundos: acesso semelhante a SQL para dados estruturados e análise de dados sofisticados com o MapReduce.

Ao contrário da maioria dos data warehouses, o Hive não foi projetado para respostas rápidas às consultas. De fato, as consultas podem levar vários minutos ou mesmo horas dependendo da complexidade. Como resultado, a Hive é melhor usada para mineração de dados e análises mais profundas que não exigem comportamentos em tempo real. Por se basear na base Hadoop, é muito extensível, escalável e resiliente, algo que o armazenamento de dados médio não é.

A raiz usa três mecanismos para a organização de dados:

  • Tabelas: As tabelas de colmeia são as mesmas que as tabelas RDBMS, consistindo em linhas e colunas. Como o Hive está em camadas no Hadoop HDFS, as tabelas são mapeadas para diretórios no sistema de arquivos. Além disso, o Hive suporta tabelas armazenadas em outros sistemas de arquivos nativos.

  • Partições: Uma tabela de colméia pode suportar uma ou mais partições. Essas partições são mapeadas para subdiretórios no sistema de arquivos subjacente e representam a distribuição de dados em toda a tabela. Por exemplo, se uma tabela for chamada de autos, com um valor-chave de 12345 e um valor de fabricante Ford, o caminho para a partição seria / hivewh / autos / kv = 12345 / Ford.

  • Baldes: Por sua vez, os dados podem ser divididos em baldes. Os baldes são armazenados como arquivos no diretório de partição no sistema de arquivos subjacente. Os baldes são baseados no hash de uma coluna na tabela. No exemplo anterior, você pode ter um balde chamado Focus, contendo todos os atributos de um automóvel Ford Focus.

Os metadados de colméia são armazenados externamente na "metastaçao". "O metastore é um banco de dados relacional contendo as descrições detalhadas do esquema de colméia, incluindo tipos de coluna, proprietários, dados de chave e valor, estatísticas de tabela e assim por diante. A metáfora é capaz de sincronizar dados do catálogo com outros serviços de metadados no ecossistema Hadoop.

A colméia suporta uma linguagem semelhante a SQL chamada HiveQL. O HiveQL suporta muitas das primitivas SQL, como selecionar, juntar, agregar, unir tudo, e assim por diante. Ele também suporta consultas e inserções multitagens compartilhando os dados de entrada dentro de uma única declaração HiveQL. O HiveQL pode ser estendido para suportar agregação definida pelo usuário, transformação de colunas e scripts MapReduce incorporados.

Mina Big Data with Hive - dummies

Escolha dos editores

Dicas para direcionar seu filme digital - manequins

Dicas para direcionar seu filme digital - manequins

Como diretor, é seu trabalho levar o filme a vida através de da maneira como seus atores interpretam os personagens e como a equipe filme cada tiro. O diretor trabalha com os atores e a equipe para obter o melhor deles e certifique-se de que a história seja contada através do que eles fazem. Dirigindo seu ...

Dez Wedding DSLR Filmmaking Techniques - dummies

Dez Wedding DSLR Filmmaking Techniques - dummies

Usando sua DSLR para filmar um casamento geralmente reside no final oposto da peça criativa espectro de fazer seu filme de autor. Aqui estão os dez melhores aspectos que você precisa considerar para mantê-lo vivo ao capturar esse evento único na vida. Tenha o equipamento de vídeo certo Você não poderá fazer um casamento até ...

Dez dicas para filmes documentários DSLR - dummies

Dez dicas para filmes documentários DSLR - dummies

Um documentário é uma conta de filme de não ficção de um tópico. Para fazer seu documentário DSLR de qualquer comprimento e assunto em algo que as pessoas acham interessante, considere estas dez dicas. Conheça o tópico que pretende filmar Se você está fazendo um filme de duração de duas horas ou um vídeo on-line de dois minutos, você precisa ...

Escolha dos editores

Como lucrar com a mamãe Blogando sem vender - manequins

Como lucrar com a mamãe Blogando sem vender - manequins

Vender é um termo usado para comprometendo sua integridade, princípios ou moral para ganhar dinheiro ou sucesso. O problema é que, se todos tivessem os mesmos princípios e a definição de integridade, não haveria muita necessidade de diferentes partidos políticos ou religiões. As pessoas podem ser acusadas de vender se eles simplesmente fazem coisas como ...

Como usar corretamente palavras-chave para sua comunidade online - manequins

Como usar corretamente palavras-chave para sua comunidade online - manequins

Quando você tem uma boa idéia de os tipos de palavras-chave para usar em sua comunidade online, é hora de escrever o conteúdo para que pareça natural. Muitas pessoas pimenta palavras-chave liberalmente em torno de suas postagens de blog, artigos da web, sobre páginas e outros conteúdos, o que parece bobo e errado. Embora o uso de palavras-chave seja bom ...

Como colocar anúncios no seu blog - manequins

Como colocar anúncios no seu blog - manequins

Para obter anúncios no site do seu blog, os programas que você Inscreva-se para fornecer-lhe geralmente um pouco de código que você insere em seus modelos de site. Alguns programas têm instruções passo-a-passo para pacotes populares de software de blog, mas esteja ciente de que você também precisará consultar a documentação do seu blog para obter ajuda com ...

Escolha dos editores

Exibindo Números como palavras no Excel - manequins

Exibindo Números como palavras no Excel - manequins

Se você já precisou exibir um número escrito como texto , você provavelmente descobriu que o Excel não oferece essa função. Quando o Excel não entrega, muitas vezes é possível corrigir a deficiência usando o VBA. Aqui está uma função VBA, denominada SPELLDOLLARS, que você pode usar nas fórmulas da planilha. Exemplos de Excel Aqui estão ...

Determinando a audiência para seu modelo financeiro - manequins

Determinando a audiência para seu modelo financeiro - manequins

Que estará visualizando ou usando seu modelo financeiro no futuro ? Se for apenas para seu próprio uso, você ainda deve seguir um bom modelo de design, mas não há necessidade de passar muito tempo na formatação para que pareça legal. Você ainda deve adicionar suposições e documentação de origem para o seu próprio ...

Eliminando células e dados no Excel 2007 - dummies

Eliminando células e dados no Excel 2007 - dummies

No Microsoft Office Excel 2007, quando você precisa excluir dados , remova a formatação em uma seleção de célula ou remova células inteiras, linhas ou colunas, você tem muitas opções dependendo do seu objetivo. O Excel pode executar dois tipos de exclusões de células em uma planilha: limpar dados de células e excluir a célula. Limpar o conteúdo da célula Limpar apenas ...