Lar Finanças Pessoais Mina Big Data with Hive - dummies

Mina Big Data with Hive - dummies

Vídeo: Howto install Hive on Ubuntu 2025

Vídeo: Howto install Hive on Ubuntu 2025
Anonim

A colmeia é uma camada de armazenamento de dados baseada em lote, construída nos elementos principais do Hadoop (HDFS e MapReduce) e é muito útil em grandes dados. Ele fornece aos usuários que conhecem o SQL com uma implementação SQL-lite simples chamada HiveQL sem sacrificar o acesso via mapeadores e redutores. Com a Hive, você pode obter o melhor dos dois mundos: acesso semelhante a SQL para dados estruturados e análise de dados sofisticados com o MapReduce.

Ao contrário da maioria dos data warehouses, o Hive não foi projetado para respostas rápidas às consultas. De fato, as consultas podem levar vários minutos ou mesmo horas dependendo da complexidade. Como resultado, a Hive é melhor usada para mineração de dados e análises mais profundas que não exigem comportamentos em tempo real. Por se basear na base Hadoop, é muito extensível, escalável e resiliente, algo que o armazenamento de dados médio não é.

A raiz usa três mecanismos para a organização de dados:

  • Tabelas: As tabelas de colmeia são as mesmas que as tabelas RDBMS, consistindo em linhas e colunas. Como o Hive está em camadas no Hadoop HDFS, as tabelas são mapeadas para diretórios no sistema de arquivos. Além disso, o Hive suporta tabelas armazenadas em outros sistemas de arquivos nativos.

  • Partições: Uma tabela de colméia pode suportar uma ou mais partições. Essas partições são mapeadas para subdiretórios no sistema de arquivos subjacente e representam a distribuição de dados em toda a tabela. Por exemplo, se uma tabela for chamada de autos, com um valor-chave de 12345 e um valor de fabricante Ford, o caminho para a partição seria / hivewh / autos / kv = 12345 / Ford.

  • Baldes: Por sua vez, os dados podem ser divididos em baldes. Os baldes são armazenados como arquivos no diretório de partição no sistema de arquivos subjacente. Os baldes são baseados no hash de uma coluna na tabela. No exemplo anterior, você pode ter um balde chamado Focus, contendo todos os atributos de um automóvel Ford Focus.

Os metadados de colméia são armazenados externamente na "metastaçao". "O metastore é um banco de dados relacional contendo as descrições detalhadas do esquema de colméia, incluindo tipos de coluna, proprietários, dados de chave e valor, estatísticas de tabela e assim por diante. A metáfora é capaz de sincronizar dados do catálogo com outros serviços de metadados no ecossistema Hadoop.

A colméia suporta uma linguagem semelhante a SQL chamada HiveQL. O HiveQL suporta muitas das primitivas SQL, como selecionar, juntar, agregar, unir tudo, e assim por diante. Ele também suporta consultas e inserções multitagens compartilhando os dados de entrada dentro de uma única declaração HiveQL. O HiveQL pode ser estendido para suportar agregação definida pelo usuário, transformação de colunas e scripts MapReduce incorporados.

Mina Big Data with Hive - dummies

Escolha dos editores

Fatos de plantas e animais para lembrar para o exame de biologia AP - dummies

Fatos de plantas e animais para lembrar para o exame de biologia AP - dummies

A seguinte lista contém algumas das informações mais desafiadoras sobre plantas e animais que você pode encontrar no exame de biologia AP. Estude esta lista, desde que você precise - se você se lembrar dessa informação durante o teste, você fará tudo bem. As plantas vasculares têm raízes, rebentos e caules, cada um dos quais ...

Física Tópicos para estudar para o teste Miller Analogies (MAT) - dummies

Física Tópicos para estudar para o teste Miller Analogies (MAT) - dummies

Massa , velocidade, aceleração - sim, é hora de rever toda a física que você aprendeu no ensino médio e se preparar para o MAT (Miller Analogies Test). Para o MAT, familiarizar-se com a física não implica aprender equações complicadas. Você só precisa se lembrar de alguns termos de física e aprender sobre alguns físicos famosos. Essas listas ajudam ...

Médico Assistente de Exame para Dummies Cheat Sheet - dummies

Médico Assistente de Exame para Dummies Cheat Sheet - dummies

Quando você está se preparando para tomar a PANCE ou PANRE , você pode sentir que precisa conhecer uma quantidade infinita de informações. Como você vai se lembrar de todos os detalhes de tantas doenças e condições? Aqui, você pode revisar alguns mnemônicos úteis que não só ajudarão seu recall como você se prepara para o seu ...

Escolha dos editores

Como criar uma ordem de compra no QuickBooks 2010 - dummies

Como criar uma ordem de compra no QuickBooks 2010 - dummies

Você pode usar o QuickBooks para criar uma compra Ordem para o seu negócio. Uma ordem de compra informa um fornecedor que deseja comprar algum item. Na verdade, um pedido de compra é um contrato para compra.

Como personalizar os formulários de verificação no QuickBooks 2011 - dummies

Como personalizar os formulários de verificação no QuickBooks 2011 - dummies

Antes de escrever suas verificações no QuickBooks, você pode decida que deseja personalizá-los um pouco. Você pode querer que seus cheques reflitam a aparência do seu negócio. Por exemplo, o QuickBooks oferece a oportunidade de alterar as fontes em seus cheques. Se você clicar na aba Fontes na caixa de diálogo Verificar impressão ...

Como personalizar os formulários on-line do QuickBooks para lidar com os subtotais - manequins

Como personalizar os formulários on-line do QuickBooks para lidar com os subtotais - manequins

Se precisar subtotar informações sobre o seu formulários de vendas, configure formulários de vendas no QuickBooks Online para que você possa incluir subtotais neles. Você pode subtotar linhas em uma fatura, uma estimativa ou um recibo de venda. Primeiro, ative o recurso; Para este exemplo, ative o recurso para o formulário de fatura. Siga ...

Escolha dos editores

Como converter imagens em modo escala de cinza em Photoshop Elements 11 - dummies

Como converter imagens em modo escala de cinza em Photoshop Elements 11 - dummies

Imagens em escala de cinza têm preto e pixels brancos e qualquer um dos 256 níveis de cinza. Ao converter uma imagem RGB em escala de cinza no Photoshop Elements 11, você pode fazer com que pareça uma foto em preto e branco. Evite converter em escala de cinza escolhendo Image → Mode → Grayscale. Quando os elementos executam essa conversão, ele remove toda a cor dos pixels, ...

Como converter imagens em modo escala de cinza em Photoshop Elements 9 - dummies

Como converter imagens em modo escala de cinza em Photoshop Elements 9 - dummies

Em Photoshop Elements, você pode converter uma imagem RGB em escala de cinza, fazendo com que pareça uma foto em preto e branco. As imagens de tons de cinza têm pixels em preto e branco e qualquer um dos 256 níveis de cinza. No entanto, você não precisa desistir de seus dados de cores. Como alternativa ao uso do comando de menu para converter imagens para ...

Como corrigir imagens com curvas de cores - dummies

Como corrigir imagens com curvas de cores - dummies

Photoshop Elements 10 emprestou um recurso muito usado do Photoshop chamado Curves. No entanto, adicionou a palavra Cor e tirou parte de sua sofisticação. No entanto, o ajuste Color Curves tenta melhorar o alcance tonal em imagens a cores fazendo ajustes em destaques, sombras e tons médios em cada canal de cores. Tente usar este comando em ...