Lar Finanças Pessoais Hadoop como um arquivo consultivo de dados do armazenamento a frio - manequins

Hadoop como um arquivo consultivo de dados do armazenamento a frio - manequins

Vídeo: Aula 1 - Big data e Hadoop - Módulo I 2025

Vídeo: Aula 1 - Big data e Hadoop - Módulo I 2025
Anonim

Uma grande quantidade de estudos mostra que a maioria dos dados em um data warehouse corporativo raramente é consultado. Os fornecedores de banco de dados responderam a essas observações implementando seus próprios métodos para classificar os dados que são colocados onde.

Um método ordena o universo de dados em designações de hot, warm ou cold, onde hot dados (às vezes chamado dados ativos ) é usado com freqüência, dados quentes são utilizados de tempos em tempos; e dados frios raramente são usados. A solução proposta para muitos fornecedores é para armazenar os dados frios em discos mais lentos dentro dos compartimentos do data warehouse ou para criar estratégias de cache inteligentes para manter os dados quentes na memória, entre outros.

O problema com essa abordagem é que, embora seja usado um armazenamento mais lento, ainda é caro armazenar dados frios e raramente usados ​​em um armazém. Os custos aqui decorrem de ambos licenciamento de hardware e software. Ao mesmo tempo, dados frios e latentes são frequentemente arquivados em fita.

Este modelo tradicional de dados de arquivamento quebra quando você deseja consultar todos os dados frios de forma econômica e relativamente eficiente - sem precisar solicitar fitas antigas, em outras palavras.

Se você olhar para o custo e as características operacionais do Hadoop, na verdade, parece que está configurado para se tornar a nova fita de backup. O Hadoop é barato em grande parte porque os sistemas Hadoop foram projetados para usar um grau mais baixo de hardware do que o que normalmente é implantado em sistemas de data warehouse. Outra economia significativa de custos é o licenciamento de software.

As licenças de distribuição Hadoop comerciais requerem uma fração do custo das licenças de software de warehouse de dados relacionais, que são notáveis ​​por serem caras. Do ponto de vista operacional, o Hadoop é projetado para escalar facilmente apenas adicionando nós escravos adicionais a um cluster existente. E à medida que os nós escravos são adicionados e os conjuntos de dados crescem em volume, as estruturas de processamento de dados da Hadoop permitem que suas aplicações atendam perfeitamente ao aumento da carga de trabalho.

O Hadoop representa uma maneira simples, flexível e barata de empurrar o processamento em literalmente milhares de servidores.

Com a sua arquitetura escalável e barata, o Hadoop parece ser uma escolha perfeita para arquivar dados de armazém … exceto por uma pequena questão: a maioria do mundo da TI é executada no SQL e o SQL por conta própria não funciona bem com o Hadoop.

Com certeza, o movimento NSQL mais amigável para o Hadoop está vivo e bom, mas a maioria dos usuários avançados agora usam o SQL por meio de conjuntos de ferramentas comuns que oferecem consultas SQL sob o capô - produtos como Tableau, Microsoft Excel e IBM Cognos BI.

É verdade que o ecossistema Hadoop inclui a Hive, mas a Hive suporta apenas um subconjunto de SQL e, embora o desempenho esteja melhorando (juntamente com o suporte ao SQL), não é quase tão rápido como responder consultas menores que são os sistemas relacionais. Recentemente, tem havido grandes avanços em relação ao acesso SQL ao Hadoop, que abriu caminho para o Hadoop se tornar o novo destino para arquivos de data warehouse em linha.

Dependendo do fornecedor do Hadoop, as APIs SQL (ou SQL) estão se tornando disponíveis para que as ferramentas de análise e análise mais comuns disponíveis possam emitir problemas de SQL que sejam executados em dados armazenados em Hadoop. Por exemplo, a IBM tem sua API Big SQL, Cloudera tem Impala e a própria Hive, através da iniciativa Hortonworks Stinger, está se tornando cada vez mais compatível com SQL.

Embora existam vários pontos de vista (alguns visam aumentar a colmeia, alguns, estender o Hive e outros para fornecer uma alternativa), todas essas soluções tentam abordar dois problemas: o MapReduce é uma solução fraca para a execução de consultas menores, e o acesso SQL é - por enquanto - a chave para permitir que os trabalhadores de TI usem suas habilidades SQL existentes para obter o valor dos dados armazenados no Hadoop.

Hadoop como um arquivo consultivo de dados do armazenamento a frio - manequins

Escolha dos editores

Fatos de plantas e animais para lembrar para o exame de biologia AP - dummies

Fatos de plantas e animais para lembrar para o exame de biologia AP - dummies

A seguinte lista contém algumas das informações mais desafiadoras sobre plantas e animais que você pode encontrar no exame de biologia AP. Estude esta lista, desde que você precise - se você se lembrar dessa informação durante o teste, você fará tudo bem. As plantas vasculares têm raízes, rebentos e caules, cada um dos quais ...

Física Tópicos para estudar para o teste Miller Analogies (MAT) - dummies

Física Tópicos para estudar para o teste Miller Analogies (MAT) - dummies

Massa , velocidade, aceleração - sim, é hora de rever toda a física que você aprendeu no ensino médio e se preparar para o MAT (Miller Analogies Test). Para o MAT, familiarizar-se com a física não implica aprender equações complicadas. Você só precisa se lembrar de alguns termos de física e aprender sobre alguns físicos famosos. Essas listas ajudam ...

Médico Assistente de Exame para Dummies Cheat Sheet - dummies

Médico Assistente de Exame para Dummies Cheat Sheet - dummies

Quando você está se preparando para tomar a PANCE ou PANRE , você pode sentir que precisa conhecer uma quantidade infinita de informações. Como você vai se lembrar de todos os detalhes de tantas doenças e condições? Aqui, você pode revisar alguns mnemônicos úteis que não só ajudarão seu recall como você se prepara para o seu ...

Escolha dos editores

Como criar uma ordem de compra no QuickBooks 2010 - dummies

Como criar uma ordem de compra no QuickBooks 2010 - dummies

Você pode usar o QuickBooks para criar uma compra Ordem para o seu negócio. Uma ordem de compra informa um fornecedor que deseja comprar algum item. Na verdade, um pedido de compra é um contrato para compra.

Como personalizar os formulários de verificação no QuickBooks 2011 - dummies

Como personalizar os formulários de verificação no QuickBooks 2011 - dummies

Antes de escrever suas verificações no QuickBooks, você pode decida que deseja personalizá-los um pouco. Você pode querer que seus cheques reflitam a aparência do seu negócio. Por exemplo, o QuickBooks oferece a oportunidade de alterar as fontes em seus cheques. Se você clicar na aba Fontes na caixa de diálogo Verificar impressão ...

Como personalizar os formulários on-line do QuickBooks para lidar com os subtotais - manequins

Como personalizar os formulários on-line do QuickBooks para lidar com os subtotais - manequins

Se precisar subtotar informações sobre o seu formulários de vendas, configure formulários de vendas no QuickBooks Online para que você possa incluir subtotais neles. Você pode subtotar linhas em uma fatura, uma estimativa ou um recibo de venda. Primeiro, ative o recurso; Para este exemplo, ative o recurso para o formulário de fatura. Siga ...

Escolha dos editores

Como converter imagens em modo escala de cinza em Photoshop Elements 11 - dummies

Como converter imagens em modo escala de cinza em Photoshop Elements 11 - dummies

Imagens em escala de cinza têm preto e pixels brancos e qualquer um dos 256 níveis de cinza. Ao converter uma imagem RGB em escala de cinza no Photoshop Elements 11, você pode fazer com que pareça uma foto em preto e branco. Evite converter em escala de cinza escolhendo Image → Mode → Grayscale. Quando os elementos executam essa conversão, ele remove toda a cor dos pixels, ...

Como converter imagens em modo escala de cinza em Photoshop Elements 9 - dummies

Como converter imagens em modo escala de cinza em Photoshop Elements 9 - dummies

Em Photoshop Elements, você pode converter uma imagem RGB em escala de cinza, fazendo com que pareça uma foto em preto e branco. As imagens de tons de cinza têm pixels em preto e branco e qualquer um dos 256 níveis de cinza. No entanto, você não precisa desistir de seus dados de cores. Como alternativa ao uso do comando de menu para converter imagens para ...

Como corrigir imagens com curvas de cores - dummies

Como corrigir imagens com curvas de cores - dummies

Photoshop Elements 10 emprestou um recurso muito usado do Photoshop chamado Curves. No entanto, adicionou a palavra Cor e tirou parte de sua sofisticação. No entanto, o ajuste Color Curves tenta melhorar o alcance tonal em imagens a cores fazendo ajustes em destaques, sombras e tons médios em cada canal de cores. Tente usar este comando em ...