Lar Finanças Pessoais Hadoop como um arquivo consultivo de dados do armazenamento a frio - manequins

Hadoop como um arquivo consultivo de dados do armazenamento a frio - manequins

Vídeo: Aula 1 - Big data e Hadoop - Módulo I 2025

Vídeo: Aula 1 - Big data e Hadoop - Módulo I 2025
Anonim

Uma grande quantidade de estudos mostra que a maioria dos dados em um data warehouse corporativo raramente é consultado. Os fornecedores de banco de dados responderam a essas observações implementando seus próprios métodos para classificar os dados que são colocados onde.

Um método ordena o universo de dados em designações de hot, warm ou cold, onde hot dados (às vezes chamado dados ativos ) é usado com freqüência, dados quentes são utilizados de tempos em tempos; e dados frios raramente são usados. A solução proposta para muitos fornecedores é para armazenar os dados frios em discos mais lentos dentro dos compartimentos do data warehouse ou para criar estratégias de cache inteligentes para manter os dados quentes na memória, entre outros.

O problema com essa abordagem é que, embora seja usado um armazenamento mais lento, ainda é caro armazenar dados frios e raramente usados ​​em um armazém. Os custos aqui decorrem de ambos licenciamento de hardware e software. Ao mesmo tempo, dados frios e latentes são frequentemente arquivados em fita.

Este modelo tradicional de dados de arquivamento quebra quando você deseja consultar todos os dados frios de forma econômica e relativamente eficiente - sem precisar solicitar fitas antigas, em outras palavras.

Se você olhar para o custo e as características operacionais do Hadoop, na verdade, parece que está configurado para se tornar a nova fita de backup. O Hadoop é barato em grande parte porque os sistemas Hadoop foram projetados para usar um grau mais baixo de hardware do que o que normalmente é implantado em sistemas de data warehouse. Outra economia significativa de custos é o licenciamento de software.

As licenças de distribuição Hadoop comerciais requerem uma fração do custo das licenças de software de warehouse de dados relacionais, que são notáveis ​​por serem caras. Do ponto de vista operacional, o Hadoop é projetado para escalar facilmente apenas adicionando nós escravos adicionais a um cluster existente. E à medida que os nós escravos são adicionados e os conjuntos de dados crescem em volume, as estruturas de processamento de dados da Hadoop permitem que suas aplicações atendam perfeitamente ao aumento da carga de trabalho.

O Hadoop representa uma maneira simples, flexível e barata de empurrar o processamento em literalmente milhares de servidores.

Com a sua arquitetura escalável e barata, o Hadoop parece ser uma escolha perfeita para arquivar dados de armazém … exceto por uma pequena questão: a maioria do mundo da TI é executada no SQL e o SQL por conta própria não funciona bem com o Hadoop.

Com certeza, o movimento NSQL mais amigável para o Hadoop está vivo e bom, mas a maioria dos usuários avançados agora usam o SQL por meio de conjuntos de ferramentas comuns que oferecem consultas SQL sob o capô - produtos como Tableau, Microsoft Excel e IBM Cognos BI.

É verdade que o ecossistema Hadoop inclui a Hive, mas a Hive suporta apenas um subconjunto de SQL e, embora o desempenho esteja melhorando (juntamente com o suporte ao SQL), não é quase tão rápido como responder consultas menores que são os sistemas relacionais. Recentemente, tem havido grandes avanços em relação ao acesso SQL ao Hadoop, que abriu caminho para o Hadoop se tornar o novo destino para arquivos de data warehouse em linha.

Dependendo do fornecedor do Hadoop, as APIs SQL (ou SQL) estão se tornando disponíveis para que as ferramentas de análise e análise mais comuns disponíveis possam emitir problemas de SQL que sejam executados em dados armazenados em Hadoop. Por exemplo, a IBM tem sua API Big SQL, Cloudera tem Impala e a própria Hive, através da iniciativa Hortonworks Stinger, está se tornando cada vez mais compatível com SQL.

Embora existam vários pontos de vista (alguns visam aumentar a colmeia, alguns, estender o Hive e outros para fornecer uma alternativa), todas essas soluções tentam abordar dois problemas: o MapReduce é uma solução fraca para a execução de consultas menores, e o acesso SQL é - por enquanto - a chave para permitir que os trabalhadores de TI usem suas habilidades SQL existentes para obter o valor dos dados armazenados no Hadoop.

Hadoop como um arquivo consultivo de dados do armazenamento a frio - manequins

Escolha dos editores

Dicas para direcionar seu filme digital - manequins

Dicas para direcionar seu filme digital - manequins

Como diretor, é seu trabalho levar o filme a vida através de da maneira como seus atores interpretam os personagens e como a equipe filme cada tiro. O diretor trabalha com os atores e a equipe para obter o melhor deles e certifique-se de que a história seja contada através do que eles fazem. Dirigindo seu ...

Dez Wedding DSLR Filmmaking Techniques - dummies

Dez Wedding DSLR Filmmaking Techniques - dummies

Usando sua DSLR para filmar um casamento geralmente reside no final oposto da peça criativa espectro de fazer seu filme de autor. Aqui estão os dez melhores aspectos que você precisa considerar para mantê-lo vivo ao capturar esse evento único na vida. Tenha o equipamento de vídeo certo Você não poderá fazer um casamento até ...

Dez dicas para filmes documentários DSLR - dummies

Dez dicas para filmes documentários DSLR - dummies

Um documentário é uma conta de filme de não ficção de um tópico. Para fazer seu documentário DSLR de qualquer comprimento e assunto em algo que as pessoas acham interessante, considere estas dez dicas. Conheça o tópico que pretende filmar Se você está fazendo um filme de duração de duas horas ou um vídeo on-line de dois minutos, você precisa ...

Escolha dos editores

Como lucrar com a mamãe Blogando sem vender - manequins

Como lucrar com a mamãe Blogando sem vender - manequins

Vender é um termo usado para comprometendo sua integridade, princípios ou moral para ganhar dinheiro ou sucesso. O problema é que, se todos tivessem os mesmos princípios e a definição de integridade, não haveria muita necessidade de diferentes partidos políticos ou religiões. As pessoas podem ser acusadas de vender se eles simplesmente fazem coisas como ...

Como usar corretamente palavras-chave para sua comunidade online - manequins

Como usar corretamente palavras-chave para sua comunidade online - manequins

Quando você tem uma boa idéia de os tipos de palavras-chave para usar em sua comunidade online, é hora de escrever o conteúdo para que pareça natural. Muitas pessoas pimenta palavras-chave liberalmente em torno de suas postagens de blog, artigos da web, sobre páginas e outros conteúdos, o que parece bobo e errado. Embora o uso de palavras-chave seja bom ...

Como colocar anúncios no seu blog - manequins

Como colocar anúncios no seu blog - manequins

Para obter anúncios no site do seu blog, os programas que você Inscreva-se para fornecer-lhe geralmente um pouco de código que você insere em seus modelos de site. Alguns programas têm instruções passo-a-passo para pacotes populares de software de blog, mas esteja ciente de que você também precisará consultar a documentação do seu blog para obter ajuda com ...

Escolha dos editores

Exibindo Números como palavras no Excel - manequins

Exibindo Números como palavras no Excel - manequins

Se você já precisou exibir um número escrito como texto , você provavelmente descobriu que o Excel não oferece essa função. Quando o Excel não entrega, muitas vezes é possível corrigir a deficiência usando o VBA. Aqui está uma função VBA, denominada SPELLDOLLARS, que você pode usar nas fórmulas da planilha. Exemplos de Excel Aqui estão ...

Determinando a audiência para seu modelo financeiro - manequins

Determinando a audiência para seu modelo financeiro - manequins

Que estará visualizando ou usando seu modelo financeiro no futuro ? Se for apenas para seu próprio uso, você ainda deve seguir um bom modelo de design, mas não há necessidade de passar muito tempo na formatação para que pareça legal. Você ainda deve adicionar suposições e documentação de origem para o seu próprio ...

Eliminando células e dados no Excel 2007 - dummies

Eliminando células e dados no Excel 2007 - dummies

No Microsoft Office Excel 2007, quando você precisa excluir dados , remova a formatação em uma seleção de célula ou remova células inteiras, linhas ou colunas, você tem muitas opções dependendo do seu objetivo. O Excel pode executar dois tipos de exclusões de células em uma planilha: limpar dados de células e excluir a célula. Limpar o conteúdo da célula Limpar apenas ...