Lar Finanças Pessoais A Zona de desembarque baseada em Hadoop - dummies

A Zona de desembarque baseada em Hadoop - dummies

Vídeo: How does an ILS work? Explained by CAPTAIN JOE 2025

Vídeo: How does an ILS work? Explained by CAPTAIN JOE 2025
Anonim

Quando você tenta descobrir o que é um ambiente analítico pode parecer no futuro, você tropeça o padrão da zona de pouso baseada em Hadoop uma e outra vez. Na verdade, não é mais uma discussão orientada para o futuro porque a zona de pouso tornou-se a maneira de que as empresas voltadas para o futuro tentam agora economizar custos de TI e fornecem uma plataforma para análise de dados inovadora.

Então, qual é exatamente a zona de pouso? No nível mais básico, a zona de aterragem é apenas o local central onde os dados vão pousar em sua empresa - extrações semanais de dados de bancos de dados operacionais, por exemplo, ou de sistemas que geram arquivos de log. O Hadoop é um repositório útil para aterrar dados, por estas razões:

  • Ele pode lidar com todos os tipos de dados.

  • É facilmente escalável.

  • É barato.

  • Uma vez que você aterra dados em Hadoop, você tem a flexibilidade de consultar, analisar ou processar os dados de diversas maneiras.

Este diagrama mostra apenas parte da história e não é de forma alguma completa. Afinal, você precisa saber como os dados se movem da zona de pouso para o data warehouse, e assim por diante.

O ponto de partida para a discussão sobre a modernização de um data warehouse deve ser como as organizações usam data warehouses e os desafios que os departamentos de TI enfrentam com eles.

Na década de 1980, uma vez que as organizações se tornaram boas no armazenamento de suas informações operacionais em bancos de dados relacionais (transações de vendas, por exemplo, ou estados da cadeia de suprimentos), os líderes empresariais começaram a querer os relatórios gerados a partir desses dados relacionais. As primeiras lojas relacionais eram bases de dados operacionais e foram projetadas para Processamento de Transações Online (OLTP), de modo que os registros pudessem ser inseridos, atualizados ou excluídos o mais rápido possível.

Esta é uma arquitetura impraticável para relatórios e análises em grande escala, de modo que as bases de dados de processamento analítico online (ROLAP) foram desenvolvidas para atender a essa necessidade. Isso levou à evolução de um novo tipo de RDBMS: um data warehouse, que é uma entidade separada e vive ao lado das lojas de dados operacionais de uma organização.

Isso se resume a usar ferramentas desenvolvidas para maior eficiência: você possui lojas de dados operacionais, que são projetadas para processar transações eficientemente e armazéns de dados, que são projetados para suportar análises e relatórios repetidos.

No entanto, os armazenamentos de dados estão sob o estresse crescente, pelas seguintes razões:

  • Aumento da demanda para manter períodos de dados mais longos em linha.

  • Maior demanda de recursos de processamento para transformar dados para uso em outros armazéns e data marts.

  • Aumento da demanda por análises inovadoras, o que exige que os analistas façam perguntas sobre os dados do armazém, além dos relatórios regulares que já estão sendo feitos. Isso pode implicar processamento adicional significativo.

Na figura, você pode ver o data warehouse apresentado como o recurso principal para os vários tipos de análise listados no lado direito da figura. Aqui, você também vê o conceito de uma zona de pouso representada, onde o Hadoop armazenará dados de uma variedade de fontes de dados recebidas.

Para habilitar uma zona de pouso do Hadoop, você precisará garantir que você possa gravar dados das várias fontes de dados para o HDFS. Para bancos de dados relacionais, uma boa solução seria usar o Sqoop.

Mas o desembarque dos dados é apenas o começo.

Quando você está movendo dados de muitas fontes para sua zona de pouso, um problema que você inevitavelmente irá implementar é a qualidade dos dados. É comum que as empresas tenham muitas bases de dados operacionais onde os detalhes-chave são diferentes, por exemplo, que um cliente pode ser conhecido como "D. deRoos "em um banco de dados, e" Dirk deRoos "em outro.

Outro problema de qualidade reside em sistemas onde há uma forte dependência da entrada manual de dados, seja de clientes ou funcionários - aqui, não é incomum encontrar nomes e sobrenomes comutados ou outras informações erradas nos campos de dados.

Os problemas de qualidade de dados são um grande problema para os ambientes de data warehouse, e é por isso que um grande esforço se envolve em etapas de limpeza e validação à medida que os dados de outros sistemas são processados ​​à medida que são carregados no armazém. Tudo se resume a confiança : se os dados que você está perguntando forem sujos, você não pode confiar nas respostas em seus relatórios.

Então, embora exista um enorme potencial em ter acesso a muitos conjuntos de dados diferentes de diferentes fontes em sua zona de pouso Hadoop, você deve ter em conta a qualidade dos dados e quanto confiar nos dados.

A Zona de desembarque baseada em Hadoop - dummies

Escolha dos editores

Dicas para direcionar seu filme digital - manequins

Dicas para direcionar seu filme digital - manequins

Como diretor, é seu trabalho levar o filme a vida através de da maneira como seus atores interpretam os personagens e como a equipe filme cada tiro. O diretor trabalha com os atores e a equipe para obter o melhor deles e certifique-se de que a história seja contada através do que eles fazem. Dirigindo seu ...

Dez Wedding DSLR Filmmaking Techniques - dummies

Dez Wedding DSLR Filmmaking Techniques - dummies

Usando sua DSLR para filmar um casamento geralmente reside no final oposto da peça criativa espectro de fazer seu filme de autor. Aqui estão os dez melhores aspectos que você precisa considerar para mantê-lo vivo ao capturar esse evento único na vida. Tenha o equipamento de vídeo certo Você não poderá fazer um casamento até ...

Dez dicas para filmes documentários DSLR - dummies

Dez dicas para filmes documentários DSLR - dummies

Um documentário é uma conta de filme de não ficção de um tópico. Para fazer seu documentário DSLR de qualquer comprimento e assunto em algo que as pessoas acham interessante, considere estas dez dicas. Conheça o tópico que pretende filmar Se você está fazendo um filme de duração de duas horas ou um vídeo on-line de dois minutos, você precisa ...

Escolha dos editores

Como lucrar com a mamãe Blogando sem vender - manequins

Como lucrar com a mamãe Blogando sem vender - manequins

Vender é um termo usado para comprometendo sua integridade, princípios ou moral para ganhar dinheiro ou sucesso. O problema é que, se todos tivessem os mesmos princípios e a definição de integridade, não haveria muita necessidade de diferentes partidos políticos ou religiões. As pessoas podem ser acusadas de vender se eles simplesmente fazem coisas como ...

Como usar corretamente palavras-chave para sua comunidade online - manequins

Como usar corretamente palavras-chave para sua comunidade online - manequins

Quando você tem uma boa idéia de os tipos de palavras-chave para usar em sua comunidade online, é hora de escrever o conteúdo para que pareça natural. Muitas pessoas pimenta palavras-chave liberalmente em torno de suas postagens de blog, artigos da web, sobre páginas e outros conteúdos, o que parece bobo e errado. Embora o uso de palavras-chave seja bom ...

Como colocar anúncios no seu blog - manequins

Como colocar anúncios no seu blog - manequins

Para obter anúncios no site do seu blog, os programas que você Inscreva-se para fornecer-lhe geralmente um pouco de código que você insere em seus modelos de site. Alguns programas têm instruções passo-a-passo para pacotes populares de software de blog, mas esteja ciente de que você também precisará consultar a documentação do seu blog para obter ajuda com ...

Escolha dos editores

Exibindo Números como palavras no Excel - manequins

Exibindo Números como palavras no Excel - manequins

Se você já precisou exibir um número escrito como texto , você provavelmente descobriu que o Excel não oferece essa função. Quando o Excel não entrega, muitas vezes é possível corrigir a deficiência usando o VBA. Aqui está uma função VBA, denominada SPELLDOLLARS, que você pode usar nas fórmulas da planilha. Exemplos de Excel Aqui estão ...

Determinando a audiência para seu modelo financeiro - manequins

Determinando a audiência para seu modelo financeiro - manequins

Que estará visualizando ou usando seu modelo financeiro no futuro ? Se for apenas para seu próprio uso, você ainda deve seguir um bom modelo de design, mas não há necessidade de passar muito tempo na formatação para que pareça legal. Você ainda deve adicionar suposições e documentação de origem para o seu próprio ...

Eliminando células e dados no Excel 2007 - dummies

Eliminando células e dados no Excel 2007 - dummies

No Microsoft Office Excel 2007, quando você precisa excluir dados , remova a formatação em uma seleção de célula ou remova células inteiras, linhas ou colunas, você tem muitas opções dependendo do seu objetivo. O Excel pode executar dois tipos de exclusões de células em uma planilha: limpar dados de células e excluir a célula. Limpar o conteúdo da célula Limpar apenas ...