Lar Finanças Pessoais A Zona de desembarque baseada em Hadoop - dummies

A Zona de desembarque baseada em Hadoop - dummies

Vídeo: How does an ILS work? Explained by CAPTAIN JOE 2025

Vídeo: How does an ILS work? Explained by CAPTAIN JOE 2025
Anonim

Quando você tenta descobrir o que é um ambiente analítico pode parecer no futuro, você tropeça o padrão da zona de pouso baseada em Hadoop uma e outra vez. Na verdade, não é mais uma discussão orientada para o futuro porque a zona de pouso tornou-se a maneira de que as empresas voltadas para o futuro tentam agora economizar custos de TI e fornecem uma plataforma para análise de dados inovadora.

Então, qual é exatamente a zona de pouso? No nível mais básico, a zona de aterragem é apenas o local central onde os dados vão pousar em sua empresa - extrações semanais de dados de bancos de dados operacionais, por exemplo, ou de sistemas que geram arquivos de log. O Hadoop é um repositório útil para aterrar dados, por estas razões:

  • Ele pode lidar com todos os tipos de dados.

  • É facilmente escalável.

  • É barato.

  • Uma vez que você aterra dados em Hadoop, você tem a flexibilidade de consultar, analisar ou processar os dados de diversas maneiras.

Este diagrama mostra apenas parte da história e não é de forma alguma completa. Afinal, você precisa saber como os dados se movem da zona de pouso para o data warehouse, e assim por diante.

O ponto de partida para a discussão sobre a modernização de um data warehouse deve ser como as organizações usam data warehouses e os desafios que os departamentos de TI enfrentam com eles.

Na década de 1980, uma vez que as organizações se tornaram boas no armazenamento de suas informações operacionais em bancos de dados relacionais (transações de vendas, por exemplo, ou estados da cadeia de suprimentos), os líderes empresariais começaram a querer os relatórios gerados a partir desses dados relacionais. As primeiras lojas relacionais eram bases de dados operacionais e foram projetadas para Processamento de Transações Online (OLTP), de modo que os registros pudessem ser inseridos, atualizados ou excluídos o mais rápido possível.

Esta é uma arquitetura impraticável para relatórios e análises em grande escala, de modo que as bases de dados de processamento analítico online (ROLAP) foram desenvolvidas para atender a essa necessidade. Isso levou à evolução de um novo tipo de RDBMS: um data warehouse, que é uma entidade separada e vive ao lado das lojas de dados operacionais de uma organização.

Isso se resume a usar ferramentas desenvolvidas para maior eficiência: você possui lojas de dados operacionais, que são projetadas para processar transações eficientemente e armazéns de dados, que são projetados para suportar análises e relatórios repetidos.

No entanto, os armazenamentos de dados estão sob o estresse crescente, pelas seguintes razões:

  • Aumento da demanda para manter períodos de dados mais longos em linha.

  • Maior demanda de recursos de processamento para transformar dados para uso em outros armazéns e data marts.

  • Aumento da demanda por análises inovadoras, o que exige que os analistas façam perguntas sobre os dados do armazém, além dos relatórios regulares que já estão sendo feitos. Isso pode implicar processamento adicional significativo.

Na figura, você pode ver o data warehouse apresentado como o recurso principal para os vários tipos de análise listados no lado direito da figura. Aqui, você também vê o conceito de uma zona de pouso representada, onde o Hadoop armazenará dados de uma variedade de fontes de dados recebidas.

Para habilitar uma zona de pouso do Hadoop, você precisará garantir que você possa gravar dados das várias fontes de dados para o HDFS. Para bancos de dados relacionais, uma boa solução seria usar o Sqoop.

Mas o desembarque dos dados é apenas o começo.

Quando você está movendo dados de muitas fontes para sua zona de pouso, um problema que você inevitavelmente irá implementar é a qualidade dos dados. É comum que as empresas tenham muitas bases de dados operacionais onde os detalhes-chave são diferentes, por exemplo, que um cliente pode ser conhecido como "D. deRoos "em um banco de dados, e" Dirk deRoos "em outro.

Outro problema de qualidade reside em sistemas onde há uma forte dependência da entrada manual de dados, seja de clientes ou funcionários - aqui, não é incomum encontrar nomes e sobrenomes comutados ou outras informações erradas nos campos de dados.

Os problemas de qualidade de dados são um grande problema para os ambientes de data warehouse, e é por isso que um grande esforço se envolve em etapas de limpeza e validação à medida que os dados de outros sistemas são processados ​​à medida que são carregados no armazém. Tudo se resume a confiança : se os dados que você está perguntando forem sujos, você não pode confiar nas respostas em seus relatórios.

Então, embora exista um enorme potencial em ter acesso a muitos conjuntos de dados diferentes de diferentes fontes em sua zona de pouso Hadoop, você deve ter em conta a qualidade dos dados e quanto confiar nos dados.

A Zona de desembarque baseada em Hadoop - dummies

Escolha dos editores

Como o Colégio dos Cardeais Escolhe um Novo Papa - manequins

Como o Colégio dos Cardeais Escolhe um Novo Papa - manequins

Quando um papa morre no cargo ou renuncia , como fez o Papa Bento XVI no início de 2013, o Colégio dos Cardeais (todos os cardeais da Igreja Católica) reuniu-se para eleger um novo papa. No prazo de 15 dias e no máximo 20 dias após a morte ou renúncia do papa, todos os cardeais ...

Como o Papa João Paulo II tornou-se um filósofo-Teólogo - manequins

Como o Papa João Paulo II tornou-se um filósofo-Teólogo - manequins

Quando João Paulo II ainda era Karol Wojtyła, uma adolescente no ensino médio, ele era tão bom em falar em público que ele foi escolhido para dar o endereço de boas-vindas a um dignitário muito especial visitando a escola um dia. O Príncipe Adam Stefan Stanisław Bonfatiusz Józef Sapieha (que é um bocado), o Arcebispo de Cracóvia e um ...

Assunção de Mary no Céu - manequins

Assunção de Mary no Céu - manequins

No calendário católico, o Dia da Assunção observa o dia em que Maria morreu e subiu - corpo e alma - no paraíso. A Igreja Católica professa que quando o tempo de Maria na Terra chegou ao fim, seu corpo foi colocado em um túmulo, mas seu corpo não caiu na Terra. Em vez disso, seu filho, Jesus Cristo, assumiu o seu corpo ...

Escolha dos editores

Como excluir fotos na sua Nikon D5300 - manequins

Como excluir fotos na sua Nikon D5300 - manequins

Você tem três opções para apagar imagens de uma memória quando estiver na sua Nikon D5300. Uma nota antes de começar: nenhuma das funções Excluir apaga as imagens que você protege. Para apagar fotos protegidas, primeiro você deve remover a proteção do arquivo. Como eliminar imagens uma de cada vez Durante a reprodução da imagem, você ...

Como exibir a visualização de visualização ao vivo em uma tela HDMI - manequins

Como exibir a visualização de visualização ao vivo em uma tela HDMI - manequins

Você pode conectar seu Câmera Nikon D7100 para um dispositivo HDMI (Interface Multimídia de Alta Definição) para ver a saída Live View na tela. Esse recurso é freqüentemente usado por fotógrafos de estúdio que querem uma visão maior do assunto do que o monitor da câmera fornece. Alguns problemas surgem quando você aproveita esta opção: ...

Como ativar a rotação automática da imagem em sua Nikon D5300 - manequins

Como ativar a rotação automática da imagem em sua Nikon D5300 - manequins

Quando tirar uma foto, o seu D5300 pode gravar a orientação da imagem - seja você segurado a câmera normalmente, criando uma imagem orientada horizontalmente ou girando a câmera do lado para filmar uma foto verticalmente orientada. Durante a reprodução, a câmera pode então ler os dados de orientação e girar automaticamente a imagem para que apareça ...

Escolha dos editores

Construir confiança para vender em mídias sociais - manequins

Construir confiança para vender em mídias sociais - manequins

Se o seu objetivo online é concluir uma venda para seus amigos e fãs de redes sociais, você terá que dar a essas pessoas um olhar frio e difícil. Alguns acreditam que mais é melhor. Mas mais o que? Você precisa se concentrar em pessoas que, no final do dia, podem comprar algo de você diretamente ou ...

Criar sua própria comunidade social para comércio - manequins

Criar sua própria comunidade social para comércio - manequins

Em um site comercial bem produzido, você muitas vezes vêem um link para uma área de comunidade social, que também pode levar o site externo para sites de redes sociais. Esta área é onde as páginas de serviço ao cliente e perguntas freqüentes vivem. Você também pode encontrar uma comunidade de clientes para clientes que incentive a participação de quem visita o site comercial. Se você escolher ...