Grande análise de dados e o Data Warehouse - dummies

Você encontrará valor para reunir os recursos do data warehouse e o grande ambiente de dados. Você precisa criar um ambiente híbrido em que grandes dados possam trabalhar lado a lado com o data warehouse.

Primeiro é importante reconhecer que o data warehouse tal como foi projetado hoje não mudará a curto prazo.

Portanto, é mais pragmático usar o data warehouse para o que foi projetado para fazer - fornecer uma versão bem-avaliada da verdade sobre um tópico que o negócio quer analisar. O armazém pode incluir informações sobre a linha de produtos de uma determinada empresa, seus clientes, seus fornecedores e os detalhes das transações de um ano.

As informações gerenciadas no data warehouse ou em um banco de dados departamental foram cuidadosamente construídas para que os metadados sejam precisos. Com o crescimento de novas informações baseadas na web, é prático e muitas vezes é necessário analisar essa enorme quantidade de dados em contexto de dados históricos. É aí que o modelo híbrido vem.

Certos aspectos de casar o data warehouse com grandes dados podem ser relativamente fáceis. Por exemplo, muitas das grandes fontes de dados provêm de fontes que incluem seus próprios metadados bem projetados. Sites complexos de comércio eletrônico incluem elementos de dados bem definidos. Portanto, ao realizar análises entre o armazém e a grande fonte de dados, a organização de gerenciamento de informações está trabalhando com dois conjuntos de dados com modelos de metadados cuidadosamente projetados que precisam ser racionalizados.

É claro que, em algumas situações, as fontes de informação não possuem metadados explícitos. Antes que um analista possa combinar os dados transacionais históricos com os dados maiores menos estruturados, o trabalho deve ser feito. Normalmente, a análise inicial de petabytes de dados revelará padrões interessantes que podem ajudar a prever mudanças sutis em negócios ou soluções potenciais para o diagnóstico de um paciente.

A análise inicial pode ser completada alavancando ferramentas como MapReduce com a estrutura do sistema de arquivos distribuídos Hadoop. Neste ponto, você pode começar a entender se é capaz de ajudar a avaliar o problema a ser abordado.

No processo de análise, é tão importante eliminar dados desnecessários, pois é identificar dados relevantes para o contexto comercial. Quando esta fase é completa, os dados restantes precisam ser transformados para que as definições de metadados sejam precisas. Desta forma, quando os grandes dados são combinados com dados históricos tradicionais do armazém, os resultados serão precisos e significativos.

A grande integração de dados lynchpin

Este processo requer uma estratégia de integração de dados bem definida. Embora a integração de dados seja um elemento crítico de gerenciamento de grandes dados, é igualmente importante ao criar uma análise híbrida com o data warehouse. De fato, o processo de extração de dados e transformá-lo em um ambiente híbrido é muito parecido com a forma como esse processo é executado dentro de um data warehouse tradicional.

No data warehouse, os dados são extraídos de sistemas de origem tradicionais, como sistemas CRM ou ERP. É fundamental que os elementos desses vários sistemas sejam adequadamente correspondidos.

Repensar a extração, transformação e cargas para armazéns de dados

No data warehouse, você costuma encontrar uma combinação de tabelas de banco de dados relacionais, arquivos planos e fontes não-racionais. Um armazenamento de dados bem construído será arquitetado para que os dados sejam convertidos em um formato comum, permitindo que as consultas sejam processadas com precisão e consistência. Os arquivos extraídos devem ser transformados para corresponder às regras e processos comerciais da área de assunto que o data warehouse foi projetado para analisar.

Em outras palavras, os dados devem ser extraídos das grandes fontes de dados para que essas fontes possam trabalhar com segurança e produzir resultados significativos. Além disso, as fontes precisam ser transformadas para que sejam úteis na análise da relação entre os dados históricos e os dados mais dinâmicos e em tempo real provenientes de grandes fontes de dados.

Carregando informações no modelo de dados grande será diferente do que você esperaria em um data warehouse tradicional. Com armazéns de dados, depois que os dados foram codificados, ele nunca muda. Um data warehouse típico fornecerá ao negócio um instantâneo de dados com base na necessidade de analisar uma questão de negócios específica que requer monitoramento, como estoque ou vendas.

A estrutura distribuída de dados importantes muitas vezes levará organizações a primeiro a carregar dados em uma série de nós e, em seguida, executar a extração e transformação. Ao criar um híbrido do data warehouse tradicional e do grande ambiente de dados, a natureza distribuída do grande ambiente de dados pode mudar dramaticamente a capacidade das organizações para analisar enormes volumes de dados em contexto com o negócio.