Lar Finanças Pessoais Como usar o fluxo de dados para Big Data - dummies

Como usar o fluxo de dados para Big Data - dummies

Vídeo: [Power BI] Governança de Dados e Arquitetura Ideal com Dataflows (Fluxo de Dados) e Shared Datasets 2025

Vídeo: [Power BI] Governança de Dados e Arquitetura Ideal com Dataflows (Fluxo de Dados) e Shared Datasets 2025
Anonim

Às vezes, ao abordar grandes dados, as empresas enfrentam enormes quantidades de dados e pouca idéia de onde ir em seguida. Digite a transmissão de dados. Quando uma quantidade significativa de dados precisa ser processada rapidamente em tempo quase real para obter informações, os dados em movimento sob a forma de transmissão de dados são a melhor resposta.

O que é não em repouso? Isso seria sistemas que gerenciam transações ativas e, portanto, precisam ter persistência. Nesses casos, os dados serão armazenados em um armazenamento de dados operacional. No entanto, em outras situações, essas transações foram executadas, e é hora de analisar esses dados normalmente em um data warehouse ou data mart.

Isso significa que a informação está sendo processada em lote e não em tempo real. Quando as organizações estão planejando seu futuro, eles precisam ser capazes de analisar muitos dados, que vão desde informações sobre o que os clientes estão comprando e por quê. É importante compreender os principais indicadores de mudança. Em outras palavras, como as mudanças afetarão os produtos e serviços que uma organização oferecerá no futuro?

Muitas organizações de pesquisa estão usando esse tipo de grande análise de dados para descobrir novos medicamentos. Uma companhia de seguros pode querer comparar os padrões de acidentes de trânsito em uma ampla área geográfica com as estatísticas do tempo. Nesses casos, não existe nenhum benefício para administrar esta informação em tempo real. Claramente, a análise deve ser rápida e prática. Além disso, as organizações analisarão os dados para ver se surgiram novos padrões.

Streaming data é uma plataforma de computação analítica focada em velocidade. Isso ocorre porque essas aplicações exigem um fluxo contínuo de dados geralmente não estruturados para serem processados. Portanto, os dados são continuamente analisados ​​e transformados na memória antes de serem armazenados em um disco. O processamento de fluxos de dados funciona através do processamento de "janelas de tempo" de dados na memória em um cluster de servidores.

Isso é semelhante à abordagem ao gerenciar dados em repouso aproveitando o Hadoop. A principal diferença é a questão da velocidade. No cluster Hadoop, os dados são coletados no modo em lote e depois processados. A velocidade importa menos no Hadoop do que na transmissão de dados. Alguns princípios fundamentais definem quando o uso de fluxos é mais apropriado:

  • Quando é necessário determinar uma oportunidade de compra de varejo no ponto de engajamento, seja através de mídias sociais ou via mensagens baseadas em permissão

  • Coletando informações sobre o movimento ao redor de um site seguro

  • Para poder reagir a um evento que precisa de uma resposta imediata, como uma interrupção do serviço ou uma mudança na condição médica do paciente

  • Cálculo em tempo real de custos que dependem de variáveis, como uso e recursos disponíveis

Os dados de transmissão de dados são úteis quando as análises precisam ser feitas em tempo real enquanto os dados estão em movimento.De fato, o valor da análise (e muitas vezes os dados) diminui com o tempo. Por exemplo, se você não pode analisar e agir imediatamente, uma oportunidade de venda pode ser perdida ou uma ameaça pode ser detectada.

Os seguintes são alguns exemplos que podem ajudar a explicar como isso é útil.

Uma usina de energia precisa ser um ambiente altamente seguro para que pessoas não autorizadas não interfiram na entrega de energia aos clientes. As empresas geralmente colocam sensores ao redor do perímetro de um site para detectar o movimento. Mas um problema poderia existir. Existe uma enorme diferença entre um coelho que corre em torno do site e um carro dirigindo de forma rápida e deliberada. Portanto, a grande quantidade de dados provenientes desses sensores precisa ser analisada em tempo real para que um alarme seja soado somente quando existe uma ameaça real.

Uma empresa de telecomunicações em um mercado altamente competitivo quer garantir que as interrupções sejam cuidadosamente monitoradas para que uma queda detectada nos níveis de serviço possa ser escalada para o grupo apropriado. Os sistemas de comunicação geram enormes volumes de dados que precisam ser analisados ​​em tempo real para tomar as medidas adequadas. Um atraso na detecção de um erro pode afetar seriamente a satisfação do cliente.

Escusado será dizer que as empresas estão lidando com muitos dados que precisam ser processados ​​e analisados ​​em tempo real. Portanto, o ambiente físico que suporta esse nível de capacidade de resposta é crítico. Os ambientes de dados de streaming geralmente requerem uma solução de hardware em cluster e, às vezes, uma abordagem de processamento massivamente paralelo será necessária para lidar com a análise.

Um fator importante sobre a análise de dados de transmissão é o fato de que é uma análise de passagem única. Em outras palavras, o analista não pode reanalisar os dados depois que ele é transmitido. Isso é comum em aplicativos onde você está procurando a ausência de dados.

Se forem necessárias várias passagens, os dados terão de ser colocados em algum tipo de armazém onde a análise adicional pode ser realizada. Por exemplo, muitas vezes é necessário estabelecer o contexto. Como esses dados de transmissão de dados se comparam aos dados históricos? Esta correlação pode dizer muito sobre o que mudou e o que essa mudança pode significar para sua empresa.

Como usar o fluxo de dados para Big Data - dummies

Escolha dos editores

Fatos de plantas e animais para lembrar para o exame de biologia AP - dummies

Fatos de plantas e animais para lembrar para o exame de biologia AP - dummies

A seguinte lista contém algumas das informações mais desafiadoras sobre plantas e animais que você pode encontrar no exame de biologia AP. Estude esta lista, desde que você precise - se você se lembrar dessa informação durante o teste, você fará tudo bem. As plantas vasculares têm raízes, rebentos e caules, cada um dos quais ...

Física Tópicos para estudar para o teste Miller Analogies (MAT) - dummies

Física Tópicos para estudar para o teste Miller Analogies (MAT) - dummies

Massa , velocidade, aceleração - sim, é hora de rever toda a física que você aprendeu no ensino médio e se preparar para o MAT (Miller Analogies Test). Para o MAT, familiarizar-se com a física não implica aprender equações complicadas. Você só precisa se lembrar de alguns termos de física e aprender sobre alguns físicos famosos. Essas listas ajudam ...

Médico Assistente de Exame para Dummies Cheat Sheet - dummies

Médico Assistente de Exame para Dummies Cheat Sheet - dummies

Quando você está se preparando para tomar a PANCE ou PANRE , você pode sentir que precisa conhecer uma quantidade infinita de informações. Como você vai se lembrar de todos os detalhes de tantas doenças e condições? Aqui, você pode revisar alguns mnemônicos úteis que não só ajudarão seu recall como você se prepara para o seu ...

Escolha dos editores

Como criar uma ordem de compra no QuickBooks 2010 - dummies

Como criar uma ordem de compra no QuickBooks 2010 - dummies

Você pode usar o QuickBooks para criar uma compra Ordem para o seu negócio. Uma ordem de compra informa um fornecedor que deseja comprar algum item. Na verdade, um pedido de compra é um contrato para compra.

Como personalizar os formulários de verificação no QuickBooks 2011 - dummies

Como personalizar os formulários de verificação no QuickBooks 2011 - dummies

Antes de escrever suas verificações no QuickBooks, você pode decida que deseja personalizá-los um pouco. Você pode querer que seus cheques reflitam a aparência do seu negócio. Por exemplo, o QuickBooks oferece a oportunidade de alterar as fontes em seus cheques. Se você clicar na aba Fontes na caixa de diálogo Verificar impressão ...

Como personalizar os formulários on-line do QuickBooks para lidar com os subtotais - manequins

Como personalizar os formulários on-line do QuickBooks para lidar com os subtotais - manequins

Se precisar subtotar informações sobre o seu formulários de vendas, configure formulários de vendas no QuickBooks Online para que você possa incluir subtotais neles. Você pode subtotar linhas em uma fatura, uma estimativa ou um recibo de venda. Primeiro, ative o recurso; Para este exemplo, ative o recurso para o formulário de fatura. Siga ...

Escolha dos editores

Como converter imagens em modo escala de cinza em Photoshop Elements 11 - dummies

Como converter imagens em modo escala de cinza em Photoshop Elements 11 - dummies

Imagens em escala de cinza têm preto e pixels brancos e qualquer um dos 256 níveis de cinza. Ao converter uma imagem RGB em escala de cinza no Photoshop Elements 11, você pode fazer com que pareça uma foto em preto e branco. Evite converter em escala de cinza escolhendo Image → Mode → Grayscale. Quando os elementos executam essa conversão, ele remove toda a cor dos pixels, ...

Como converter imagens em modo escala de cinza em Photoshop Elements 9 - dummies

Como converter imagens em modo escala de cinza em Photoshop Elements 9 - dummies

Em Photoshop Elements, você pode converter uma imagem RGB em escala de cinza, fazendo com que pareça uma foto em preto e branco. As imagens de tons de cinza têm pixels em preto e branco e qualquer um dos 256 níveis de cinza. No entanto, você não precisa desistir de seus dados de cores. Como alternativa ao uso do comando de menu para converter imagens para ...

Como corrigir imagens com curvas de cores - dummies

Como corrigir imagens com curvas de cores - dummies

Photoshop Elements 10 emprestou um recurso muito usado do Photoshop chamado Curves. No entanto, adicionou a palavra Cor e tirou parte de sua sofisticação. No entanto, o ajuste Color Curves tenta melhorar o alcance tonal em imagens a cores fazendo ajustes em destaques, sombras e tons médios em cada canal de cores. Tente usar este comando em ...