Lar Finanças Pessoais Computação distribuída básica para dados grandes - manequins

Computação distribuída básica para dados grandes - manequins

Índice:

Vídeo: NoSQL, CAP Theorem e BASE - Aula 20 - Bancos de Dados 2015.2 2025

Vídeo: NoSQL, CAP Theorem e BASE - Aula 20 - Bancos de Dados 2015.2 2025
Anonim

Se sua empresa está considerando um grande projeto de dados, é importante que você entenda alguns conceitos básicos de computação distribuída primeiro. Não há um único modelo de computação distribuída porque os recursos computacionais podem ser distribuídos de várias maneiras.

Por exemplo, você pode distribuir um conjunto de programas no mesmo servidor físico e usar serviços de mensagens para permitir que eles se comuniquem e passem informações. Também é possível ter muitos sistemas ou servidores diferentes, cada um com sua própria memória, que pode trabalhar em conjunto para resolver um problema.

Por que a computação distribuída é necessária para grandes dados

Nem todos os problemas exigem computação distribuída. Se uma grande restrição de tempo não existe, o processamento complexo pode ser feito por meio de um serviço especializado remotamente. Quando as empresas precisavam fazer uma análise complexa de dados, a TI transferiria dados para um serviço externo ou entidade onde muitos recursos disponíveis estavam disponíveis para processamento.

Não era que as empresas desejassem aguardar os resultados que precisavam; simplesmente não era economicamente viável comprar recursos de computação suficientes para lidar com esses requisitos emergentes. Em muitas situações, as organizações capturam apenas seleções de dados em vez de tentar capturar todos os dados por causa dos custos. Os analistas queriam todos os dados, mas tiveram que se contentar com instantâneos, na esperança de capturar os dados certos no momento certo.

As principais descobertas de hardware e software revolucionaram o setor de gerenciamento de dados. Em primeiro lugar, a inovação e a demanda aumentaram o poder e diminuíram o preço do hardware. Surgiu um novo software que compreendeu como aproveitar esse hardware automatizando processos como balanceamento de carga e otimização em um grande conjunto de nós.

O software incluiu regras internas que entenderam que determinadas cargas de trabalho exigiam um certo nível de desempenho. O software tratava todos os nós como se fossem simplesmente um grande grupo de recursos de computação, armazenamento e rede, e movia os processos para outro nó sem interrupção se um nó falhar, usando a tecnologia de virtualização.

A economia em mudança da computação e dos grandes dados

Avanço rápido e muito mudou. Ao longo dos últimos anos, o custo para comprar recursos de computação e armazenamento diminuiu drasticamente. Auxiliado pela virtualização, os servidores de commodities que poderiam ser agrupados e as lâminas que poderiam ser conectadas em rede em um rack alteravam a economia da computação. Essa mudança coincidiu com a inovação em soluções de automação de software que melhoraram drasticamente a capacidade de gerenciamento desses sistemas.

A capacidade de alavancar a computação distribuída e as técnicas de processamento paralelo transformaram dramaticamente a paisagem e reduzem drasticamente a latência. Existem casos especiais, como o High Frequency Trading (HFT), em que a baixa latência só pode ser alcançada localizando fisicamente servidores em um único local.

O problema com latência para grandes dados

Um dos problemas perenes com o gerenciamento de dados - especialmente grandes quantidades de dados - tem sido o impacto da latência. Latência é o atraso dentro de um sistema com base em atrasos na execução de uma tarefa. A latência é um problema em todos os aspectos da computação, incluindo comunicações, gerenciamento de dados, desempenho do sistema e muito mais.

Se você já usou um telefone sem fio, você experimentou a latência de primeira mão. É o atraso nas transmissões entre você e seu interlocutor. Às vezes, a latência tem pouco impacto na satisfação do cliente, como se as empresas precisassem analisar os resultados nos bastidores para planejar uma nova versão do produto. Isso provavelmente não requer resposta ou acesso instantâneo.

No entanto, quanto mais próxima a resposta é para um cliente no momento da decisão, mais a latência é importante.

A computação distribuída e as técnicas de processamento paralelo podem fazer uma diferença significativa na latência experimentada por clientes, fornecedores e parceiros. Muitos grandes aplicativos de dados dependem da baixa latência devido aos grandes requisitos de dados para velocidade e volume e variedade de dados.

Pode não ser possível construir um grande aplicativo de dados em um ambiente de alta latência se for necessário um alto desempenho. A necessidade de verificar os dados em tempo quase real também pode ser impactada pela latência. Quando você está lidando com dados em tempo real, um alto nível de latência significa a diferença entre sucesso e falha.

A grande demanda de dados atende às soluções

O crescimento da Internet como plataforma para tudo, desde o comércio até a medicina, transformou a demanda por uma nova geração de gerenciamento de dados. No final da década de 1990, empresas de motores e internet como o Google, Yahoo! e Amazon. foram capazes de expandir seus modelos de negócios, alavancando hardware de baixo custo para computação e armazenamento.

Em seguida, essas empresas precisavam de uma nova geração de tecnologias de software que lhes permitisse monetizar a enorme quantidade de dados que capturavam dos clientes. Essas empresas não podiam esperar pelos resultados do processamento analítico. Eles precisavam da capacidade de processar e analisar esses dados em tempo quase real.

Computação distribuída básica para dados grandes - manequins

Escolha dos editores

Fatos de plantas e animais para lembrar para o exame de biologia AP - dummies

Fatos de plantas e animais para lembrar para o exame de biologia AP - dummies

A seguinte lista contém algumas das informações mais desafiadoras sobre plantas e animais que você pode encontrar no exame de biologia AP. Estude esta lista, desde que você precise - se você se lembrar dessa informação durante o teste, você fará tudo bem. As plantas vasculares têm raízes, rebentos e caules, cada um dos quais ...

Física Tópicos para estudar para o teste Miller Analogies (MAT) - dummies

Física Tópicos para estudar para o teste Miller Analogies (MAT) - dummies

Massa , velocidade, aceleração - sim, é hora de rever toda a física que você aprendeu no ensino médio e se preparar para o MAT (Miller Analogies Test). Para o MAT, familiarizar-se com a física não implica aprender equações complicadas. Você só precisa se lembrar de alguns termos de física e aprender sobre alguns físicos famosos. Essas listas ajudam ...

Médico Assistente de Exame para Dummies Cheat Sheet - dummies

Médico Assistente de Exame para Dummies Cheat Sheet - dummies

Quando você está se preparando para tomar a PANCE ou PANRE , você pode sentir que precisa conhecer uma quantidade infinita de informações. Como você vai se lembrar de todos os detalhes de tantas doenças e condições? Aqui, você pode revisar alguns mnemônicos úteis que não só ajudarão seu recall como você se prepara para o seu ...

Escolha dos editores

Como criar uma ordem de compra no QuickBooks 2010 - dummies

Como criar uma ordem de compra no QuickBooks 2010 - dummies

Você pode usar o QuickBooks para criar uma compra Ordem para o seu negócio. Uma ordem de compra informa um fornecedor que deseja comprar algum item. Na verdade, um pedido de compra é um contrato para compra.

Como personalizar os formulários de verificação no QuickBooks 2011 - dummies

Como personalizar os formulários de verificação no QuickBooks 2011 - dummies

Antes de escrever suas verificações no QuickBooks, você pode decida que deseja personalizá-los um pouco. Você pode querer que seus cheques reflitam a aparência do seu negócio. Por exemplo, o QuickBooks oferece a oportunidade de alterar as fontes em seus cheques. Se você clicar na aba Fontes na caixa de diálogo Verificar impressão ...

Como personalizar os formulários on-line do QuickBooks para lidar com os subtotais - manequins

Como personalizar os formulários on-line do QuickBooks para lidar com os subtotais - manequins

Se precisar subtotar informações sobre o seu formulários de vendas, configure formulários de vendas no QuickBooks Online para que você possa incluir subtotais neles. Você pode subtotar linhas em uma fatura, uma estimativa ou um recibo de venda. Primeiro, ative o recurso; Para este exemplo, ative o recurso para o formulário de fatura. Siga ...

Escolha dos editores

Como converter imagens em modo escala de cinza em Photoshop Elements 11 - dummies

Como converter imagens em modo escala de cinza em Photoshop Elements 11 - dummies

Imagens em escala de cinza têm preto e pixels brancos e qualquer um dos 256 níveis de cinza. Ao converter uma imagem RGB em escala de cinza no Photoshop Elements 11, você pode fazer com que pareça uma foto em preto e branco. Evite converter em escala de cinza escolhendo Image → Mode → Grayscale. Quando os elementos executam essa conversão, ele remove toda a cor dos pixels, ...

Como converter imagens em modo escala de cinza em Photoshop Elements 9 - dummies

Como converter imagens em modo escala de cinza em Photoshop Elements 9 - dummies

Em Photoshop Elements, você pode converter uma imagem RGB em escala de cinza, fazendo com que pareça uma foto em preto e branco. As imagens de tons de cinza têm pixels em preto e branco e qualquer um dos 256 níveis de cinza. No entanto, você não precisa desistir de seus dados de cores. Como alternativa ao uso do comando de menu para converter imagens para ...

Como corrigir imagens com curvas de cores - dummies

Como corrigir imagens com curvas de cores - dummies

Photoshop Elements 10 emprestou um recurso muito usado do Photoshop chamado Curves. No entanto, adicionou a palavra Cor e tirou parte de sua sofisticação. No entanto, o ajuste Color Curves tenta melhorar o alcance tonal em imagens a cores fazendo ajustes em destaques, sombras e tons médios em cada canal de cores. Tente usar este comando em ...