Lar Finanças Pessoais Desenvolvendo fluxos de trabalho Oozie em Hadoop - dummies

Desenvolvendo fluxos de trabalho Oozie em Hadoop - dummies

Vídeo: The future we're building -- and boring | Elon Musk 2024

Vídeo: The future we're building -- and boring | Elon Musk 2024
Anonim

Os fluxos de trabalho Oozie são, no seu núcleo, gráficos direcionados, onde você pode definir ações (aplicativos Hadoop) e fluxo de dados, mas sem loop - o que significa que você pode ' t definir uma estrutura onde você executaria uma operação específica uma e outra vez até que alguma condição seja atendida (um loop for, por exemplo).

Os fluxos de trabalho da Oozie são bastante flexíveis, pois você pode definir decisões baseadas em condições e caminhos bifurcados para execução paralela. Você também pode executar uma ampla gama de ações.

Nesta figura, você vê um fluxo de trabalho que mostra os recursos básicos dos fluxos de trabalho Oozie. Primeiro, um script Pig é executado e é seguido imediatamente por uma árvore de decisão. Dependendo do estado da saída, o fluxo de controle pode ir diretamente para uma operação de arquivo HDFS (Hadoop Distributed File System) (por exemplo, uma operação copyToLocal) ou para uma ação de garfo.

Se o fluxo de controle passa para a ação da forquilha, dois trabalhos são executados simultaneamente: um trabalho MapReduce e uma consulta de Hive. O fluxo de controle passa então para a operação HDFS, uma vez que o trabalho MapReduce e a consulta Hive estão finalizados. Após a operação HDFS, o fluxo de trabalho está completo.

As definições de fluxo de trabalho Oozie são escritas em XML, com base no esquema hateop de definição de idioma de processo (hPDL). Este esquema particular é, por sua vez, baseado no esquema de XML Process Definition Language (XPDL), que é um padrão independente do produto para modelagem de definições de processos de negócios.

Um fluxo de trabalho Oozie é composto por uma série de ações, codificadas por nós XML. Existem diferentes tipos de nós, representando diferentes tipos de ações ou diretivas de fluxo de controle. Cada fluxo de trabalho Oozie possui seu próprio arquivo XML, onde cada nó e suas interconexões são definidos.

Os nós de fluxo de trabalho exigem identificadores únicos porque eles são usados ​​para identificar o próximo nó a ser processado no fluxo de trabalho. Isso significa que a ordem em que as ações são executadas depende de onde o nó de uma ação aparece no XML do fluxo de trabalho. Para ver como esse conceito se verificaria, confira a lista a seguir, que mostra um exemplo da estrutura básica do arquivo XML de um fluxo de trabalho de Oozie.

… … "Trabalho assassinado."

Neste exemplo, além do início, fim e morte de nós, você tem dois nós de ação. Cada nó de ação representa uma aplicação ou um comando sendo executado.

Desenvolvendo fluxos de trabalho Oozie em Hadoop - dummies

Escolha dos editores

ASVAB Paragraph Comprehension Practice - dummies

ASVAB Paragraph Comprehension Practice - dummies

Um dos subtestes que você verá no ASVAB é o teste de compreensão de parágrafos. Esta parte do ASVAB está voltada para ver se você entende o que você lê. Exemplo de perguntas Parágrafo Tempo de compreensão: 13 minutos para 15 perguntas Instruções: A compreensão de parágrafo é o quarto subtesto no ASVAB. As perguntas são projetadas para ...

ASVAB Preparação: Números positivos e negativos - manequins

ASVAB Preparação: Números positivos e negativos - manequins

Certifique-se de que esteja familiarizado com o trabalho positivo e negativo números para o ASVAB. Os números podem ser positivos ou negativos. Um número positivo é qualquer número maior que zero. Então, 4; 3. 2; 793; 3/4; 1/2; e 430, 932, 843, 784 são todos números positivos. Números inferiores a zero são números negativos. Cada número positivo tem um negativo ...

ASVAB Dicas de compreensão de leitura - manequins

ASVAB Dicas de compreensão de leitura - manequins

As abordagens de compreensão de parágrafo no ASVAB geralmente são bastante curtas. Essas dicas podem ajudá-lo a compreender melhor as passagens de leitura ASVAB e as perguntas que as seguem: Compreenda o que a questão quer de você. Solicita o ponto principal, informações específicas ou uma conclusão baseada na informação apresentada? Releia o parágrafo ...

Escolha dos editores

A diferença entre análises analógicas e digitais - manequins

A diferença entre análises analógicas e digitais - manequins

Toda a eletrônica pode ser dividida em duas grandes categorias: analógico e digital. Um dos exemplos mais comuns da diferença entre dispositivos analógicos e digitais é um relógio. No relógio analógico, o tempo é representado por mãos que giram ao redor de um disco e apontam para uma localização no mostrador que representa ...

O papel dos átomos na eletrônica - dummies

O papel dos átomos na eletrônica - dummies

Os átomos são os blocos de construção básicos de tudo no universo, seja natural ou manmade. Eles são tão pequenos que você encontraria milhões deles em uma única partícula de poeira. A corrente elétrica, às vezes conhecida como eletricidade, é o movimento na mesma direção de partículas microscópicamente pequenas e eletricamente carregadas, chamadas elétrons. Cada átomo contém o ...

Roles de prótons e elétrons - dummies

Roles de prótons e elétrons - dummies

É Uma propriedade de certas partículas, como elétrons, prótons , e quarks (sim, quarks) que descreve como eles interagem uns com os outros. Existem dois tipos diferentes de carga elétrica, um pouco arbitrariamente chamada positiva e negativa (bem como as quatro direções cardinais são chamadas norte, sul, leste e oeste). Em geral, partículas que carregam ...

Escolha dos editores

Acesso 2007 All-In-One For Dummies Cheat Sheet - dummies

Acesso 2007 All-In-One For Dummies Cheat Sheet - dummies

Trabalhando no Access 2007 é mais fácil uma vez que você entenda executar a janela do Access 2007 e usar ferramentas para ajudar a gerenciar seus dados e responder suas perguntas.

Arrumando suas mensagens com o Lotus Notes 6 - manequins

Arrumando suas mensagens com o Lotus Notes 6 - manequins

Antes de enviar uma mensagem de e-mail no Lotus Notes 6, você pode definir Opções de entrega, Opções de segurança e Selos de humor. Use essas dicas de notas para informar o destinatário sobre o quão quente é sua mensagem ou qual é o seu humor; ou solicitar confirmação de entrega, definir o tempo de entrega e muito mais. Depois de terminar de compor o corpo ...

10 Ofícios de teclado do Office 2016 - dummies

10 Ofícios de teclado do Office 2016 - dummies

Um tema comum do Office 2016 é que todos os programas se parecem e funcionam. Depois de aprender a usar o Word, você achará que não é muito mais difícil aprender o Excel ou o PowerPoint porque as guias do Ribbon funcionam de maneiras semelhantes. Ainda melhor, os mesmos comandos de teclas funcionam de forma semelhante em todos os programas do Office 2016. Por ...