As Limitações dos Dados em Analisadores Preditivos - dummies

Tal como acontece com muitos aspectos de qualquer sistema empresarial, os dados são uma criação humana - por isso é provável ter alguns limites em sua usabilidade quando você primeiro obtê-lo. Aqui está uma visão geral de algumas limitações que você provavelmente encontrará:

• Os dados podem estar incompletos. Os valores perdidos, mesmo a falta de uma seção ou uma parte substancial dos dados, podem limitar sua usabilidade.

  Por exemplo, seus dados podem cobrir apenas uma ou duas condições de um conjunto maior que você está tentando modelar - como quando um modelo construído para analisar o desempenho do mercado de ações possui apenas dados disponíveis nos últimos 5 anos, o que distorce ambos os dados e o modelo para a assunção de um mercado de touro.

  O momento em que o mercado sofre qualquer correção que leva a um mercado urso, o modelo não se adapta - simplesmente porque não foi treinado e testado com dados que representam um mercado urso.

  Certifique-se de que você está olhando para um período de tempo que lhe dá uma imagem completa das flutuações naturais de seus dados; seus dados não devem ser limitados por sazonalidade .

• Se você estiver usando dados de pesquisas, lembre-se de que as pessoas nem sempre fornecem informações precisas. Nem todos responderão com sinceridade sobre (digamos) quantas vezes eles exercitam - ou quantas bebidas alcoólicas consumem - por semana. As pessoas podem não ser desonesto tanto quanto autoconscientes, mas os dados ainda estão distorcidos.

• Os dados coletados de diferentes fontes podem variar em qualidade e formato. Os dados coletados de fontes diversas como pesquisas, e-mails, formulários de entrada de dados e o site da empresa terão diferentes atributos e estruturas. Os dados de várias fontes podem não ter muita compatibilidade entre os campos de dados. Esses dados requer grande pré-processamento antes que esteja pronto para análise. A barra lateral que acompanha fornece um exemplo.

Os dados coletados de várias fontes podem ter diferenças na formatação, registros duplicados e inconsistências em campos de dados mesclados. Espere passar muito tempo limpando esses dados - e ainda mais, validando sua confiabilidade.

Para determinar as limitações de seus dados, certifique-se de:

• Verifique todas as variáveis ​​que você usará em seu modelo.

• Avalie o alcance dos dados, especialmente ao longo do tempo, para que seu modelo possa evitar a armadilha da sazonalidade.

• Verifique se há valores em falta, identifique-os e avalie seu impacto na análise geral.

• Cuidado com os valores extremos (outliers) e decidir se deve incluí-los na análise.

• Confirme que o conjunto de dados de treinamento e teste é suficientemente grande.

• Certifique-se de que tipo de dados (números inteiros, valores decimais ou caracteres, e assim por diante) esteja correto e configure os limites superiores e inferiores dos valores possíveis.

• Preste atenção extra à integração de dados quando seus dados vêm de várias fontes.

Certifique-se de entender suas fontes de dados e seu impacto na qualidade geral de seus dados.

• Escolha um conjunto de dados relevante que seja representativo de toda a população.

• Escolha os parâmetros certos para sua análise.

Mesmo depois de todo esse cuidado e atenção, não se surpreenda se seus dados ainda precisem de pré-processamento antes de poder analisá-lo com precisão. O pré-processamento muitas vezes leva um longo tempo e um esforço significativo porque tem que abordar vários problemas relacionados aos dados originais - esses problemas incluem:

• Todos os valores faltam nos dados.

• Quaisquer inconsistências e / ou erros existentes nos dados.

• Qualquer duplicado ou outliers nos dados.

• Qualquer normalização ou outra transformação dos dados.

• Todos os dados derivados necessários para a análise.