Analisando os conceitos básicos de estatística, aprendizado de máquina e métodos matemáticos na ciência dos dados - manequins

Parte da Ciência dos Dados para Dummies Cheat Sheet > Se as estatísticas foram descritas como a ciência de derivar informações sobre os dados, então, qual é a diferença entre um estatístico e um cientista de dados? Boa pergunta! Embora muitas tarefas na ciência dos dados exigem um pouco de conhecimento estatístico, o alcance e a amplitude do conhecimento e da base de habilidades de um cientista de dados são distintos dos de um estatístico. As principais distinções são descritas abaixo.

Especialidade em matéria de matéria:

Uma das principais características dos cientistas de dados é que eles oferecem um grau sofisticado de especialização na área a que aplicam seus métodos analíticos. Os cientistas de dados precisam disso para que eles possam realmente entender as implicações e aplicações dos dados que eles geram. Um cientista de dados deve possuir conhecimentos suficientes para poder identificar o significado de suas descobertas e decidir de forma independente como proceder na análise.

Em contraste, os estatísticos geralmente têm um conhecimento incrivelmente profundo das estatísticas, mas muito pouca experiência na matéria a que aplicam métodos estatísticos. Na maioria das vezes, os estatísticos são obrigados a consultar com especialistas em assuntos externos para se entenderem firmemente sobre o significado de suas descobertas e para poderem decidir a melhor maneira de avançar em uma análise.

Abordagens matemáticas e de aprendizagem mecânica:
Os estatísticos dependem principalmente de métodos e processos estatísticos ao derivar informações sobre os dados. Em contraste, os cientistas de dados são obrigados a retirar de uma ampla variedade de técnicas para obter informações sobre dados. Estes incluem métodos estatísticos, mas também incluem abordagens que não se baseiam em estatísticas - como aquelas encontradas em abordagens matemáticas, de cluster, de classificação e de aprendizagem de máquinas não-estatísticas. Vendo a importância do know-how estatístico

Você não precisa sair e obter um diploma em estatísticas para praticar ciência de dados, mas você deve, pelo menos, familiarizar-se com alguns dos métodos mais fundamentais que são usados na análise de dados estatísticos. Estes incluem:

Regressão linear

: A regressão linear é útil para modelar as relações entre uma variável dependente e uma ou várias variáveis independentes. O objetivo da regressão linear é descobrir (e quantificar a força de) correlações importantes entre variáveis dependentes e independentes. Análise de séries temporais:
A análise de séries temporais envolve a análise de uma coleção de dados sobre valores de atributos ao longo do tempo, para prever futuras instâncias da medida com base nos dados observacionais anteriores. Simulações de Monte Carlo:
O método de Monte Carlo é uma técnica de simulação que você pode usar para testar hipóteses, gerar estimativas de parâmetros, prever os resultados do cenário e validar modelos. O método é poderoso porque pode ser usado para simular muito rapidamente de 1 a 10 000 (ou mais) amostras de simulação para qualquer processo que você está tentando avaliar. Estatísticas de dados espaciais:
Uma propriedade fundamental e importante de dados espaciais é que não é aleatória. É espacialmente dependente e auto-correlacionado. Ao modelar dados espaciais, evite métodos estatísticos que assumam que seus dados são aleatórios. Kriging e krige são dois métodos estatísticos que você pode usar para modelar dados espaciais. Esses métodos permitem que você produza superfícies preditivas para áreas de estudo inteiras com base em conjuntos de pontos conhecidos no espaço geográfico. Trabalhando com métodos de agrupamento, classificação e aprendizagem de máquinas

O aprendizado de máquina é a aplicação de algoritmos computacionais para aprender (ou deduzir padrões) conjuntos de dados brutos.

Clustering é um tipo particular de aprendizagem de máquina - sem supervisão aprendizagem em máquina, para ser preciso, o que significa que os algoritmos devem aprender com dados não-rotulados e, como tal, devem usar métodos inferenciais para descobrir correlações. Classificação, por outro lado, é chamado de aprendizagem de máquina supervisionada, o que significa que os algoritmos aprendem com dados rotulados. As seguintes descrições introduzem algumas das abordagens mais básicas de agrupamento e classificação: k-means clustering:

Você geralmente implanta algoritmos k-means para subdividir pontos de dados de um conjunto de dados em clusters com base nos valores médios mais próximos. Para determinar a divisão ótima de seus pontos de dados em clusters, de modo que a distância entre os pontos em cada cluster seja minimizada, você pode usar o agrupamento k-means. Algoritmos vizinhos mais próximos:
O objetivo de uma análise vizinha mais próxima é procurar e localizar um ponto mais próximo do espaço ou um valor numérico mais próximo, dependendo do atributo que você usa para comparação. Estimativa de densidade do núcleo:
Uma maneira alternativa de identificar clusters em seus dados é usar uma função de suavização de densidade. A estimativa da densidade do núcleo (KDE) funciona colocando um kernel uma função de ponderação que é útil para quantificar densidade - em cada ponto de dados no conjunto de dados e, em seguida, somando os kernels para gerar uma estimativa de densidade do núcleo para o conjunto região. Mantendo métodos matemáticos na mistura

Lotes são ditos sobre o valor das estatísticas na prática da ciência dos dados, mas os métodos matemáticos aplicados raramente são mencionados. Para ser franco, a matemática é a base de todas as análises quantitativas. Sua importância não deve ser subestimada. Os dois seguintes métodos matemáticos são particularmente úteis na ciência dos dados.

MCDM:

MCDM é uma abordagem de modelagem de decisão matemática que você pode usar quando você tem vários critérios ou alternativas que você deve avaliar simultaneamente ao tomar uma decisão. cadeias de Markov
: uma cadeia de Markov é um método matemático que encadena uma série de variáveis geradas aleatoriamente que representam o estado presente, a fim de modelar como as mudanças nas variáveis de estado atual afetam os estados futuros.