Como pesquisar seus dados de análise preditiva - manequins

Para utilizar seus dados de análise preditiva, você precisa saber como encontrar as informações que você deseja encontrar. Existem dois conceitos principais de pesquisar seus dados em preparação para usá-lo em análises preditivas:

• Preparando-se para ir além da pesquisa básica de palavras-chave

• Fazendo seus dados semanticamente pesquisáveis ​​

Como usar a pesquisa baseada em palavras-chave em previsão analítica

Imagine se você foi encarregado de pesquisar grandes quantidades de dados. Uma maneira de abordar o problema é emitir uma consulta de pesquisa que consiste (obviamente) em palavras. A ferramenta de pesquisa procura por palavras correspondentes no banco de dados, o data warehouse, ou vai pesquisar através de qualquer texto em que seus dados residem.

Suponha que você está enviando a seguinte consulta de pesquisa: o Presidente dos Estados Unidos visita a África . Os resultados da pesquisa consistirão em texto que contém exatamente uma ou uma combinação das palavras Presidente, Estados Unidos, visitas, África . Você pode obter a informação exata que você está procurando, mas nem sempre.

Como sobre os documentos que não contêm nenhuma das palavras anteriormente mencionadas, mas uma combinação dos seguintes: viagem de Obama para o Quênia .

Nenhuma das palavras que você pesquisou inicialmente está lá - mas os resultados da pesquisa são semanticamente (significativamente) úteis. Como você pode preparar seus dados para ser recuperável semanticamente? Como você pode ir além da pesquisa tradicional por palavras-chave? Suas respostas podem ser encontradas se você continuar lendo.

Como usar pesquisas baseadas em semântica em análises preditivas

Uma ilustração de como a pesquisa baseada em semântica é um projeto que o Anasse Bari liderou no Grupo do Banco Mundial, uma organização internacional cuja principal missão é combater a pobreza em todo o mundo.

O projeto teve como objetivo investigar pesquisas e análises corporativas de grande escala existentes no mercado e construir um protótipo para uma estrutura de ponta que organizaria os dados do Banco Mundial - a maioria dos quais era uma coleção não estruturada de documentos, publicações, relatórios de projetos, resumos e estudos de caso.

Este enorme conhecimento valioso é um recurso usado para a principal missão do Banco de reduzir a pobreza mundial. Mas o fato de que é desestruturado torna desafiador acessar, capturar, compartilhar, entender, pesquisar, armazenar dados e visualizar.

O Banco Mundial é uma organização imensa, com muitas divisões em todo o mundo. Uma das principais divisões estava se esforçando para ter uma estrutura e estava pronta para alocar recursos para ajudar a equipe de Bari a ser a Rede de Desenvolvimento Humano no Banco Mundial.

O vice-presidente da Rede de Desenvolvimento Humano delineou um problema que surgiu da ambiguidade: sua divisão usou vários termos e conceitos que tinham o mesmo significado geral, mas as diferentes nuances.

Por exemplo, termos como climatologia, mudança climática, depleção de ozônio, e emissões de gases com efeito de estufa eram todos semanticamente relacionados, mas não eram de significado idêntico. Ele queria uma capacidade de pesquisa inteligente o suficiente para extrair documentos que continham conceitos relacionados quando alguém pesquisou qualquer um desses termos.

A estrutura do protótipo para essa capacidade que a equipe de Bari selecionou foi a arquitetura de gerenciamento de informações não estruturada (UIMA), uma solução baseada em software. Originalmente projetado pela IBM Research, a UIMA está disponível no software da IBM, como o IBM Content Analytics, uma das ferramentas que alimentaram o IBM Watson, o famoso computador que ganhou o jogo Jeopardy.

A equipe de Bari uniu forças com uma equipe muito talentosa da IBM Content Management e Enterprise Search e, mais tarde, com uma equipe da IBM Watson, para colaborar nesse projeto.

Uma solução de gerenciamento de informações não estruturadas (UIM) é um sistema de software que analisa grandes volumes de informações não estruturadas (texto, áudio, vídeo, imagens, etc.) para descobrir, organizar e fornecer conhecimento relevante para o cliente ou o usuário final da aplicação.

A ontologia de um domínio é uma matriz de conceitos e termos relacionados específicos para um domínio. Uma solução baseada em UIMA usa ontologias para fornecer etiquetagem semântica, o que permite a pesquisa enriquecida independente do formato de dados (texto, fala, apresentação do PowerPoint, e-mail, vídeo e assim por diante). O UIMA adiciona outra camada aos dados capturados e, em seguida, adiciona metadados para identificar dados que podem ser estruturados e pesquisados ​​semanticamente.

A pesquisa semântica baseia-se no significado contextual dos termos de pesquisa que aparecem no espaço de dados pesquisável que o UIMA constrói. A pesquisa semântica é mais precisa do que a pesquisa baseada em palavras-chave, uma vez que uma consulta do usuário retorna resultados de pesquisa não apenas de documentos que contêm os termos de pesquisa, mas também de documentos que são semanticamente relevantes para a consulta.

Se você estiver pesquisando a biodiversidade em África , uma pesquisa típica (baseada em palavras-chave) retornará documentos com as palavras exatas biodiversidade e África . Uma pesquisa semântica baseada em UIMV retornará não apenas os documentos que têm essas duas palavras, mas também qualquer coisa que seja semanticamente relevante para documentos de "biodiversidade em África" ​​que contenham combinações de palavras como "recursos de plantas em África", "recursos de animais em Marrocos ", ou" recursos genéticos no Zimbábue ". "

Através da marcação semântica e do uso de ontologias, a informação torna-se semântica recuperável, independente do idioma ou do meio em que as informações foram criadas (Word, PowerPoint, e-mail, vídeo e assim por diante). Esta solução fornece um único hub onde os dados podem ser capturados, organizados, trocados e tornados semanticamente recuperáveis.

Os dicionários de sinônimos e termos relacionados são open-source (disponível gratuitamente) - ou você pode desenvolver seus próprios dicionários específicos para seu domínio ou seus dados. Você pode criar uma planilha com a palavra raiz e suas correspondentes palavras relacionadas, sinônimos e termos mais amplos. A planilha pode ser carregada em uma ferramenta de pesquisa como o IBM Content Analytics (ICA) para alimentar a busca corporativa e a análise de conteúdo.