Várias postagens recentes discutiram uma maneira promissora e bastante simples de avaliar a qualidade da pesquisa de produtos usando intenções. Nós nos apressamos em apresentar uma ferramenta aberta e automatizada para esse tipo de teste - a
Qualidade da pesquisa baseada em intenções . A idéia se resume a usar consultas "focadas" pré-preparadas, cujo valor reside em sua franqueza e interpretação inequívoca.

Se você estiver interessado na abordagem, preste atenção ao post
"Pretendo comprar" ou à maneira mais fácil de avaliar a qualidade da pesquisa de mercado . A transição do teste A / B padrão para o teste usando intenções pode não parecer óbvia.
A essência da abordagem
As consultas "focadas" fornecem uma maneira muito simples e bastante confiável de validar os resultados da pesquisa. Em uma primeira aproximação, a propósito, sua implementação pode ser reduzida para verificar a presença de todas as palavras-chave da consulta no nome dos produtos retornados.
Naturalmente, a posição do produto na edição final também é importante. Para pesquisar em um aplicativo móvel, por exemplo, o primeiro resultado e vários subsequentes são muito mais críticos. Para uma pesquisa regular (uma área de trabalho familiar), tudo se resume à presença de resultados relevantes na primeira página.
Quão boa é uma pesquisa no Walmart?
Pretendo comprar - uma abordagem realmente poderosa, porque não requer validação "manual" dos resultados da pesquisa. Vamos tentar descobrir o quão bom o Walmart é (nesse caso, continuaremos usando o pacote de consultas da marca fiskars). Então, "machado de aço fiskars":

E vamos automatizar tudo
Em princípio, o resultado parece bom, mas se você olhar com atenção, poderá perceber facilmente opções completamente irrelevantes. É muito fácil realizar as verificações necessárias sem intervenção humana, veja o relatório:

O resultado é negativo, porque no conjunto final existem muitos produtos realmente irrelevantes (ele não precisa de um cutelo e pega o facão também). Naturalmente, a função de avaliação é facilmente substituída por uma menos "agressiva". Em versões futuras, esperamos implementar uma pontuação de produto mais flexível e expandir a funcionalidade básica.
O veredicto
Na versão atual, o Walmart não ficou impressionado, sua classificação Fiskars não é muito alta:

Não pense que tudo está muito ruim. Em muitos casos, mesmo não nos mais triviais, os resultados estão corretos, mas para melhorar ainda mais a pesquisa, basta destacar todos os pontos potencialmente problemáticos. Usando a ferramenta proposta, há sempre a oportunidade:
- mudar para outra pontuação
- remover solicitações questionáveis
- corrija a pesquisa :)
Damos a você a oportunidade de avaliar a complexidade das consultas:

Referências
- Qualidade de pesquisa baseada em intenção
- API de qualidade de pesquisa
- "Pretendo comprar" ou a maneira mais fácil de avaliar a qualidade de uma pesquisa de mercado
- Bicicletas a gás ou pesquisas estranhas de produtos (comércio eletrônico)