O que a IA lhe dá talvez não seja uma resposta, mas uma alucinação primorosamente diagramada
Hoje pedi ao Gemini que me ajudasse a encontrar instaladores de ar-condicionado, com a condição de que se baseasse principalmente nas experiências de usuários do PTT ou do Dcard (dois dos fóruns on-line mais populares de Taiwan).
No começo, ele listou alguns endereços que pareciam bem completos, mas, ao clicar neles, ou não abriam, ou o conteúdo não batia.
Assim que eu o alertei, ele “remendou” tudo de forma ainda mais completa
Depois de eu apontar que os endereços tinham problemas, ele reorganizou outra “verdadeira lista de recomendações de ar-condicionado dos internautas do PTT”, desta vez contendo nomes de lojas, IDs do PTT, motivos da recomendação e até dicas sobre quais palavras-chave eu poderia usar para pesquisar.
À primeira vista, parecia mesmo que ele havia feito uma verificação séria.
Mas, aprofundando um pouco a busca, o problema só aumentou: aquelas lojas eram quase impossíveis de encontrar, e as tais publicações do PTT e recomendações de internautas também não tinham nenhuma fonte correspondente.
É uma “IA generativa”, não uma “IA que recusa”
Esse episódio também me lembrou de uma coisa: em situações em que é preciso pesquisar informações, algumas IAs, quando não conseguem encontrar dados confiáveis, não necessariamente vão lhe dizer com honestidade “não encontrei”, mas darão um jeito de “remendar” um conteúdo que pareça perfeitamente razoável.
Porque é uma “IA generativa”, não uma “IA que recusa”.
Em outras palavras, o que a IA lhe dá talvez não seja uma resposta, mas uma alucinação primorosamente diagramada.
Em assuntos que envolvem o mundo real, não dá para olhar só para a IA
A IA é muito adequada para nos ajudar a organizar a direção, gerar palavras-chave de busca e sintetizar conteúdos já confirmados; mas, tão logo entrem em jogo lojas, preços e avaliações reais — ou assuntos como direito, medicina e investimentos —, jamais se pode ficar apenas na resposta da IA.
A IA pode nos ajudar a economizar tempo de busca, mas não pode substituir a checagem das fontes. Parecer completo não significa que seja verdade.