Lo que la IA te da quizá no sea una respuesta, sino una alucinación primorosamente maquetada
Hoy le pedí a Gemini que me ayudara a encontrar instaladores de aire acondicionado, con la condición de que se basara sobre todo en las experiencias de usuarios de PTT o Dcard (dos de los foros en línea más populares de Taiwán).
Al principio enumeró unas cuantas URL que parecían muy completas, pero, al pinchar en ellas, o bien no abrían, o bien el contenido no cuadraba.
En cuanto se lo advertí, lo «apañó» aún más completo
Después de advertirle de que las URL tenían problemas, volvió a recopilar otra «auténtica lista de recomendaciones de aire acondicionado de los usuarios de PTT», esta vez con nombres de tiendas, identificadores de PTT, motivos de la recomendación e incluso indicaciones sobre qué palabras clave podía usar para buscar.
A primera vista, parecía de verdad que lo había comprobado a conciencia.
Pero, escarbando un poco más, el problema no hizo sino agrandarse: aquellas tiendas apenas se podían localizar, y las supuestas publicaciones de PTT y recomendaciones de internautas tampoco tenían una fuente que les correspondiera.
Es una «IA generativa», no una «IA que se niega»
Este episodio me recordó también una cosa: en situaciones en las que hay que buscar información, algunas IA, cuando no encuentran datos fiables, no necesariamente te dicen con honradez «no lo he encontrado», sino que se las ingenian para «apañar» un contenido que parece de lo más razonable.
Porque es una «IA generativa», no una «IA que se niega».
Dicho de otro modo: lo que la IA te da quizá no sea una respuesta, sino una alucinación primorosamente maquetada.
En los asuntos que atañen al mundo real, no se puede mirar solo a la IA
La IA es muy adecuada para ayudarnos a ordenar el rumbo, generar palabras clave de búsqueda y sintetizar contenidos ya confirmados; pero en cuanto entran en juego tiendas, precios y reseñas reales —o asuntos como el derecho, la medicina o la inversión—, no se puede en absoluto atender solo a la respuesta de la IA.
La IA puede ayudarnos a ahorrar tiempo de búsqueda, pero no puede sustituir la verificación de las fuentes. Que algo parezca muy completo no significa que sea verdad.