¿Por qué alucinan los LLM? Un estudiante que no puede entregar el examen en blanco
¿Por qué alucinan los LLM?
A mi modo de ver, se puede imaginar un LLM como este estudiante: ha leído muchísimos libros, pero su memoria ha sido comprimida y ni él mismo sabe qué partes se le han vuelto, en realidad, borrosas; y lo que es más peliagudo: encima le exigen que —durante el examen— «no entregue la hoja en blanco».
Su fuerte no es «saber si sabe»
El verdadero fuerte de este estudiante no es juzgar si «de verdad sabe algo», sino enlazar las palabras con fluidez para que la respuesta parezca una respuesta razonable.
Por eso, cuando el propio material es muy vago, las fuentes están mezcladas o el primer paso del razonamiento ya es erróneo, lo que viene después puede —con tal de mantener la coherencia del tono— volverse cada vez más completo, y cada vez más seguro de sí en su error.
La clave está en reducirle el margen para «rellenar a lo loco»
Por eso, al usar la IA, la clave no es limitarse a soltar una frase: «Búscame la respuesta». Se trata de encontrar la manera de reducirle el margen para «rellenar a lo loco».
Un enfoque mejor es:
- estructurar la pregunta, exponiendo con claridad el contexto, las restricciones y el formato de salida;
- cuando hay demasiado material, introducirlo por tandas para que lo procese paso a paso;
- y, más importante aún, proporcionarle fuentes correctas y exigirle que «responda conforme a las fuentes», señalando allí donde no esté seguro.
Trátalo como un ayudante que necesita un enunciado claro
Cambiemos de metáfora: trata a la IA como un ayudante «al que hay que darle un enunciado claro, materiales de referencia y un ámbito para responder».
Cuanto más floja sea la pregunta, más fácil le será rellenar a lo loco; cuanto más claro delimites el ámbito, más probable será que de verdad te sea útil.
Es decir: si quien pregunta logra diseñar la pregunta más como un «ejercicio de rellenar huecos» que como una «pregunta de desarrollo» sin límites, entonces las respuestas que dé la IA, por lo general, convergerán más y se acercarán más a un resultado bastante preciso.