为什么 LLM 会产生幻觉？一个不能交白卷的学生

为什么 LLM 会产生幻觉？

我觉得，可以把 LLM 想象成这样一个学生：他读过很多很多书，但记忆被压缩过，而且他自己也不晓得哪些地方其实已经模糊了；更麻烦的是，他还被要求——考试的时候“不能交白卷”。

它的强项不是“知道自己是否知道”

这个学生真正的强项，并不是判断自己“是不是真的知道”，而是把文字接得流畅、让答案看起来像一个合理的答案。

所以，当数据本身很模糊、来源混杂，或是第一步推论就错了，后面就可能为了维持语气的一致，愈写愈完整，也愈错愈有自信。

重点是降低它“乱补”的空间

因此，使用 AI 的时候，重点不是只丢一句：“帮我找答案。”而是要想办法降低它“乱补”的空间。

比较好的做法是：

• 把问题结构化，明确列出背景、限制、输出格式；
• 数据太多时，分批输入，让它一步一步处理；
• 更重要的是，提供正确的来源，并要求它“依来源回答”，不确定的地方就标示出来。

把它当成需要清楚题目的助手

换个比喻：把 AI 当成一个“需要给它清楚题目、参考资料，还有作答范围”的助手。

问题问得愈松，它就愈容易乱补；范围框得愈清楚，它才比较可能真的帮上忙。

也就是说，提问的人如果能把问题设计得像“填空题”，而不是漫无边际的“申论题”，那么 AI 给出的答案，通常就会愈收敛，也愈趋近于一个比较精准的结果。