為什麼 LLM 會產生幻覺？一個不能交白卷的學生

為什麼 LLM 會產生幻覺？

我覺得，可以把 LLM 想像成這樣一個學生：他讀過很多很多書，但記憶被壓縮過，而且他自己也不曉得哪些地方其實已經模糊了；更麻煩的是，他還被要求——考試的時候「不能交白卷」。

它的強項不是「知道自己是否知道」

這個學生真正的強項，並不是判斷自己「是不是真的知道」，而是把文字接得流暢、讓答案看起來像一個合理的答案。

所以，當資料本身很模糊、來源混雜，或是第一步推論就錯了，後面就可能為了維持語氣的一致，愈寫愈完整，也愈錯愈有自信。

重點是降低它「亂補」的空間

因此，使用 AI 的時候，重點不是只丟一句：「幫我找答案。」而是要想辦法降低它「亂補」的空間。

比較好的做法是：

• 把問題結構化，明確列出背景、限制、輸出格式；
• 資料太多時，分批輸入，讓它一步一步處理；
• 更重要的是，提供正確的來源，並要求它「依來源回答」，不確定的地方就標示出來。

把它當成需要清楚題目的助手

換個比喻：把 AI 當成一個「需要給它清楚題目、參考資料，還有作答範圍」的助手。

問題問得愈鬆，它就愈容易亂補；範圍框得愈清楚，它才比較可能真的幫上忙。

也就是說，提問的人如果能把問題設計得像「填空題」，而不是漫無邊際的「申論題」，那麼 AI 給出的答案，通常就會愈收斂，也愈趨近於一個比較精準的結果。