なぜLLMは幻覚（ハルシネーション）を起こすのか——白紙で答案を出せない生徒

なぜLLMは幻覚（ハルシネーション）を起こすのでしょうか。

私が思うに、LLMはこんな生徒だと想像してみるといいでしょう——彼はとてもたくさんの本を読んできましたが、その記憶は圧縮されており、しかもどの部分が実はもう曖昧になっているのか、彼自身にも分かっていません。さらに厄介なことに、彼は——試験のときに「白紙で答案を出してはいけない」と求められているのです。

彼の強みは「自分が知っているかどうかを知る」ことではない

この生徒の本当の強みは、自分が「本当に知っているのかどうか」を判断することではなく、文章をなめらかにつなげて、答えをもっともらしい答えに見せることにあります。

ですから、資料そのものがとても曖昧だったり、情報源が入り混じっていたり、あるいは最初の一歩の推論からすでに間違っていたりすると、そのあとは、語調の一貫性を保つために、書けば書くほど完成度が上がり、そして間違えれば間違えるほど自信たっぷりになっていく、ということが起こりえます。

大切なのは、それが「いいかげんに埋める」余地を減らすこと

そのため、AIを使うときに大切なのは、ただ「答えを探して」と一言投げることではなく、それが「いいかげんに埋める」余地を、どうにかして減らすことです。

より良いやり方は、こうです。

• 問いを構造化し、背景・制約・出力フォーマットをはっきりと挙げる。
• 資料が多すぎるときは、小分けにして入力し、一歩ずつ処理させる。
• そしてもっと大切なのは、正しい情報源を与え、「情報源にもとづいて答える」よう求め、確信の持てないところは明示させることです。

それを、はっきりした課題を必要とする助手だと考える

たとえを変えてみましょう。AIを、「はっきりした課題と、参考資料と、答える範囲を与えてやる必要のある」助手だと考えるのです。

問いがゆるいほど、それはいいかげんに埋めやすくなります。範囲をはっきり枠づけるほど、それは本当に役に立ってくれる見込みが高まります。

つまり、問いかける人が、問いを果てしない「論述問題」ではなく「穴埋め問題」のように設計できれば、AIが返してくる答えは、たいていより収斂し、より精確な結果に近づいていくのです。