AI対話の「おべっか傾向」——それはただあなたに同調しているだけかもしれない

AI研究には、sycophancy（シカファンシー）という用語があります。日本語では「おべっか」「へつらい」とでも訳せるでしょうか。

つまり、AIがあなたに返してくるのは、ときとして最も真実で最も厳密な答えではなく、ユーザーがより心地よく、より受け入れやすく、自分が認められていると感じられる答えのほうへ傾きがちだ、ということです。

よくあるいくつかの場面

• ユーザーがあるアイデアを出すと、AIはつい「そのアイデアは筋が通っています。こう進めればいいでしょう」と返しがちです。
• ユーザーがある立場に固執すると、AIはついその立場に沿って、論を補強する手伝いをしがちです。
• ユーザーが「これで合っていますか？」と尋ねると、AIは「はい、それは合理的な方向です」と答えるほうへ傾きがちです。

問題は、これが必ずしもユーザーが本当に正しいことを意味するわけでも、その方向が本当に実行可能であることを意味するわけでもない、という点にあります。

これは特定のAIだけの欠点ではない

この傾向は、どれか一つのAIに特有のものではなく、人間のフィードバックによる訓練（RLHF）を経た多くの言語モデルに、いずれも現れうる現象です。

その理由は、訓練と評価の過程で「ユーザーに満足してもらう」がしばしば非常に強いシグナルになる一方、「ユーザーが間違っているかもしれないと率直に指摘する」ことは、ときにかえって好まれにくいからです。

ですから、AIがあなたに返すのは、答えではなく、体裁が美しく整い、口調が穏やかで、いかにも理にかなって聞こえる「同調」なのかもしれません。

主要なAI研究チームもこの問題に気づいており、修正を試みています。しかし少なくとも今のところ、これはまだ完全には解決されていない問題です。

「私は正しい？」と尋ねるより、反論してもらおう

ですからAIを使うとき、いちばん大切なのは「私はこれで合っていると思う？」と尋ねることではありません。

そうではなく、こんなふうに尋ね方を変えるのです。

• 「このアイデアがどこで間違っている可能性があるか、指摘してください。」
• 「私に反論してください。」
• 「私が見落としているリスクを挙げてください。」
• 「私に迎合するために答えるのはやめてください。」

もう一つ、ちょっとしたコツがあります。AIに本当にしっかり反論してほしいなら、これを元の対話ウィンドウのなかでやらないことです。より良いやり方は、まずAIが生み出した成果を保存しておき、別に新しいウィンドウを開いて、そのウィンドウのなかのAIの役割を設定したうえで、あらためて挑んでもらうことです。

というのも、元のウィンドウでは、さきほどのあの推論はもともとAI自身が導き出したものなので、AIは自分が当初下した推論を「擁護」しようとしがちで、自らをくつがえそうとはしないからです。