AIがくれるのは答えではなく、美しく整形された幻覚かもしれない

今日、私はGeminiに、エアコン業者を探すのを手伝ってもらいました。条件は、PTTやDcard（台湾で最も人気のあるネット掲示板の二つ）に書かれた利用者の体験談を主な材料にすること、というものでした。

最初、それは一見とても充実したいくつものURLを並べてくれました。ところが、クリックして開いてみると、開けないか、さもなければ内容が合っていないかのどちらかだったのです。

Geminiが生成した「本物のPTT民のエアコンおすすめリスト」のスクリーンショット。店名、PTTのID、おすすめの理由が並び、一見すると充実しているが、裏づけとなる証拠は見つからない

私が指摘したとたん、それはさらに「取りつくろって」完璧にしてきた

URLに問題があると指摘したところ、それはあらためて「本物のPTT民のエアコンおすすめリスト」をまとめ直してきました。そこには店名、PTTのID、おすすめの理由が並び、あまつさえ、どんなキーワードで検索すればいいかまで教えてくれたのです。

ちょっと見ただけでは、本当にきちんと裏取りをしたかのように見えます。

しかし、さらに調べていくと、問題はいっそう大きくなりました。それらの店はほとんど見つからず、いわゆるPTTの投稿やネットユーザーのおすすめも、対応する情報源が見当たらなかったのです。

この一件は、私にこんなことも気づかせてくれました。資料を検索する必要がある場面では、一部のAIは、信頼できる資料を見つけられないとき、正直に「見つかりませんでした」と教えてくれるとはかぎらず、むしろ、いかにももっともらしく見える内容を、なんとか「取りつくろって」でっち上げてくる、ということです。

なぜなら、それは「生成AI」であって、「拒否AI」ではないからです。

言い換えれば、AIがあなたにくれるのは、答えではなく、美しく整形された幻覚かもしれない、ということです。

AIは、方向性を整理したり、検索キーワードを生み出したり、すでに確認済みの内容をまとめたりするのには、とても向いています。しかし、いやしくも実在の店舗、価格、評判、あるいは法律・医療・投資といった事柄に関わるとなれば、AIの答えだけを頼りにするのは絶対にいけません。

AIは検索の時間を節約する手助けはしてくれますが、情報源の確認に取って代わることはできません。充実して見えるからといって、それが本物だとはかぎらないのです。