สิ่งที่ AI ให้คุณอาจไม่ใช่คำตอบ แต่เป็นภาพหลอนที่จัดหน้าสวยงาม

วันนี้ผมขอให้ Gemini ช่วยหาร้านติดตั้งแอร์ให้ โดยมีเงื่อนไขว่าให้อ้างอิงประสบการณ์ผู้ใช้จาก PTT หรือ Dcard เป็นหลัก

ตอนแรก Gemini แสดงรายชื่อ URL ที่ดูครบถ้วนมาก แต่พอคลิกเข้าไปดู กลับเปิดไม่ได้หรือไม่ก็เนื้อหาไม่ตรงกัน

พอผมเตือน Gemini ก็ “ปะติดปะต่อ” จนดูครบถ้วนขึ้นไปอีก

หลังจากผมเตือน Gemini ว่า URL มีปัญหา Gemini ก็จัดทำ “รายชื่อร้านแอร์ที่ชาว PTT แนะนำจริง” ขึ้นมาใหม่อีกชุด มีทั้งชื่อร้าน PTT ID เหตุผลที่แนะนำ และยังสอนผมด้วยว่าใช้คำค้นไหนได้บ้าง

ดูผิวเผินแล้ว เหมือนกับว่า Gemini ตรวจสอบข้อมูลมาอย่างจริงจังจริง ๆ

แต่พอตรวจสอบลึกลงไป ปัญหากลับใหญ่ขึ้นไปอีก ร้านเหล่านั้นแทบหาไม่เจอเลย ส่วนโพสต์ PTT และคำแนะนำจากผู้ใช้ที่อ้างถึง ก็หาที่มาไม่เจอเช่นกัน

AI เป็น “Generative AI” ไม่ใช่ “Refusal AI”

เรื่องนี้ยังเตือนผมด้วยว่า ในสถานการณ์ที่ต้องค้นหาข้อมูล AI บางตัวถ้าหาข้อมูลที่น่าเชื่อถือไม่ได้ ก็ไม่ได้บอกตรง ๆ เสมอไปว่า “หาไม่เจอ” แต่จะพยายาม “ปะติดปะต่อ” เนื้อหาที่ดูสมเหตุสมผลขึ้นมาแทน

เพราะ AI เป็น “Generative AI” ไม่ใช่ “Refusal AI”

พูดอีกอย่างคือ สิ่งที่ AI ให้คุณอาจไม่ใช่คำตอบ แต่เป็นภาพหลอนที่จัดหน้าสวยงาม

เรื่องที่เกี่ยวข้องกับโลกจริง ไม่ควรดูแค่ AI

AI เหมาะมากสำหรับช่วยเรียบเรียงแนวทาง สร้างคำค้นหา และสรุปเนื้อหาที่ตรวจสอบแล้ว แต่ถ้าเกี่ยวข้องกับร้านค้าจริง ราคา รีวิว หรือเรื่องกฎหมาย การแพทย์ การลงทุน ก็ไม่ควรดูแค่คำตอบของ AI เด็ดขาด

AI ช่วยประหยัดเวลาค้นหาให้เราได้ แต่ไม่สามารถแทนที่การตรวจสอบแหล่งที่มาได้ ดูครบถ้วนไม่ได้แปลว่าเป็นเรื่องจริง