ทำไม LLM ถึงเกิดอาการหลอน? นักเรียนที่ส่งกระดาษเปล่าไม่ได้
ทำไม LLM ถึงเกิดอาการหลอน?
ผมคิดว่าสามารถจินตนาการ LLM เป็นนักเรียนคนหนึ่งแบบนี้ได้ เขาอ่านหนังสือมามากมายเหลือเกิน แต่ความทรงจำของเขาได้รับการบีบอัดไว้ และตัวเขาเองก็ไม่รู้ด้วยซ้ำว่าส่วนไหนบ้างที่จริง ๆ แล้วเลือนลางไปแล้ว ที่ยุ่งยากกว่านั้นคือ เขายังต้องทำตามข้อกำหนดที่ว่า ตอนสอบ “ห้ามส่งกระดาษเปล่า”
จุดแข็งของ LLM ไม่ใช่ “การรู้ว่าตัวเองรู้หรือไม่”
จุดแข็งที่แท้จริงของนักเรียนคนนี้ไม่ใช่การตัดสินว่าตัวเอง “รู้จริงหรือเปล่า” แต่คือการเรียบเรียงถ้อยคำให้ลื่นไหล ทำให้คำตอบดูเหมือนคำตอบที่สมเหตุสมผล
ดังนั้น เมื่อข้อมูลเองคลุมเครือ แหล่งที่มาปะปนกัน หรือขั้นตอนการอนุมานแรกผิดไปแล้ว ส่วนที่ตามมาก็อาจจะเพื่อรักษาความสม่ำเสมอของน้ำเสียง ยิ่งเขียนก็ยิ่งสมบูรณ์ขึ้น และยิ่งผิดก็ยิ่งมั่นใจขึ้น
จุดสำคัญคือลดพื้นที่การ “เติมมั่ว” ของ LLM
ดังนั้น เวลาใช้ AI จุดสำคัญไม่ใช่แค่โยนประโยคเดียวว่า “ช่วยหาคำตอบให้หน่อย” แต่ต้องหาวิธีลดพื้นที่การ “เติมมั่ว” ของ AI ให้ได้
วิธีที่ดีกว่าคือ:
- จัดโครงสร้างคำถามให้ชัดเจน ระบุภูมิหลัง ข้อจำกัด และรูปแบบผลลัพธ์
- เมื่อข้อมูลเยอะเกินไป ให้ป้อนเป็นชุด ๆ เพื่อให้ AI ประมวลผลทีละขั้น
- ที่สำคัญกว่านั้นคือ ให้ข้อมูลอ้างอิงที่ถูกต้อง และกำหนดให้ AI “ตอบตามแหล่งอ้างอิง” ส่วนไหนที่ไม่แน่ใจก็ให้ทำเครื่องหมายไว้
มอง AI เป็นผู้ช่วยที่ต้องการโจทย์ที่ชัดเจน
เปลี่ยนอุปมา: มอง AI เป็นผู้ช่วยที่ “ต้องให้โจทย์ที่ชัดเจน ข้อมูลอ้างอิง และขอบเขตการตอบ”
คำถามที่ถามยิ่งหลวมเท่าไร AI ก็ยิ่งเติมมั่วง่ายขึ้นเท่านั้น ขอบเขตที่กำหนดไว้ยิ่งชัดเจนเท่าไร AI ก็ยิ่งมีโอกาสช่วยได้จริงมากขึ้น
กล่าวอีกนัยหนึ่งคือ ถ้าผู้ถามสามารถออกแบบคำถามให้เหมือน “โจทย์เติมคำ” แทนที่จะเป็น “โจทย์อัตนัย” ที่ไม่มีขอบเขตได้ คำตอบที่ AI ให้มาก็มักจะยิ่งบรรจบเข้าหากันมากขึ้น และยิ่งใกล้เคียงผลลัพธ์ที่แม่นยำมากขึ้น