Vì sao LLM sinh ra ảo giác? Một học sinh không được phép nộp giấy trắng
Vì sao LLM lại sinh ra ảo giác?
Tôi cho rằng có thể hình dung LLM như một học sinh thế này: cậu ta đã đọc rất nhiều, rất nhiều sách, nhưng ký ức thì bị nén lại, mà bản thân cậu cũng không biết những chỗ nào thật ra đã trở nên mờ nhòe; rắc rối hơn nữa, cậu còn bị yêu cầu — khi thi thì “không được nộp giấy trắng”.
Sở trường của nó không phải là “biết mình có biết hay không”
Sở trường thật sự của cậu học sinh này không phải là phán đoán xem mình “có thật sự biết hay không”, mà là nối chữ cho trôi chảy, khiến câu trả lời trông giống như một câu trả lời hợp lý.
Vì thế, khi bản thân dữ liệu rất mơ hồ, nguồn thông tin lẫn lộn, hoặc ngay bước suy luận đầu tiên đã sai, thì phần phía sau có thể vì muốn giữ giọng văn nhất quán mà càng viết càng đầy đủ, càng sai lại càng tự tin.
Mấu chốt là thu hẹp không gian để nó “bịa cho đầy”
Vì vậy, khi dùng AI, mấu chốt không phải là chỉ ném ra một câu: “Tìm giúp tôi câu trả lời.” mà là phải nghĩ cách thu hẹp không gian để nó “bịa cho đầy”.
Cách làm tốt hơn là:
- cấu trúc hóa câu hỏi, nêu rõ bối cảnh, ràng buộc và định dạng đầu ra;
- khi dữ liệu quá nhiều thì nhập theo từng đợt, để nó xử lý từng bước một;
- và quan trọng hơn là cung cấp nguồn chính xác, yêu cầu nó “trả lời theo nguồn”, chỗ nào không chắc chắn thì đánh dấu ra.
Hãy coi nó là một trợ lý cần có đề bài rõ ràng
Đổi một cách ví von: hãy coi AI là một trợ lý “cần được đưa cho đề bài rõ ràng, tài liệu tham khảo, và cả phạm vi trả lời”.
Câu hỏi đặt ra càng lỏng lẻo thì nó càng dễ bịa cho đầy; phạm vi khoanh càng rõ ràng thì nó mới có khả năng thật sự giúp được việc.
Nghĩa là, nếu người đặt câu hỏi có thể thiết kế câu hỏi giống một “bài điền vào chỗ trống” thay vì một “bài luận” không có giới hạn, thì câu trả lời mà AI đưa ra thường sẽ càng thu hẹp lại, và càng tiến gần đến một kết quả tương đối chính xác.