LLM neden halüsinasyon görür? Boş kâğıt teslim edemeyen bir öğrenci

LLM neden halüsinasyon görür?

Bence LLM’i şöyle bir öğrenci gibi düşünebiliriz: çok ama çok kitap okumuştur, ancak belleği sıkıştırılmıştır ve hangi yerlerin aslında bulanıklaştığını kendisi de bilmez; daha da can sıkıcısı, ondan sınavda “boş kâğıt teslim etmemesi” de istenmektedir.

Güçlü yanı, “bildiğini bilip bilmediği” değil

Bu öğrencinin asıl güçlü yanı, “gerçekten bilip bilmediğine” karar vermek değil; sözcükleri akıcı biçimde birbirine ekleyip yanıtı makul bir yanıt gibi göstermektir.

Bu yüzden, verinin kendisi çok bulanıksa, kaynaklar birbirine karışmışsa ya da çıkarımın daha ilk adımı yanlışsa, sonrası üslup tutarlılığını korumak uğruna yazdıkça daha eksiksiz, yanıldıkça daha özgüvenli hâle gelebilir.

Önemli olan, onun “gelişigüzel doldurma” alanını daraltmak

Bu nedenle yapay zekâ kullanırken önemli olan, yalnızca “bana cevabı bulun” diye bir cümle atmak değil; onun “gelişigüzel doldurma” alanını bir yolunu bulup daraltmaktır.

Daha iyi bir yaklaşım şudur:

• soruyu yapılandırın, arka planı, kısıtları ve çıktı biçimini açıkça sıralayın;
• veri çok fazlaysa parça parça girin, adım adım işlemesini sağlayın;
• daha da önemlisi, doğru kaynakları verin ve ondan “kaynaklara dayanarak yanıt vermesini”, emin olmadığı yerleri ise işaretlemesini isteyin.

Onu, net bir soru verilmesi gereken bir yardımcı sayın

Benzetmeyi değiştirelim: yapay zekâyı, “kendisine net bir soru, başvuru kaynakları ve bir de yanıt sınırları verilmesi gereken” bir yardımcı sayın.

Soru ne kadar gevşek sorulursa, gelişigüzel doldurması o kadar kolaylaşır; sınırlar ne kadar net çizilirse, gerçekten yardımcı olma ihtimali de o kadar artar.

Yani soruyu soran kişi, sorusunu sınırsız bir “kompozisyon sorusu” gibi değil de “boşluk doldurma sorusu” gibi tasarlayabilirse, yapay zekânın verdiği yanıtlar genellikle daha derli toplu olur ve daha isabetli bir sonuca yaklaşır.