Mengapa LLM Berhalusinasi? Seorang Siswa yang Tidak Boleh Menyerahkan Kertas Ujian Kosong

Mengapa LLM berhalusinasi?

Menurut saya, LLM bisa dibayangkan sebagai seorang siswa seperti ini: ia sudah membaca sangat, sangat banyak buku, tetapi ingatannya telah dimampatkan, dan ia sendiri pun tidak tahu bagian mana yang sebenarnya sudah menjadi kabur; yang lebih merepotkan lagi, ia juga dituntut untuk — saat ujian — “tidak boleh menyerahkan kertas kosong”.

Infografik yang memakai sosok seorang siswa di tengah lautan buku dan dituntut untuk “tidak boleh mengosongkan jawaban dan harus menjawab” sebagai perumpamaan mengapa LLM berhalusinasi, serta memuat enam penyebab seperti ingatan yang dimampatkan dan sumber yang bercampur aduk

Keunggulannya bukan “mengetahui apakah dirinya tahu”

Keunggulan sejati siswa ini bukanlah menilai apakah dirinya “benar-benar tahu atau tidak”, melainkan merangkai kata secara lancar sehingga jawabannya tampak seperti sebuah jawaban yang masuk akal.

Karena itu, ketika bahannya sendiri sangat kabur, sumbernya bercampur aduk, atau langkah penalaran pertamanya saja sudah salah, bagian selanjutnya bisa saja — demi menjaga keajekan nada tulisan — menjadi semakin lengkap seiring ia menulis, sekaligus semakin percaya diri seiring ia semakin keliru.

Yang penting adalah mempersempit ruangnya untuk “menambal asal-asalan”

Karena itu, saat menggunakan AI, yang penting bukanlah sekadar melemparkan satu kalimat: “Carikan saya jawabannya.” Melainkan mencari cara untuk mempersempit ruangnya untuk “menambal asal-asalan”.

Cara yang lebih baik adalah:

menyusun pertanyaan secara terstruktur, dengan menyebutkan latar belakang, batasan, dan format keluaran secara jelas;
bila bahannya terlalu banyak, masukkan secara bertahap agar ia memprosesnya selangkah demi selangkah;
dan yang lebih penting lagi, berikan sumber yang benar dan mintalah agar ia “menjawab berdasarkan sumber”, serta menandai bagian-bagian yang tidak ia yakini.

Anggaplah ia sebagai asisten yang membutuhkan soal yang jelas

Mari ganti perumpamaannya: anggaplah AI sebagai seorang asisten “yang perlu diberi soal yang jelas, bahan rujukan, dan juga batas ruang lingkup jawabannya”.

Semakin longgar pertanyaan diajukan, semakin mudah ia menambal asal-asalan; semakin jelas Anda membatasi ruang lingkupnya, semakin besar kemungkinan ia benar-benar dapat membantu.

Dengan kata lain, jika orang yang bertanya mampu merancang pertanyaannya lebih menyerupai “soal isian” ketimbang “soal esai” yang tanpa batas, maka jawaban yang diberikan AI umumnya akan semakin menyempit dan semakin mendekati suatu hasil yang lebih tepat.