Yang Diberikan AI kepada Anda Mungkin Bukan Jawaban, melainkan Halusinasi yang Ditata dengan Indah

Hari ini saya meminta Gemini membantu saya mencari vendor pemasangan AC, dengan syarat bahwa acuannya terutama pengalaman pengguna di PTT atau Dcard (dua di antara forum daring paling populer di Taiwan).

Pada mulanya, ia menyodorkan sejumlah URL yang tampak sangat lengkap, tetapi begitu saya klik, hasilnya kalau tidak gagal dibuka, ya isinya tidak cocok.

Tangkapan layar “daftar rekomendasi AC dari warganet PTT yang sesungguhnya” hasil buatan Gemini, memuat nama toko, ID PTT, dan alasan rekomendasi — tampak lengkap, tetapi tidak ada satu pun bukti yang bisa ditelusuri

Begitu Saya Mengingatkannya, Ia Malah “Mengarang” dengan Lebih Lengkap

Setelah saya mengingatkannya bahwa ada masalah pada URL-nya, ia menyusun ulang satu “daftar rekomendasi AC dari warganet PTT yang sesungguhnya”, kali ini berisi nama toko, ID PTT, dan alasan rekomendasi, bahkan ia mengajari saya kata kunci apa saja yang bisa dipakai untuk mencari.

Sepintas lalu, benar-benar tampak seolah-olah ia sudah memeriksa kebenarannya dengan serius.

Namun begitu ditelusuri lebih jauh, masalahnya justru semakin besar: toko-toko itu nyaris tidak bisa ditemukan, dan yang disebut sebagai unggahan di PTT serta rekomendasi warganet pun tidak memiliki sumber yang bersesuaian.

Ia Adalah “AI Generatif”, bukan “AI Penolak”

Peristiwa ini juga mengingatkan saya: dalam situasi yang menuntut pencarian data, sebagian AI, bila tidak menemukan data yang tepercaya, belum tentu jujur memberi tahu Anda “saya tidak menemukannya”, melainkan akan mencari cara untuk “mengarang” sebuah isi yang tampak sangat masuk akal.

Sebab ia adalah “AI generatif”, bukan “AI penolak”.

Dengan kata lain, yang diberikan AI kepada Anda mungkin bukan jawaban, melainkan sebuah halusinasi yang ditata dengan indah.

Untuk Hal yang Menyangkut Dunia Nyata, Jangan Hanya Bersandar pada AI

AI sangat cocok untuk membantu kita menata arah, menghasilkan kata kunci pencarian, dan merangkum isi yang sudah dipastikan kebenarannya; tetapi begitu menyangkut toko, harga, dan ulasan yang nyata, atau perkara seperti hukum, kedokteran, dan investasi, sama sekali tidak boleh hanya berpegang pada jawaban AI.

AI dapat membantu kita menghemat waktu pencarian, tetapi tidak dapat menggantikan pemeriksaan terhadap sumbernya. Tampak lengkap bukan berarti benar.