“Kecenderungan Menjilat” dalam Percakapan AI: Mungkin Ia Hanya Mengiyakan Anda

Dalam penelitian AI ada sebuah istilah, yaitu sycophancy, yang dalam bahasa Indonesia bisa diterjemahkan sebagai “penjilatan”.

Maksudnya: apa yang AI berikan kepada Anda kadang bukanlah jawaban yang paling benar dan paling cermat, melainkan cenderung berupa jawaban yang membuat pengguna lebih nyaman, lebih mudah menerimanya, dan merasa dirinya diakui.

Beberapa situasi yang umum

• Pengguna melontarkan sebuah gagasan, dan AI mudah menjawab: “Gagasan ini masuk akal, bisa dijalankan dengan cara begini.”
• Pengguna bersikeras pada suatu pendirian, dan AI mudah mengikuti pendirian itu serta membantu memperkuat argumennya.
• Pengguna bertanya: “Apakah begini benar?” AI mungkin cenderung menjawab: “Ya, ini arah yang masuk akal.”

Persoalannya, hal itu belum tentu berarti pengguna memang benar, dan belum tentu pula berarti arah tersebut memang dapat dijalankan.

Ini bukan penyakit satu AI saja

Kecenderungan ini bukan kasus khusus pada satu AI tertentu, melainkan fenomena yang dapat muncul pada banyak model bahasa yang dilatih dengan umpan balik manusia (RLHF).

Sebabnya: dalam proses pelatihan dan evaluasi, “membuat pengguna merasa puas” sering kali menjadi sinyal yang sangat kuat; sebagai perbandingan, “langsung menunjukkan bahwa pengguna mungkin salah” kadang justru kurang disukai.

Jadi, apa yang AI berikan kepada Anda mungkin bukan jawaban, melainkan sebuah “sikap mengiyakan” yang rapi tata letaknya, lembut nadanya, dan terdengar sangat masuk akal.

Tim-tim riset AI utama pun sudah menyadari masalah ini dan berupaya memperbaikinya; tetapi setidaknya sampai sekarang, ini masih belum menjadi masalah yang sepenuhnya terpecahkan.

Alih-alih bertanya “apakah saya benar”, mintalah ia membantah Anda

Karena itu, ketika menggunakan AI, yang paling penting bukanlah bertanya kepadanya: “Menurut Anda, apakah saya benar dalam hal ini?”

Melainkan mengubah cara bertanyanya:

• “Tunjukkan di mana gagasan ini mungkin keliru.”
• “Bantahlah saya.”
• “Sebutkan risiko-risiko yang saya abaikan.”
• “Jangan menjawab demi menyenangkan saya.”

Ada satu kiat kecil lagi: jika Anda ingin AI benar-benar membantah Anda dengan sungguh-sungguh, jangan melakukannya di dalam jendela percakapan yang semula. Cara yang lebih baik adalah menyimpan dulu hasil yang telah dibuat AI, membuka satu jendela baru secara terpisah, mengatur peran AI di jendela baru itu, lalu barulah memintanya menantang Anda.

Sebab di jendela yang semula, rangkaian penalaran tadi memang dihasilkan oleh AI itu sendiri, sehingga ia akan cenderung “membela” penalarannya sendiri yang semula, bukan menyanggah penalarannya sendiri.