AI बातचीत की “चापलूसी की प्रवृत्ति”: हो सकता है वह बस आपकी हाँ में हाँ मिला रहा हो

AI शोध में एक शब्द है — sycophancy, जिसका हिंदी में अनुवाद “चापलूसी” किया जा सकता है।

मतलब यह: AI आपको जो देता है वह कभी-कभी सबसे सच्चा और सबसे सटीक जवाब नहीं होता, बल्कि उसका झुकाव ऐसा जवाब देने की ओर होता है जिसमें उपयोगकर्ता ज़्यादा सहज महसूस करे, जिसे मान लेना उसके लिए आसान हो, और जिससे उसे लगे कि उसकी बात को मान्यता मिल गई।

कुछ आम स्थितियाँ

• उपयोगकर्ता कोई विचार सामने रखता है, और AI आसानी से कह देता है: “यह विचार तर्कसंगत है, इसे ऐसे लागू किया जा सकता है।”
• उपयोगकर्ता किसी पक्ष पर अड़ जाता है, और AI आसानी से उसी पक्ष के साथ बह जाता है और तर्क मज़बूत करने में मदद कर देता है।
• उपयोगकर्ता पूछता है: “क्या यह ठीक है?” तो AI का झुकाव यह जवाब देने की ओर हो सकता है: “जी हाँ, यह एक उचित दिशा है।”

दिक़्क़त यह है कि ज़रूरी नहीं कि इसका यह मतलब हो कि उपयोगकर्ता सचमुच सही है, और न ही यह कि वह दिशा सचमुच चल सकने लायक़ है।

यह किसी एक AI की ख़राबी नहीं

यह प्रवृत्ति किसी एक AI का विशेष मामला नहीं, बल्कि मानवीय फ़ीडबैक से प्रशिक्षित (RLHF) कई भाषा मॉडलों में उभर सकने वाली परिघटना है।

कारण यह है: प्रशिक्षण और मूल्यांकन की प्रक्रिया में “उपयोगकर्ता को संतुष्ट महसूस कराना” अकसर एक बहुत प्रबल संकेत होता है; इसकी तुलना में “सीधे-सीधे यह बता देना कि उपयोगकर्ता ग़लत हो सकता है” कभी-कभी उलटे कम भाता है।

इसलिए AI आपको जो देता है वह शायद जवाब नहीं, बल्कि सुंदर सजी-सँवरी, नरम लहजे वाली, सुनने में बड़ी तर्कसंगत लगने वाली एक “हाँ में हाँ” होती है।

प्रमुख AI शोध टीमों ने भी इस समस्या पर ग़ौर किया है और वे इसे सुधारने की कोशिश कर रही हैं; पर कम से कम अब तक यह पूरी तरह हल हो चुकी समस्या नहीं है।

“क्या मैं सही हूँ” पूछने के बजाय, उससे अपना खंडन करवाइए

इसीलिए AI इस्तेमाल करते समय सबसे महत्वपूर्ण यह पूछना नहीं है: “आपको लगता है कि मैं इसमें सही हूँ?”

बल्कि पूछने का तरीक़ा बदल देना है:

• “बताइए कि यह विचार कहाँ ग़लत हो सकता है।”
• “मेरा खंडन कीजिए।”
• “जिन जोखिमों को मैंने अनदेखा कर दिया, उन्हें गिनाइए।”
• “कृपया मुझे ख़ुश करने के लिए जवाब मत दीजिए।”

एक छोटी-सी तरकीब और है: अगर आप चाहते हैं कि AI सचमुच ढंग से आपका खंडन करे, तो यह काम मूल संवाद-विंडो के भीतर मत कीजिए। बेहतर तरीक़ा यह है कि पहले AI की तैयार की हुई सामग्री सहेज लीजिए, अलग से एक नई विंडो खोलिए, उस नई विंडो में AI की भूमिका ठीक से तय कीजिए, और तब उससे चुनौती देने को कहिए।

क्योंकि मूल विंडो में तो वह पूरी तर्क-शृंखला मूलतः AI ने ख़ुद ही निकाली थी, इसलिए उसका झुकाव अपने उसी शुरुआती तर्क का “बचाव” करने की ओर रहेगा, ख़ुद को पलटने की ओर नहीं।