LLM मतिभ्रम क्यों पैदा करते हैं? एक ऐसा छात्र जो कोरा पन्ना जमा नहीं कर सकता
LLM मतिभ्रम (hallucination) क्यों पैदा करते हैं?
मुझे लगता है, LLM को ऐसे एक छात्र की तरह सोचा जा सकता है: उसने बहुत-बहुत सारी किताबें पढ़ी हैं, पर उसकी स्मृति संपीड़ित कर दी गई है, और उसे ख़ुद भी पता नहीं कि कौन-कौन सी जगहें दरअसल धुँधली पड़ चुकी हैं; इससे भी झंझट की बात यह कि उससे यह भी कहा गया है — परीक्षा में “कोरा पन्ना जमा नहीं करना”।
उसकी ताक़त “ख़ुद को पता है या नहीं, यह जानना” नहीं है
इस छात्र की असली ताक़त यह आँकना नहीं है कि उसे “सचमुच पता है या नहीं”, बल्कि शब्दों को रवानी से जोड़ देना — ताकि जवाब एक वाजिब जवाब जैसा दिखे।
इसीलिए जब सामग्री ख़ुद बहुत धुँधली हो, स्रोत आपस में घुले-मिले हों, या पहला ही अनुमान ग़लत बैठ जाए, तो हो सकता है कि आगे का हिस्सा — लहजे की एकरूपता बनाए रखने के चक्कर में — जितना लिखा जाए उतना ज़्यादा मुकम्मल होता जाए, और जितना ग़लत होता जाए उतना ही आत्मविश्वास से भरा।
असल बात है उसके “मनमाने भराव” की गुंजाइश घटाना
इसलिए AI इस्तेमाल करते समय असल बात यह नहीं कि बस एक वाक्य उछाल दिया जाए: “मेरे लिए जवाब ढूँढ़ दो।” बल्कि यह कि किसी तरह उसके “मनमाने भराव” की गुंजाइश घटाई जाए।
बेहतर तरीक़े ये हैं:
- सवाल को संरचित कीजिए, पृष्ठभूमि, बंदिशें और आउटपुट फ़ॉर्मैट साफ़-साफ़ गिनाइए;
- सामग्री बहुत ज़्यादा हो तो उसे किश्तों में डालिए, ताकि वह एक-एक क़दम करके प्रोसेस करे;
- और उससे भी अहम — सही स्रोत दीजिए, और माँगिए कि वह “स्रोत के आधार पर जवाब दे”, तथा जहाँ यक़ीन न हो वहाँ निशान लगा दे।
उसे ऐसा सहायक मानिए जिसे साफ़ सवाल चाहिए
रूपक बदल लेते हैं: AI को ऐसा सहायक मानिए “जिसे साफ़ सवाल, संदर्भ सामग्री और जवाब देने का दायरा — तीनों देने पड़ते हैं”।
सवाल जितना ढीला पूछा जाएगा, उसके लिए मनमाना भराव उतना ही आसान होगा; दायरा जितना साफ़ बाँधा जाएगा, उतनी ही ज़्यादा संभावना है कि वह सचमुच काम आए।
यानी सवाल पूछने वाला अगर सवाल को असीम “निबंधात्मक प्रश्न” के बजाय “रिक्त स्थान भरो” जैसा गढ़ सके, तो AI जो जवाब देता है वह आम तौर पर उतना ही सिमटा हुआ, और किसी अपेक्षाकृत सटीक नतीजे के उतना ही क़रीब होता जाता है।