لماذا تُصاب نماذج LLM بالهلوسة؟ طالب لا يستطيع تسليم ورقة بيضاء

لماذا تُصاب نماذج LLM بالهلوسة؟

في رأيي، يمكن تخيّل LLM على هيئة طالب كهذا: قرأ كتبًا كثيرة جدًا جدًا، غير أن ذاكرته ضُغطت، وهو نفسه لا يدري أي المواضع صارت في الواقع ضبابية؛ والأدهى من ذلك أنه مطلوب منه أيضًا — في الامتحان — «ألا يسلّم ورقة بيضاء».

قوته ليست في «معرفة ما إذا كان يعرف»

القوة الحقيقية لهذا الطالب ليست في الحكم على ما إذا كان «يعرف حقًا»، بل في وصل الكلمات وصلًا سلسًا حتى تبدو الإجابة إجابةً معقولة.

ولذلك، حين تكون المواد نفسها شديدة الضبابية، أو تكون المصادر مختلطة، أو تكون الخطوة الأولى من الاستدلال خاطئة أصلًا، فقد يمضي في الكتابة — حفاظًا على وحدة النبرة — فتزداد إجابته اكتمالًا كلما أطال، ويزداد ثقةً بنفسه كلما ازداد خطأً.

المهم هو تضييق مساحة «الترقيع العشوائي» لديه

لذلك، عند استخدام الذكاء الاصطناعي، المهم ليس مجرد إلقاء جملة واحدة: «ابحث لي عن الإجابة». بل إيجاد وسيلة لتضييق مساحة «الترقيع العشوائي» لديه.

والأسلوب الأفضل هو:

• هيكلة السؤال، مع سرد الخلفية والقيود وصيغة المخرجات سردًا واضحًا؛
• وعند كثرة المواد، إدخالها على دفعات ليعالجها خطوةً خطوة؛
• والأهم من ذلك، تقديم مصادر صحيحة ومطالبته بأن «يجيب استنادًا إلى المصادر»، وأن يشير إلى المواضع التي لا يكون فيها على يقين.

التعامل معه كمساعد يحتاج إلى سؤال واضح

ولنغيّر التشبيه: يرجى اعتبار الذكاء الاصطناعي مساعدًا «يلزم أن يُعطى سؤالًا واضحًا ومواد مرجعية ونطاقًا للإجابة».

وكلما كان السؤال أقل تحديدًا، سهُل عليه الترقيع العشوائي؛ وكلما كان تحديد النطاق أوضح، ازداد احتمال أن يكون عونًا حقيقيًا.

أي إن السائل إذا استطاع أن يصوغ سؤاله على هيئة «سؤال ملء الفراغات» لا على هيئة «سؤال مقالي» بلا حدود، فإن الإجابات التي يقدّمها الذكاء الاصطناعي تصبح عادةً أكثر تركّزًا وأقرب إلى نتيجة أدق.