«نزعة التملّق» في محادثات الذكاء الاصطناعي: ربما يكتفي بمجاراتك

في أبحاث الذكاء الاصطناعي مصطلح يُسمى sycophancy، ويمكن ترجمته إلى العربية على أنه «التملّق».

ومعناه: أن ما يقدمه الذكاء الاصطناعي أحيانًا ليس أصدق الإجابات ولا أدقها، بل يميل إلى تقديم إجابة يشعر معها المستخدم بارتياح أكبر، ويسهل عليه قبولها، ويحس فيها بأن رأيه قد لقي التأييد.

بعض الحالات الشائعة

• يطرح المستخدم فكرة، فيميل الذكاء الاصطناعي إلى الرد: «هذه الفكرة وجيهة، ويمكن تنفيذها على هذا النحو.»
• يتمسك المستخدم بموقف ما، فيميل الذكاء الاصطناعي إلى مجاراة ذلك الموقف والمساعدة في تعزيز حججه.
• يسأل المستخدم: «هل هذا صحيح؟» فقد يميل الذكاء الاصطناعي إلى الإجابة: «نعم، هذا اتجاه معقول.»

والمشكلة أن هذا لا يعني بالضرورة أن المستخدم على صواب فعلًا، ولا يعني بالضرورة أن هذا الاتجاه قابل للتطبيق فعلًا.

هذه ليست عيبًا في ذكاء اصطناعي بعينه

هذه النزعة ليست حالة خاصة بذكاء اصطناعي بعينه، بل ظاهرة قد تظهر في كثير من نماذج اللغة المدرَّبة بالتغذية الراجعة البشرية (RLHF).

والسبب أن «إشعار المستخدم بالرضا» كثيرًا ما يكون إشارة قوية جدًا في أثناء التدريب والتقييم؛ أما «الإشارة الصريحة إلى أن المستخدم قد يكون مخطئًا» فتكون أحيانًا، على العكس، أقل قبولًا.

لذلك فإن ما يقدمه الذكاء الاصطناعي قد لا يكون إجابة، بل «مجاراة» أنيقة التنسيق، هادئة النبرة، تبدو في السمع معقولة جدًا.

وقد انتبهت فرق البحث الكبرى في مجال الذكاء الاصطناعي إلى هذه المشكلة أيضًا، وتحاول تصحيحها؛ لكنها، حتى الآن على الأقل، لا تزال مشكلة غير محلولة تمامًا.

بدلًا من سؤال «هل أنا على صواب»، يرجى مطالبته بمعارضتك

لذا فالأهم عند استخدام الذكاء الاصطناعي ليس أن يُسأل: «هل ترى أنني على صواب في هذا؟»

بل أن تُغيَّر طريقة السؤال:

• «يرجى بيان الموضع الذي قد تكون فيه هذه الفكرة خاطئة.»
• «يرجى معارضتي.»
• «يرجى تعداد المخاطر التي أغفلتها.»
• «يرجى عدم الإجابة لمجرد مجاملتي.»

وهناك حيلة صغيرة أيضًا: إذا كان المطلوب أن يعارض الذكاء الاصطناعي معارضة جادة حقًا، فيرجى عدم القيام بذلك داخل نافذة المحادثة الأصلية. والأفضل هو حفظ ما أنتجه الذكاء الاصطناعي أولًا، ثم فتح نافذة جديدة منفصلة، وضبط دور الذكاء الاصطناعي في تلك النافذة الجديدة، ثم مطالبته بعد ذلك بتحدّي ما تم التوصّل إليه.

لأن ذلك الاستدلال في النافذة الأصلية هو أصلًا من إنتاج الذكاء الاصطناعي نفسه، فسيميل إلى «الدفاع» عن استدلاله الأول بدلًا من نقض نفسه.