ما يقدّمه الذكاء الاصطناعي قد لا يكون جوابًا، بل هلوسة منسّقة بإتقان

طلبتُ اليوم من Gemini أن يساعدني في العثور على شركات لتركيب مكيفات الهواء، بشرط أن يعتمد أساسًا على تجارب المستخدمين المنشورة على PTT أو Dcard (وهما من أشهر المنتديات الإلكترونية في تايوان).

في البداية، سرد عددًا من الروابط التي بدت وافية جدًا، لكن بعد فتحها تبيّن أنها إما لا تُفتح أصلًا، وإما أن محتواها لا يطابق الموضوع.

ما إن نبّهتُه حتى «لفّق» قائمة أكثر اكتمالًا

بعد أن نبّهتُه إلى وجود مشكلة في الروابط، أعاد ترتيب «القائمة الحقيقية لتوصيات المكيفات من روّاد PTT» مرة أخرى، وضمّنها أسماء المتاجر ومعرّفات PTT وأسباب التوصية، بل وعلّمني أيضًا الكلمات المفتاحية التي يمكن البحث بها.

للوهلة الأولى، يبدو الأمر حقًا كأنه تحقّق من المعلومات بجدية.

لكن بمزيد من البحث تزداد المشكلة كِبَرًا: تلك المتاجر يكاد لا يُعثر عليها، وما يُسمى بمشاركات PTT وتوصيات روّاد الإنترنت لا يوجد لها مصدر مقابل.

إنه «ذكاء اصطناعي توليدي» لا «ذكاء اصطناعي رافض»

ذكّرني هذا الأمر بشيء آخر أيضًا: في المواقف التي تستدعي البحث عن معلومات، بعض أنظمة الذكاء الاصطناعي، إذا لم تجد معلومات موثوقة، لا تخبر المستخدم بصدق بالضرورة «لم أجد شيئًا»، بل تلتمس وسيلة «لتلفيق» محتوى يبدو معقولًا تمامًا.

لأنه «ذكاء اصطناعي توليدي» لا «ذكاء اصطناعي رافض».

وبعبارة أخرى، ما يقدّمه الذكاء الاصطناعي قد لا يكون جوابًا، بل هلوسة منسّقة بإتقان.

في الأمور المتعلقة بالعالم الحقيقي، لا يصح الاكتفاء بالذكاء الاصطناعي

الذكاء الاصطناعي مناسب جدًا لمساعدتنا في ترتيب الاتجاه العام، وتوليد كلمات البحث المفتاحية، وتلخيص محتوى سبق التحقق منه؛ لكن ما إن تدخل في الأمر متاجر حقيقية أو أسعار أو تقييمات، أو مسائل كالقانون والطب والاستثمار، فلا يجوز إطلاقًا الاكتفاء بجواب الذكاء الاصطناعي.

يمكن للذكاء الاصطناعي أن يوفّر علينا وقت البحث، لكنه لا يمكن أن يحل محل التحقق من المصادر. وأن يبدو الشيء وافيًا لا يعني أنه صحيح.