عندما رأيت عبارة “هَلوسات الذكاء الاصطناعي كادت تُطلق عملية عسكرية”، لم أكن مندهشًا جدًا. بعد سنوات من كتابة الأكواد، أعرف جيدًا هوسات الـLLM في داخلي—ليست خطأً، بل سمة. تصحيح مؤشرات فارغة يمكن أن يُحدِّد مكانها، أما تصحيح الهلوسات فلا يمكنك سوى تركيب حواجز أمان.

المشكلة الحقيقية لم تكن أبدًا هل سيكذب النموذج أم لا، بل هل لدى البشر من يستخدمه على أنه شيء يمكن أن يهلوس به. في سيناريوهات الجيش، الأخطر ليس وقوع الخطأ بحد ذاته، بل أن المشغّل لا يعرف متى يكون النموذج “يخمن”.

هذا جعلني أتذكر أنظمة التوصية منذ سنوات، كانت دائمًا تعطيك النتيجة أولًا ثم تترك لك الحكم. لاحقًا اكتشفت أن الإنسان ما إن يرى الآلة قدّمت إجابة، يتكاسل. في عصر الـLLM تضخّم هذا التحدي بعشرة أضعاف.😮‍💨