أثار **نيك كاماراتا (Nick Cammarata)**، الباحث السابق في OpenAI، جدلًا بقوله إن «نحو 90% من العصبونات في نماذج الذكاء الاصطناعي الضخمة تؤدي فعليًا دورًا واحدًا فقط»، وبذلك نقض مباشرةً نظرية «العصبونات المتشابكة (التراكب·التمثيلات المتراكبة)» التي أسهم فيها سابقًا.
النقاط الرئيسية
يرى كاماراتا أن كثيرًا من الحالات الشهيرة لـ«العصبونات المتشابكة» أقرب إلى سوء القراءة.
بعض الباحثين البارزين يتخذون موقفًا حذرًا، قائلين: «الصورة العامة لم تتغير».
لا تزال الورقة التقنية المكمّلة التي تدعم الادعاء غير منشورة.
كارامراتا: «الشبكات العصبية نظيفة بالفعل»
كشف كارامراتا، الذي يعمل حاليًا في شركة Goodfire الناشئة المتخصصة في قابلية التفسير، عن وجهة نظره في 15 أكتوبر عبر مقال بعنوان «الشبكات العصبية نظيفة بالفعل». وزعم أن «معظم العصبونات يمكن قراءتها بوضوح نسبي» في كثير من النماذج الكبيرة الحديثة التي تضم تريليونات المعاملات، وأن الأبحاث المبكرة بالغت في تقدير مدى تعقيدها. وقد أثار المقال انقسامًا في أوساط مجتمع قابلية التفسير.
وفقًا للنتائج الأولية لـ«تدقيق العصبونات» الذي أجرته Goodfire على نموذج اللغة الكبير Qwen3-32B، يُقدّر أن نحو 90% من العصبونات تؤدي «دورًا أساسيًا واحدًا»، فيما أظهر التحليل أن نحو 7% منها تؤدي وظيفتين مترابطتين ارتباطًا وثيقًا. أما ما يقارب 2 إلى 4% من العصبونات، فما زالت ضمن «منطقة متبقية» يصعب تفسيرها. واللافت أيضًا أن وكلاء الذكاء الاصطناعي أجروا جانبًا كبيرًا من هذا التحليل آليًا.
أعاد كارامراتا النظر أيضًا في أشهر مثال على «العصبونات متعددة الدلالات» في تاريخ أبحاث قابلية التفسير. فقد عُرف عن هذا العصبون، المكتشف في نموذج تصنيف الصور InceptionV1، أنه يستجيب بقوة لكل من وجوه القطط ومقدّمات السيارات، وظلّ طويلًا يُعد دليلًا رمزيًا على أن «العصبون الواحد يمثّل مفاهيم متعددة متداخلة». لكنه يفسّر هذا العصبون الآن على أنه «كاشف للأشكال الشبيهة بحرف V». فبحسب قوله، يرتفع نشاطه عند ظهور أشكال مدببة، مثل خطم الثعلب أو اللهب، بينما تدفع الأشكال المستديرة، مثل الحرف O، العصبون في الاتجاه السلبي.
للقراءة أيضًا: الجدل حول قانونية «رودستر الطائرة» من تسلا… لن يُحسم قبل 2028
اعتراض ناندا ودعوته إلى الحذر
وصف أحد موظفي OpenAI، المعروف باسمه المستعار **رون (Roon)** والمقرّب جدًا من كارامراتا، هذا العمل بأنه «قد يُسجَّل نقطة تحوّل في تاريخ العلم». لكنه شدد أيضًا على «ضرورة إجراء إعادة مستقلة للنتائج والتحقق منها».
جاء رد أكثر تحفظًا من **نيل ناندا (Neel Nanda)**، الذي يقود فريق قابلية التفسير في Google DeepMind. وقال إن المقال «مثير للاهتمام، لكنه لا يقلب الصورة العامة رأسًا على عقب»، مشيرًا إلى أن النهج الذي يعتمد حصريًا على التحليل على مستوى العصبون سيؤدي حتمًا إلى «نقاط عمياء».
لا يزال ناندا يرى أن مفهوم التراكب (superposition) صالح. فبما أن كمية الحقائق التي تحتوي عليها النماذج اللغوية تفوق عدد العصبونات بفارق هائل، فمن المنطقي، وفقًا لهذا الطرح، أن تُحمَّل مفاهيم متعددة على العصبون الواحد. كما أبدى شكوكًا كبيرة حيال تعميم نتائج النماذج الصغيرة للصور مباشرةً على أنظمة معقدة، مثل نماذج اللغة الكبيرة.
إذا ثبتت صحة ادعاءات كارامراتا، فسيتمكن الباحثون من تتبّع مؤشرات الخداع أو السلوكيات الخطرة مباشرةً على مستوى الدوائر، دون الاعتماد على إشارات غير مباشرة مثل «سلسلة الأفكار» لدى النموذج. وقد تراجعت بالفعل الثقة بسلسلة الأفكار بسبب قابليتها للتلاعب ومشكلة اختلاق المعلومات. لكن الورقة التقنية المكمّلة التي تدعم هذا الطرح لم تُنشر بعد، كما أُثير احتمال وجود تضارب في المصالح، نظرًا إلى أن Goodfire شركة متخصصة في قابلية التفسير.
يمثل هذا المقال أيضًا «تراجعًا كبيرًا» عن موقف كارامراتا نفسه. ففي عام 2020، شارك في تأليف «Zoom In» مع **كريس أولاه (Chris Olah)**، وروّج على نطاق واسع لفكرة التراكب، ومفادها أن «الشبكات التي لا تضم عددًا كافيًا من العصبونات تخزّن مفاهيم لا صلة بينها عبر تداخلها في عصبون واحد». وبعد ثلاث سنوات فحسب، خلص مشروع قابلية التفسير المؤتمت الذي قاده في OpenAI إلى نتيجة تكاد تكون معاكسة، مفادها أن «العصبونات القابلة للفهم لا تتجاوز، حتى وفق أكثر التقديرات سخاءً، نحو 1.7% من الإجمالي».
المقال التالي: ChatGPT يتفوق على Claude Haiku 5.5 في اختبار 3-2… لكنه يتراجع في النصائح المخصصة