يقول نيك كاماراتا، الباحث السابق في OpenAI، إن نحو 90% من العصبونات في نموذج ذكاء اصطناعي كبير لا تؤدي سوى وظيفة واحدة، مما يشكك في نظرية أسهم هو نفسه في صياغتها.
النقاط الرئيسية:
يرى كاماراتا أن الأمثلة الشهيرة للعصبونات «المتشابكة» أُسيء تفسيرها إلى حد كبير.
لكن عدداً من كبار الباحثين يرون أن هذه النتائج لا تغيّر الصورة العامة تغييراً جوهرياً.
لم تُنشر بعد ورقة تقنية تفصّل هذه الادعاءات وتدعمها.
«تدقيق» كاماراتا للخلايا العصبية
كاماراتا، الباحث اليوم في مختبر قابلية التفسير Goodfire، عرض أطروحته في 15 أكتوبر في مقال بعنوان «الشبكات العصبية واضحة بالفعل»، نُشر على موقع المختبر، حيث طرح فكرة أن معظم الخلايا العصبية، حتى في النماذج التي تضم تريليونات المعاملات، باتت قابلة للفهم، في تراجع عن الأبحاث السابقة. وقد أحدث هذا الموقف انقسامًا في مجتمع الباحثين.
في عمليات تدقيق أولية لنموذج Qwen3‑32B، تقدّر Goodfire أن نحو 90٪ من «عُقَد» الخلايا العصبية تؤدي وظيفة رئيسية واحدة فقط، وأن قرابة 7٪ منها تؤدي وظيفتين مترابطتين، بينما تظل نسبة لا تتجاوز 2٪ إلى 4٪ بلا تفسير. وقد أُنجز الجزء الأكبر من التحليل بواسطة وكلاء ذكاء اصطناعي.
يعيد كاماراتا أيضًا النظر في أشهر خلية عصبية «متعددة الدلالات» في هذا المجال، التي رُصدت في نموذج الصور InceptionV1، وبدا أنها تنشط عند رؤية وجوه القطط ومقدمات السيارات على حد سواء. وهو يفسرها الآن باعتبارها كاشفًا للأشكال على هيئة حرف V: فالأشكال المدببة، مثل خطم الثعلب أو ألسنة اللهب، تحفز نشاطًا قويًا، بينما تدفعها الأشكال المستديرة، مثل الحرف O، إلى الاستجابة السلبية.
اقرأ أيضًا: هل سيارة تسلا رودستر الطائرة قانونية أصلًا؟ لن تتضح الإجابة قبل 2028
ناندا يتحدى كاماراتا
يرى رون، الموظف في OpenAI الذي يكتب باسم مستعار ويقدّم نفسه بوصفه صديقًا مقرّبًا لكاماراتا، أن هذا العمل قد يُخلّد بوصفه محطة في تاريخ العلوم. لكنه يحذّر من ضرورة التحقق منه بصورة مستقلة.
أما نيل ناندا، الذي يقود فريق قابلية التفسير في Google DeepMind، فيبدي تحفظًا أكبر بكثير. فبرأيه، المقال مثير للاهتمام، لكنه لا يغيّر الصورة العامة كثيرًا، ويتوقع أن تترك دراسة الخلايا العصبية وحدها ثغرات كبيرة في فهمنا. ويواصل ناندا الدفاع عن حقيقة التراكب، مشيرًا إلى أن النماذج اللغوية تخزّن حقائق أكثر بكثير من عدد خلاياها العصبية، كما يشكك في إمكانية تعميم النتائج المستخلصة من نماذج صور صغيرة على أنظمة أضخم بكثير.
إذا كان كاماراتا محقًا، فقد يتمكن الباحثون من البحث مباشرةً في الدوائر الداخلية للنموذج عن مؤشرات على الخداع أو السلوكيات الخطرة، بدلًا من الاعتماد على سلاسل التفكير المولّدة باللغة الطبيعية، والتي يُنظر إليها على أنها أقل موثوقية باطراد. ومع ذلك، لم تُنشر الورقة التقنية المفصلة بعد، كما أن لشركة Goodfire، المتخصصة في قابلية التفسير، مصلحة واضحة في الدفاع عن هذه الأطروحة.
يمثل هذا المقال تحولًا جذريًا في موقف كاماراتا. ففي عام 2020، شارك كريس أولاه في تأليف «التعمق»، وهو مقال قدّم الدوائر الأولى التي جرى تفسيرها بوصفها دليلًا على التراكب؛ أي فكرة أن الشبكات التي لا تملك عددًا كافيًا من الخلايا العصبية تكدّس مفاهيم غير مترابطة بوضوح داخل الوحدات نفسها. وبعد ثلاث سنوات، لم ينجح مشروع لتفسير النماذج آليًا أطلقه في OpenAI في تصنيف سوى نحو 1.7٪ من الخلايا العصبية على أنها مفهومة، حتى عند استخدام أكثر المقاييس تساهلًا.
تابع: يتفوق ChatGPT على Claude Haiku 5.5 في اختبار 3‑2، لكنه يخسر في تقديم النصائح الشخصية