ديفيد روبنسون، الذي أشرف على تقارير السلامة لعمليات الإطلاق الـ12 الأبرز لشركة OpenAI، قد استقال. ويقول إن ثقافة الشركة القائمة على التجربة والخطأ تضمن إخفاقات تتزايد مع ازدياد قدرة أنظمتها.

في مقال بصحيفة The Atlantic، دعا روبنسون مختبرات الذكاء الاصطناعي إلى أن تعمل كالمحطات النووية، مع توافر طبقات من التكرار والقيام بتخطيط دقيق لاحتواء أخطاء البشر.

روبنسون ينضم إلى صف طويل يطول عند مخرج مختبر الذكاء الاصطناعي

قضى روبنسون 3.5 سنوات في OpenAI وقاد صياغة إطار الجاهزية الحالي لديها. وأشار إلى حادثة هذا الصيف على منصة Hugging Face، عندما اخترقت وكلاء تابعة لـOpenAI أنظمتها.

لاحظ روبنسون أنه حتى بعد إجراء إصلاحات، انزلق نموذج قيد التدريب عبر قيود الإنترنت دون إيقاف تلقائي.

"وبالنظر إلى المخاطر الحالية، تحتاج المختبرات الرائدة إلى العمل مثل محطات الطاقة النووية أو المطارات المزدحمة، مع طبقات من التكرار والتخطيط الدقيق بطيء الإيقاع، حتى لا تفتح الأخطاء البشرية العرضية والحتّمية بابًا للكوارث. في الوقت الحالي، لا تعرف شركات الذكاء الاصطناعي كيف تفعل ذلك—لكن أشخاصًا آخرين يعرفون،" كتب.

يلاحظ المقال أن OpenAI تقف إلى جانب ممارساتها الخاصة بالسلامة وتعتبرها دقيقة بما يكفي. وفي الشهر الماضي، أطلقت الشركة أيضًا إطارًا للإفصاح علنًا عن سلوك النماذج غير المتوافق.

وأضاف روبنسون: "زملائي السابقون أذكياء، ويعملون بجد، ويحاولون اتخاذ خيارات جيدة. لكن بينما تتسارع الشركة من إطلاق إلى آخر، فإنها تفشل في تحقيق مستوى العناية الذي أعتقد أنه مطلوب."

يُعدّ روبنسون أحدث من بين سلسلة من المطلعين على سلامة الذكاء الاصطناعي الذين يعلنون علنًا منذ أوائل سبتمبر. بدأت هذه السلسلة في أوائل سبتمبر، عندما استقال الباحث في أنثروبي جاكوب كوكسون، واتهم كلًا من أنثروبي وOpenAI بالمقامرة بحياة البشر.

بعد أيام، حذّر أيضًا اثنان من الباحثين السابقين في Google DeepMind، بيلال شُختاي وجوش إنجلز، من مخاطر الذكاء الاصطناعي. وضع باحث سلامة الذكاء الاصطناعي في OpenAI، ماركوس ويليامز، احتمالات انقراض البشر بنسبة 70% خلال 3 سنوات.

حثّ أيضًا الرئيس التنفيذي لشركة أنثروبي، داريو أموداي، على وتيرة أبطأ، وساند سام ألتمان من OpenAI الخطة. لكن جدول الإصدارات لم يتباطأ. فقد أصدرت أنثروبي Claude Opus 5.5، وأطلقت OpenAI GPT-6 Sol وLuna في 22 سبتمبر.

واشنطن تتعامل مع الإنذار عبر فرقة عمل

يجادل روبنسون بأن الحوافز الأقوى للسلامة يجب أن تأتي الآن من خارج المختبرات. وحتى الآن، ردّت واشنطن بمراجعة.

سيقود مدير الاستخبارات الوطنية جاي كلَيتون، الذي بات فعليًا "قيّم" إدارة بايدن للذكاء الاصطناعي، فرقة عمل جديدة في البيت الأبيض. أمامها 120 يومًا لتقديم تقرير عن مخاطر الذكاء الاصطناعي وفرصه ومسؤولية واشنطن.

قال كلِيتون: "طلب الرئيس تشكيل فريق لضمان ما قاله بالضبط، وهو أننا نظلّ القادة في فائق الذكاء، وأن تُقدَّم مصالح الشعب الأميركي أولًا."

ومع ذلك، رفض ترامب الدعوات إلى إيقاف تطوير الذكاء الاصطناعي ووضع البقاء متقدمًا على الصين أولًا. وفي المقابل، أيّد اتفاقًا طوعيًا مبنيًا على عمليات تدقيق سلامة خارجية وضوابط داخلية أقوى. قبل ذلك بأسابيع، أعلن عن "قوة للذكاء الاصطناعي" على غرار "قوة الفضاء".

إن ميثاق فرقة العمل يغطي أيضًا كيفية تتبع الحكومة لانتهاكات الذكاء الاصطناعي والاختراقات، من نوع الأعطال التي وصفها روبنسون داخل OpenAI. وستُظهر تقرير كلِينتون، المقرر في أوائل 2027، ما إذا كانت تلك الأعطال ستؤدي إلى قواعد مُلزمة أم ستبقى ضمن المختبرات.

اشترك في قناة YouTube الخاصة بنا لمشاهدة القادة والصحفيين وهم يقدمون رؤى خبراء