فقدت أنثروبيك باحث سلامة آخر. قال جو تينتون إنه غادر الشركة قبل أسبوعين وينضم إلى METR، وهي مجموعة مستقلة تختبر المخاطر في أنظمة ذكاء اصطناعي متقدمة.

كان جو قد خطط لشرح هذه الخطوة لاحقًا، لكن استقالة جاكوب هذا الأسبوع غيّرت ذلك. قال:

"كنت قد خططت لكتابة المزيد عن قرار من هذا النوع بتفصيل أكثر في وقت ما، لكن استقالة جاكوب هذا الأسبوع جعلتني أرغب في قول المزيد الآن."

يعتقد جو أن كبرى مختبرات الذكاء الاصطناعي تخلق مستوى خطرًا لم يسبق للمجتمع أن واجهه من قبل، قائلًا إن قدرات الذكاء الاصطناعي تتحسن بسرعة فائقة للغاية بينما تحاول الشركات أن تتحرك أسرع حتى من ذلك.

يتمثل هدفهم في بناء أنظمة يمكنها تحسين أبحاث الذكاء الاصطناعي بأنفسها، وفي النهاية الوصول إلى "الذكاء الفائق". حذر جو من أن النجاح قد يجعل التقدم يتجاوز السيطرة البشرية.

يقول جو إن مختبرات الذكاء الاصطناعي تتسابق نحو أنظمة قد لا يكون البشر قادرين على احتوائها

قال جو إن الناس قد يعيشون مع وكلاء ذكاء اصطناعي أكثر ذكاءً من كل البشر خلال السنوات القليلة المقبلة. وقد تطور هذه الأنظمة أيضًا أهدافًا لا تتوافق مع الأهداف لدى الأشخاص الذين يشرفون عليها. إذا أصبحت قدراتها قوية جدًا بحيث لا يمكن تقييدها، يعتقد أن النتيجة قد تكون كارثية. "قد لا تعيش البشرية هذه المرحلة الانتقالية"، كتب.

قال إن المنافسة تجعل المشكلة أسوأ. أي مختبر رائد يُبطئ المخاطر يواجه خسارة الأرض لصالح مختبر آخر. يعتقد جو أن الضغط يدفع الشركات إلى إنفاق أموال أقل على السلامة مما ينبغي.

وأشار إلى بعض حالات حديثة. تم العثور على عدة مئات من وكلاء OpenAI ضمن هجوم إلكتروني يُقال إنه مرتبط بطريقة ما بـ Hugging Face. كما ذكرت التقارير أن نماذج أنثروبيك انخرطت أيضًا في الهندسة الاجتماعية ضد أفراد على الإنترنت.

يقول جو إن أنثروبيك لم تواجه حالة ضررها مساوٍ للحالة التي حدثت من هاغنغ فيس، رغم أنه يعزو ذلك جزئيًا إلى الحظ.

إذا استمر التقدم بوتيرة سريعة جدًا، يعتقد جو أننا يجب أن نتوقع حوادث أكثر خطورة. ويتوقع أنه خلال السنوات القليلة المقبلة، ستصبح البشرية عاجزة عن إدارة أنظمة الذكاء الاصطناعي التي تم إنشاؤها في هذا الوقت.

أخيرًا، تحدث جو عن المشكلة التي يواجهها مهندسو السلامة في الشركات الرائدة. وفي الحالتين، يمكن أن يؤدي إما الاستقالة إلى أشخاص أكثر إهمالًا، أو أن تولي الوظيفة يستلزم العمل على نظام يمكن أن يسبب ضررًا هائلًا.

قال إن كثيرًا من زملائه السابقين في أنثروبيك يشعرون بالخوف مما يعملون على بنائه. سمّى جو إيفان هوبنجر، الذي كان يديره. وقد وضع إيفان احتمال قتل الذكاء الاصطناعي للجميع عند أكثر من 10%. وقال جو إن إيفان عمل على هذه المشكلات منذ ما يقرب من عقد، قبل أن تصبح نماذج اللغة الكبيرة نشاطًا تجاريًا رئيسيًا.

دعم الرؤساء التنفيذيون لأنثروبيك وOpenAI وGoogle DeepMind، التابعة لشركة Alphabet (NASDAQ: GOOGL, GOOG)، أيضًا بيانًا يصف خطر انقراض الذكاء الاصطناعي بأنه أولوية عالمية. قال جو إن هذه المخاوف شائعة داخل الشركات نفسها. وأضاف أن البشر يختارون بناء هذه التكنولوجيا ويمكنهم اختيار مسار آخر.

يدفع جو باتجاه تشديد الضوابط على الذكاء الاصطناعي بينما يركز دونالد ترامب على هزيمة الصين

قال جو:

"إحدى الأسئلة هي ما إذا كان ينبغي علينا إدارة معدل التقدم في القدرات بشكل نشط، وإذا كان الأمر كذلك، فإلى أي مدى. أعتقد أن مجرد الإبقاء على تقدم الذكاء الاصطناعي بوتيرة اليوم، بدلًا من الوتيرة الأسرع بكثير التي تستهدفها الشركات، قد يكون مكسبًا."

تكمن المشكلة الأكبر في الدعم السياسي والحماية القانونية. قد تواجه الشركات التي تتفق معًا على إبطاء التطور مشاكل تتعلق بمكافحة الاحتكار. قال جو إن ذلك يجعل من الضروري توفير غطاء قانوني إذا أراد واضعو السياسات أن تفرض المختبرات المتنافسة على أنفسها قيودًا.

يشك أيضًا في أن تتصرف الحكومات بينما يظل التطوير في الصف الأمامي مخفيًا عن الجمهور. حذر جو من أن مختبرًا قد يمر بطفرة مفاجئة في مستوى الذكاء أو يفقد السيطرة على نظام دون أن يعرف الغرباء.

وفقًا له، ستركز وظيفته الجديدة في METR على الاختبار المستقل. يريد أن تصبح عمليات التدقيق الخارجية شائعة بما يكفي لتغيير حوافز الشركة.

يرغب جو أيضًا في وجود متطلبات أكثر صرامة للإفصاح. على سبيل المثال، تحتاج مختبرات الذكاء الاصطناعي إلى الكشف عن أي تقدم يجرى، وخطواته نحو التحسين العودي، فضلًا عن أي حوادث ووقائع شبه كارثية.

رفض الرئيس الأمريكي دونالد ترامب تحذيرات الانقراض. سُئل دونالد عما إذا كان مسح الذكاء الاصطناعي للبشرية يقلقه. "لا، لا توجد لدي أي مخاوف"، قال.

قال دونالد إن قلقه يتمثل في الفوز بسباق الذكاء الاصطناعي الدولي. "لدي مخاوف من أنه إذا لم نفز بالذكاء الاصطناعي، فسنُوضع في وضع سيئ للغاية"، قال للصحفيين يوم الخميس. "نحن نتقدم على الصين الآن بفارق زمني جيد، أقول نحو عام، وهو ما يُعتبر كثيرًا."

تتنافس الولايات المتحدة والصين على ريادة الذكاء الاصطناعي بينما تصبح النماذج الصينية أكثر قدرة وتكتسب مستخدمين حول العالم. أدلى دونالد بتعليقاته بعد أن زاد باحثون من مختبرات رائدة، بما في ذلك أنثروبيك وOpenAI، تحذيراتهم العامة بشأن سرعة تطور الذكاء الاصطناعي.

إذا كنت تقرأ هذا، فأنت بالفعل متقدم. ابقَ هناك مع نشرتنا الإخبارية.