تم إبلاغ موظفي OpenAI هذا الأسبوع بأن المختبر سيُمنح إمكانية خفض وتيرة عمله في المجالات الأكثر تقدّمًا في مجال الذكاء الاصطناعي. وقدّم سام ألتمان الطرح نفسه إلى منافسيه في مجال الذكاء الاصطناعي، بما في ذلك شركة أنثروبي، والتي أقرت أيضًا بالمخاطر المرتبطة بتطوير الذكاء الاصطناعي في تقرير كشف أن علماء مرتبطين بمؤسسات حكومية حاولوا استخدام نماذج كلود التابعة لها لأبحاث تتعلق بالأسلحة البيولوجية.
قالت OpenAI إنها أوقفت بالفعل بعض عمليات التدريب الداخلية وخففت أجزاء من تطوير النماذج بسبب مخاوف تتعلق بالسلامة.
إن توالي الكشف عن هذه المعلومات على مراحل يشعل الجدل حول ما إذا كانت الصناعة تتحرك بسرعة مفرطة قبل الطروحات العامة؛ وما زالت الشركتان تواصلان التلميح.
لماذا يريد ألتمن إبطاء تطوير الذكاء الاصطناعي؟
في اجتماع على مستوى الشركة، أبلغ الرئيس التنفيذي لشركة OpenAI سام ألتمان الحاضرين بأن مختبر الذكاء الاصطناعي، إلى جانب مختبرات أخرى وافقت، يمكنه إبطاء وتيرة إصدار نماذج النخبة.
وبسبب الطبيعة الطوعية لأي ترتيبات من هذا النوع، اعترف ألتمن بأن ليس كل شركة ستكون على متن هذا الخطة، وفقًا لمصادر استشهد بها بلومبرغ.
تأتي هذه الشكوك مع سابقة. قبل ثلاث سنوات، في مارس 2023، وقّع إيلون ماسك وستيف وزنياك وأكثر من 1000 آخرين رسالة مفتوحة لوقف أعمال ذكاء اصطناعي متقدمة لمدة ستة أشهر.
كما ذكرت وسائل الإعلام في ذلك الوقت، لم تلتزم المختبرات فعليًا بالحظر المؤقت الذي اتفقت عليه بشكل مشترك.
كما ظهر نداء “مخاطر الذكاء الاصطناعي” أيضًا في منشور بتاريخ 6 سبتمبر من قبل كبير علماء الذكاء الاصطناعي في شركة OpenAI، ياكوب باخوتشكي، والذي دعا شركات الذكاء الاصطناعي إلى التنسيق “لإبطاء التطوير المستقبلي حسب الحاجة”. وأعرب باخوتشكي عن أمله في أن تصبح حالات الإبطاء الطوعي “أمرًا شائعًا حتى يتم وضع عوائق سلامة مشتركة”.
في يوليو/تموز، قال ألتمن إنه أخبر مسؤولي البيت الأبيض بالحاجة إلى كبح تطوير الذكاء الاصطناعي. ومع الرئيس التنفيذي لـ Anthropic داريو أموديي، كان ألتمن قد وقّع أيضًا سابقًا على بيان من سطر واحد يعلن أن الذكاء الاصطناعي يشكل خطر انقراض على نطاق المجتمع.
هل يمكن استخدام نماذج الذكاء الاصطناعي لبناء أسلحة بيولوجية؟
تقدمت نماذج الذكاء الاصطناعي إلى المرحلة التي قد تجعلها قادرة على دعم أبحاث الأسلحة البيولوجية. وفي هذا الأسبوع فقط، أعلنت OpenAI أن نماذجها حلّت مشكلة الرياضيات الخاصة بمعادلات نافييه-ستوكس، حتى لو جاء ذلك ضمن شروط متنازع عليها.
قدمت Anthropic وقودًا جديدًا لهذا الجدل عندما فصل تقرير تهديدات للاستخبارات، بطول 154 صفحة، صدر في 10 سبتمبر، خمس حالات تفصيلية حاول فيها باحثون استخدام قدرات كلود لدعم عملهم في مجال الأسلحة البيولوجية.
قالت Anthropic إن المحاولات من “مناطق غير مدعومة” حاولت الالتفاف على قيود الموقع وإخفاء الغرض من عملهم. وقالت المختبر إنّها أوقفت الحسابات، لكنها لم تذكر أي دول أو مؤسسات.
هل أصبحت مخاطر الذكاء الاصطناعي تفوق الآن الفوائد؟
وصلت التقارير وسط موجة من الذعر العام من داخل المختبرات. ففي 8 سبتمبر/أيلول، استقال الباحث جاكوب كوكسون واتهم كلًا من OpenAI وAnthropic بـ“المقامرة بحياتنا”، قائلاً إن زملاء يعتقدون أن هذه التكنولوجيا قد “تقتلنا جميعًا بحلول نهاية العقد” مع تحذير من الانقراض البشري بحلول عام 2030.
حصدت منشوره أكثر من 150 مليون مشاهدة. وبعد يومين، في 10 سبتمبر، عرض موظفون سابقون من Anthropic وDeepMind التابعة لشركة Google مخاوف مماثلة ودفعوا من أجل مزيد من الشفافية.
جمع طلبٌ في أواخر يوليو/تموز لإنشاء آلية لإبطاء التطوير تواقيعَ من أكثر من 1000 عامل عبر كبرى شركات الذكاء الاصطناعي.
تدفع OpenAI الآن الكونغرس إلى وضع قواعد سلامة إلزامية قائمة على القدرات، تغطي الاختبار والتقييمات المستقلة وأمن السيبراني والإبلاغ عن الحوادث. وكتب مسؤول الشؤون العالمية لدى الشركة، كريس لانهان: “إن توقعات تطوير ذكاء اصطناعي متسارع بذكاء اصطناعي تتطلب أكثر من التزامات طوعية”.
تحركت كاليفورنيا أولًا: وقّع الحاكم جافين نيوسوم يوم الأربعاء على SB 813 وAB 1405، مع مشروع قانون مرافق، AB 1864، يهدف إلى الحماية من التهديدات البيولوجية التي يمكّنها الذكاء الاصطناعي.
في واشنطن، قدّم السناتور بيرني ساندرز مشروع قانون لإيقاف الذكاء الاصطناعي المتقدم وحظر الذكاء الاصطناعي الخارق الاصطناعي، وقال لهيئة BBC إن تجاهل تحذيرات العلماء سيجعل شخصًا ما “غبيًا”.
قال الرئيس دونالد ترامب، يوم الخميس، إنّه يشعر بالقلق من أنه “إذا لم نفز بالذكاء الاصطناعي، فسنكون في وضع سيئ للغاية”.
لا تكتف بقراءة أخبار العملات المشفرة. افهمها. اشترك في نشرتنا الإخبارية. إنها مجانية.