وفقًا لـ CNBC، قال باحث مختص بالسلامة في شركة أنثروبيك إن هناك احتمالًا يتجاوز 10% بأن يؤدي الذكاء الاصطناعي إلى قتل جميع البشر، وذلك بعد استقالة موظف آخر في أنثروبيك بسبب مخاوف من أن معامل الذكاء الاصطناعي “تراهن على أرواح الناس”. صرح جاكوب كوكسون بأنه استقال من الشركة يوم الثلاثاء، وجادل بأن لا أنثروبيك ولا OpenAI تتصرفان بمسؤولية. وفي المقابل، قال إيفان هوبينجر، قائد علوم المواءمة في أنثروبيك، إن كوكسون على صواب، وإن الشركة لا تزال لا تملك خطة لمعالجة مواءمة الأنظمة الخارقة للذكاء الاصطناعي. وأضافت أنثروبيك في يونيو أن التحسين الذاتي العودي الكامل قد يزيد من خطر فقد البشر السيطرة على أنظمة الذكاء الاصطناعي، واستشهد كوكسون بحادثة في يوليو تم فيها اختراق نموذج من OpenAI لمنصة Hugging Face كـ “إنذار”. كما قال إنه لا يعتقد أن الصناعة في طريقها إلى منع سباق عالمي للذكاء الاصطناعي، وهو ما قد يتطلب خطوات مكلفة مثل فرض حظر مؤقت على تحسين قدرات النماذج.