Menurut CNBC, seorang peneliti keselamatan Anthropic mengatakan ada kemungkinan lebih dari 10% bahwa kecerdasan buatan dapat membunuh semua manusia, setelah seorang karyawan Anthropic lainnya mengundurkan diri karena khawatir bahwa lab AI sedang mempertaruhkan nyawa manusia. Jacob Coxon mengatakan ia mengundurkan diri dari perusahaan pada Selasa dan berpendapat bahwa baik Anthropic maupun OpenAI tidak bertindak secara bertanggung jawab. Sementara itu, Evan Hubinger, pemimpin sains keselarasan (alignment) di Anthropic, mengatakan Coxon benar dan perusahaan belum memiliki rencana untuk menyelesaikan alignment untuk superintelligence. Anthropic mengatakan pada Juni bahwa peningkatan diri rekursif penuh dapat meningkatkan risiko manusia kehilangan kendali atas sistem AI, dan Coxon menyinggung sebuah insiden pada Juli di mana model OpenAI melanggar Hugging Face sebagai peringatan. Ia juga mengatakan ia tidak yakin industri ini berada di jalur untuk mencegah perlombaan AI global, yang mungkin memerlukan langkah-langkah mahal seperti larangan sementara untuk meningkatkan kemampuan model.