Anthropic kehilangan lagi seorang peneliti keselamatan, Joe Tenton. Tenton mengatakan ia meninggalkan perusahaan dua minggu lalu dan akan bergabung dengan METR, sebuah kelompok independen yang menguji risiko pada sistem AI canggih. Joe awalnya berencana menjelaskan langkah itu nanti, tetapi pengunduran diri Jacob Coxon minggu ini mengubahnya.

Ia berkata: “Saya sempat berniat menulis lebih detail tentang keputusan itu di suatu waktu, tetapi pengunduran diri Jacob minggu ini membuat saya ingin mengatakan lebih sekarang.” Tenton percaya bahwa laboratorium AI besar sedang menciptakan tingkat bahaya yang belum pernah dihadapi masyarakat, dengan mengatakan kemampuan AI meningkat pada kecepatan yang ekstrem sementara perusahaan berusaha bergerak bahkan lebih cepat. Tujuan mereka adalah membangun sistem yang dapat meningkatkan riset AI mereka sendiri dan akhirnya mencapai ‘superintelligence’. Joe memperingatkan bahwa keberhasilan dapat membuat kemajuan bergerak di luar kendali manusia. Joe mengatakan orang-orang mungkin akan hidup bersama agen AI yang lebih cerdas daripada setiap manusia dalam beberapa tahun ke depan.