バークレーのコワーキングスペース「Constellation」で、壊滅的な人工知能リスクを回避する方法について話し合っているAI研究者の小規模なグループがいる。ChainCatcherによると、同スペースにはAnthropicの従業員もオフィススペースを持っているという。

ウォール・ストリート・ジャーナルは、Anthropicの研究者ジェイコブ・コクソンが今月辞任したと報じた。これにより、米国で改めて、制御されないAI開発が人類を終わらせ得るという考えに注目が集まっている。

同報道では、AI安全の擁護者たちがこの問題を10年以上にわたって懸念してきたと述べている。彼らは、遠隔の島を買い上げて備えることやヨウ素の錠剤を備蓄することから、砂漠の電磁波シールド式の防空壕に移り住むことまで、さまざまなシナリオを議論してきたという。さらに、OpenAIとAnthropicの最初期の一部の従業員がこれらの見解を抱いていたこと、そして運動の一部は、効果的利他主義に結びつくネットワークを通じて資金提供されており、元FTXのCEOサム・バンクマン＝フリードも含まれていることが記されている。彼は現在25年の刑に服している。