CNBCによると、今週、AnthropicとOpenAIの研究者らが、再帰的自己改善（RSI）はAIの能力を急速に高め、新しいモデルがどのように訓練されるかに対する人間の管理を弱める可能性があると警告した。Anthropicのアライメント責任者であるEvan HubingerはXで、AIが今後10年以内にすべての人間を殺す可能性は10％を超えると思うと述べた。一方、OpenAIのチーフサイエンティストであるJakub Pachockiは、機械知能の急速な上昇が続くことの結果に対して、誰も備えていないのではないかと懸念していると語った。Anthropicは6月に、社内データではClaudeがAI開発を加速させており、そのプロセスは予想よりも速いペースで進んでいることが分かったと述べた。同社はまた、8月のブログ投稿で、エンジニアが現在、2021年から2025年の間に比べて四半期あたりのコード出荷量が8倍になっていると明らかにした。