AI安全性の研究者2人が、非常に高い能力を持つAIシステムが人類を脅かす可能性があることを懸念したとして、Google DeepMindを離れた。Sina Financeによると、ビラル・フチタイとジョシュ・エンゲルスは、ラボを離れた後、AI安全に焦点を当てた組織に加わるという。

DeepMindで1年間過ごしたエンゲルスは、Xで、今ではAIシステムが今後5年以内に重大な危害を引き起こす可能性が恐ろしく高いと考えるようになったと書いた。彼は、大規模モデルの人間とのアライメントに取り組むため、独立したAI安全性研究グループであるMETRに参加する予定だという。

Chughtaiは月曜にXで、「AIには、人類を破壊しうる潜在的なリスクがあると、私は心から信じている」と述べた。DeepMindで18か月働いた後、AIの安全性に関連する教育コースを提供する非営利団体BlueDot Impactに参加した。

出発は、テクノロジー企業の幹部らがAI開発のペースを落とし、規制を強化すべきだとの要請が高まる中での出来事だ。Sina Financeによると、同氏らは主要なAIラボからの一連の退任の最新例であり、先にAnthropicからJacob CoxonとJoe Bentonが退任したことに続くものだ。