大手AI企業や研究機関の従業員は、自分たちが構築しているシステムが社会に深刻な害を及ぼし得るのではないかと心配する中、精神的な負荷が高まっている。Sina Financeによると、事情を知る関係者は、英国のAIセーフティ・インスティテュートでは複数の従業員がストレスで病気休暇を取り、カウンセリングを求めたことがあるという。

この件に詳しい4人は、今後のAIモデルに向けた厳しいテストのスケジュールと、急速な展開や能力が着実に向上していくことへの懸念が士気を下げ、AISIでの燃え尽き（バーンアウト）につながったと述べた。Anthropic、OpenAI、Google DeepMindの従業員も同様の懸念を公に表明しており、中には心理的な負担のために離職したり、自社の製品は一般公開すべきではないと判断した研究者もいる。

DeepMindの社員は、AIセーフティの取り組みは燃え尽きにつながり得て、まるで不可能な課題のように感じると述べました。さらに、その社員は、技術がどのように使われるかは誰にも予測できないため、AIシステムの構築にはメンタルヘルス上のリスクがあると指摘し、多くの人が思いとどまり、一部は離職し、また別の人はメンタルヘルス休暇を申請していると語りました。

この記事はまた、過去2年でOpenAI、Anthropic、DeepMindから10人以上のシニア研究者が離職したとし、マネジメントの優先事項や技術進歩のスピードへの懸念を挙げました。直近の数週間で、元AnthropicおよびOpenAIの研究者ジェイコブ・コクソンが辞任し、その会社が人類の未来を賭けにしているのだと警告しました。