元AI研究者たちは、高度なAIシステムがあまりにも急速に進化していることに警鐘を鳴らしています。ニューヨーク市議会の公聴会では、研究者たちがAIの制御やモデルのアラインメント、現行の安全対策における不足について懸念を示す一方、業界関係者は壊滅的なリスクを評価する難しさについて説明しました。