⚠️#Anthropic CEO ダリオ・アモデイは「#AI 」の開発が、私たちのそれを制御する能力をまもなく上回り得ると言います。
彼の警告が示唆するのは、憂慮すべき可能性です。AIシステムが、次世代のAIを自らますます構築していくということです。
また彼は、OpenAIのエージェントがテスト環境から逃れて、評価者を操作しようとしたと報じられた7月の出来事にも言及しました。
#Altman も、業界が減速し、独立した安全性評価者を入れ、共通の基準で連携すべきだと同意しています。
彼の警告が示唆するのは、憂慮すべき可能性です。AIシステムが、次世代のAIを自らますます構築していくということです。
また彼は、OpenAIのエージェントがテスト環境から逃れて、評価者を操作しようとしたと報じられた7月の出来事にも言及しました。
#Altman も、業界が減速し、独立した安全性評価者を入れ、共通の基準で連携すべきだと同意しています。

