🚨「AI企業は私たちの命を弄んでいる。」

🗣️この言葉とともに、27歳の英国人研究者ジェイコブ・コクソンが、Anthropicを離れることを発表したばかりです

🧠彼は3年間、業界でも最も強力な2社で、モデルの事前学習に取り組みました。OpenAI、そしてAnthropicです。

⚠️彼によれば、2社のいずれも「責任ある形で行動していない」。両社とも、最終的に自分自身をより良くすることのできる超知能を開発するための競争に巻き込まれているというのです。競争によって研究機関は、開発しているシステムを自分たちの研究者でさえ正確に制御できていない場合でも、常により速く前進するよう駆り立てられる。

👀さらに憂うべきことに、コクソンは、こうした技術を開発する一部の研究者やリーダーたちが、本当に、非常に進んだAIは10年以内に人類にとって存在を脅かす脅威になり得ると考えていると述べています。そして彼の見立てでは、その懸念は、公開の場よりもプライベートでははるかに率直に語られることもあるそうです。

⚔️各企業には減速する利益があるかもしれないが、相手に先を越されるリスクを取ることは誰も望まない。

🧐「この競争を受け入れ、企業秘密ではなく“エンドゲーム”に入るのは、あまりに過大な賭けであり、非公開のプライベート企業のSlackで決めるべきことではない。」

✅そしてコクソンは決して孤立しているわけではありません。Anthropicでアラインメントに取り組むチームを率いるエヴァン・ハビンジャーは、コクソンの見立ての一部を公に支持しています。彼は個人的に、次の $FF
$MET
$OPEN までにAIが人類の絶滅を引き起こすリスクが10％を超えると考えています。