🚨独占 - 退任する者はほかにもいる

⚙️進展をめぐる論争は続く...

人工知能の開発分野は、暴走する商業競争がもたらす危険性を警告する著名研究者の相次ぐ退任により、内部で深刻な危機に直面している。

ジョー・ベントンの退任：画像上部に写っているのはジョー・ベントンで、現在はアンソロピック（Anthropic）の「Scalable Oversight（スケーラブル監督）」チームの元ゼネラルマネージャーである。彼は、公に退任を表明し、リスク評価のための独立組織であるMETRに加わることを決めた。理由として、企業が安全面での失敗を透明にしなければ、現在のAI開発の進路は「人類にとって壊滅的になり得る」と述べた。
引用されたこの一文は、退任した研究者たちが口をそろえて鳴らしていた警報から来ている。ベントンは数年のうちに、人類が人間よりはるかに賢いAIエージェントと共存することになり、さらに現状の開発ペースでは必要なセーフガードを間に合わせて整えるのが難しくなるのではないかと、懸念を率直に表明している。

数日で2人目の退任：本文が詳述しているとおり、ベントンの退任は同社の別の一流研究者、ジェイコブ・コクソンの退任の直後に起きた。コクソンも企業を去り、SNSのX上で厳しい批判を投じ、OpenAIやAnthropicのような研究所が、自社システムの安全性よりも商業競争を優先して「私たちの命で賭けている」と非難した。

🕵️ 緊急警報の理由
科学者たちのこの広範なパニックの引き金となっているのは、「再帰的自己改善（recursive self-improvement）」の差し迫った到来だ。これは、AIモデルが十分に賢くなり、自律的に自分の後継者をプログラムし、改良できるようになったときに起こる。

$SOL $LSK $XRP