【AI内部者が世界滅亡のリスクを警告、公式は「心配していない」と一言だけ返した🤖】

トップページにXさんのファン交流グループを追加🔥

Anthropicのアライメント責任者であるHubingerが、ある一言を放った。彼によれば、今後10年でAIが全人類を滅ぼす確率は10%を超えるという。これは本人の言葉だ。彼の同僚はそれを受けて、すぐに辞職した。「2社のトップは、人々の命を賭けている」と言った。同じ週にOpenAIとAnthropicの内部関係者が十数人、速度を落とすよう公開で呼びかけた。記者にその件を聞かれると、公式は「全く心配していない」とだけ返した。

まず、2種類の「心配」を分けよう。1つは、AIがある日突然暴走するのが怖いということ。もう1つは、AIが自分で自分を改変し始めるのが怖いということ。後者こそが彼らが本当に恐れているものだ。Anthropicはそれを「再帰的な自己改善」と呼んでいる。もしAIが次世代モデルの設計に関われるなら、進捗は人間の手でコントロールできず、契約上の制約にも縛られない。

本当に注目すべきは「速度」だ。Anthropic自身の開示によれば、エンジニアが現在1四半期で納品するコード量は、2021〜2025年の平均の8倍。今、コードを書く主力はすでにAIに切り替わっていて、人間は確認するだけ。だが、人間のレビュー速度はそれに合わせて速くはなっていない。ここが厄介な点だ。能力は伸びているのに、ブレーキはまだ少数の人の手中にある。

暗号分野にとって、この線は実はそれほど遠くない。すでに門の前にある。AIが強くなるほど、計算資源とデータの価格決定権は少数の企業に集中していく。暗号の売りは検証可能で追跡可能なこと。まさにAIで最も説明しづらいその一部分を補う役割を担える。だからAIの安全性に関する不安が起きるたびに、去中心化された計算能力とオンチェーン検証の物語が何度でも語り直される。こうしたナラティブが、繰り返し取引材料として持ち出される理由でもある。

あなたはどう思う？ 今回のAI安全をめぐる議論は、規制が先に実装されるのか、それとも技術が先に通り過ぎるのか。コメント欄で話そう。