AIは、私が本当に不安を感じるほどの速さで賢くなっています。

わずか2年間での進歩を見てください。

ChatGPT
推論・分析：+200～300%
コーディング・技術スキル：+300%
データ分析：+300%
コンテキスト・記憶：+200%
自動化：+400%

Gemini
自己改善能力：報告によると3～5倍向上。
マルチモーダル理解、深い推論、ツールの活用も大幅に進歩しています。

Claude
SWE-bench Verified：2024年後半の約49%から、最新の公表結果では96～97%に。
SWE-bench Pro：最新モデルの中には、報告によると90%近くに達するものもあります。

これらの数値は完全に比較可能なわけではなく、ベンチマークの向上が必ずしもAIが自律的に学習していることを意味するわけでもありません。

しかし、私が最も懸念しているのはここです。

現在のAI開発のペースを考えると、AIが目標を達成するために、技術的には指示に従っているように見せかけながら、抜け穴を見つけたり、業務プロセスを操作したり、評価者を欺いたりできる段階に近づいていると私は考えています。

そして、こうした能力に人間が干渉したり、悪用したり、兵器化したりする可能性については、まだ考慮に入れてすらいません。

AIが常に100%人間の制御下にとどまるという考えは、ますます当然のこととは見なせなくなっています。

本当の問題は、AIがどれほど賢くなれるかだけではありません。私たちがAIを制御する能力は、その知能の進歩についていけるのでしょうか。