経験のせいなのか、それともただの疲れなのかは分からないけれど、私は「自明な話」を信じるのが以前より遅くなっているように感じる。
暗号を十分長く見てきたからこそ分かる。面白いのは、だいたい長く生き残る部分ではない。AIにも、そのパターンと同じようなものがある。数か月ごとに会話の焦点は移り、みんなが新しい語彙を身につけるのに、なぜか同じ問題を別の角度から回り続けている。
最近は、すべてAIエージェントの話だ。
推論できるかどうかではない。驚くほど上手になってきているからだ。問題は、その推論を根拠に何かをするのに、彼らを信頼してよいのかどうかだ。
その違いは、見落としやすい感覚がある。
戦略を生成することは、ほとんど商品になりつつある。新しいモデルが出るたびに、分析が少し良くなり、予測が少し当たり、出力が少し説得力を増すと約束される。けれど、市場は、実行前にそのアイデアがどれほど優雅に見えたかには、あまり関心がない。
実行こそが、ミスが高くつく場所だ。
私たちは、知能を希少な資源として扱うことに、時間を使いすぎてきたのではないかと考えている。もうそうではないのかもしれない。希少なのは、仮想の例ではなく実在の資産と相互作用するとき、自律システムが明確な境界の範囲内で振る舞うだろうという確信かもしれない。
それは、ずっと魅力のない問題だ。
しかも、おそらくそれが一番重要な問題だ。
その観点から、私はニュートン・プロトコルについて読んでしまった。AIと暗号をつなぐ別のプロトコルを探していたわけではない。焦点が、しばらく考えていたことへとずれてきているように思えたからだ。つまり、もし将来的にAIが金融システムに参加することを許されるなら、意思決定を生み出す知能そのものよりも、実行を検証し制約する層のほうが、より重要になるかもしれない。
市場の発想は、不確実性のもう一層を加える。開発者が自律的な戦略を展開して収益化できるようになったとき、信頼はモデル単体の話ではなくなる。インセンティブの検証や、エージェントが開発者の手を離れた後に、誰かがそれが何をしているのかを本質的に理解できるのか、という話になる。
システムは人が期待を低く置きすぎたせいで失敗することが少なくない、ということを学んだ。
彼らはたいてい失敗する。誰かが、見えない部分の検証をしているはずだと、皆がひそかに前提していたからだ。
たぶん、この会話の全体が向かっている先はそこなのだろう。
より賢いエージェントに向かうというよりは、知能だけがあっても信頼できる実行が伴わなければ、最も重要な問いが答えられないまま終わってしまうかもしれない、という不快な現実の認識に向かう。
