たぶんそれが、私の気を引き続けている理由なんだと思います。アイデアそのものではなくて、私がこの分野を見てきた限り、ローンチ後に誰も本当には監視していないシステムに、意思決定をあまりにも簡単に任せるようになってしまうところです。
十分昔からいるので、すべての時代にお気に入りの「約束」があったのを覚えています。より速いチェーン。より良いブリッジ。より効率的な市場。やがてAIもそのリストに加わったのですが、ほとんど必然のようでした。最初は正直なところ、ほとんどを相手にしなかったのです。なぜなら、クリプトには、すでに別の場所で起きている会話に自分をくっつける習性があるからです。
すると、Newton Protocolがまた出てくるのを見続けた。
プロジェクトがやるような騒がしいやり方ではない。むしろ、誰もまだきちんと終わらせられていない会話の下に、何かが座り込んでいるようなものだ。
面白いのは、AIが戦略を実行できるかもしれない、という点じゃない。そこは今やほとんど当然視されている。市場は人間が疲れて感情的になったり、気が散ったりするせいで、自動化へと常に流れてきた。機械はそうならない。少なくとも、私たちが自分に言い聞かせたい物語はそうだ。
複数サイクルで学んだのは、感情を取り除いてもリスクが消えるわけではないということだ。リスクが生まれる場所が変わるだけだ。
私がずっと気になっているのは、AIが単にまずい取引をするだけではなく、現実の理解が欠陥だらけでも、その中で論理的に一貫した判断を出し続けるとどうなるのか、ということだ。市場はきれいな環境じゃない。情報が欠けている。操作されたシグナルがある。反応が遅れる。誰も想定していなかったインセンティブがある。市場はドキュメントよりも速く進化してしまう。
Newtonのようなインフラのことを考えると、私の注意はいつもそこへ流れていく。
市場の話ではない。戦略そのものの話でもない。
より静かな断片たち。
検証。決済。AIが実際に意図したことと、最終的に実行したことを誰が確かめるのか？ 多数の自律システムが相互に作用し始め、それぞれが自分の目的を最適化しながら、誰も明示的に設計していない何かを共同で生み出したら、どうなるのか。
普通の人間同士の連携が絡むと、十分なプロトコルでも苦戦するのを見てきた。ガバナンスの投票は止まる。インセンティブはずれていく。バリデータは興味を失う。流動性は、まとめて崩壊するのではなく、静かに消えていく。どれも最初は派手には見えない。ほとんどは、ゆっくり、ほぼ礼儀正しく到来する。
そこに自律的な意思決定を加える。
驚くほどうまくいくのかもしれない。
もしかすると難しいのは知能そのものではないのか。必要なのは執念（粘り強さ）なのかもしれない。
誰でも、通常の条件で性能の良いものは作れる。ずっと難しい問いは、何が何か月もの間、破綻しにくい形で生き残るか――相反するインセンティブ、想定外の市場の振る舞い、そして、昨日まですべてが安定しているように見えていたのに、次第に注意を払わなくなる運用者たちの下で。
それは特定のNewton Protocolへの批判ではない。むしろ、だからこそ私は次へ進まず、そこにぐるぐる戻り続けてしまう。
アプリケーションの問題というより、アプリケーションのふりをしたインフラの問題に感じられるからだ。
違いがある。
機能は変わる。モデルは改善する。取引戦略は、これまでと同じように来ては去っていく。でも、その下にあって退屈な仕組みを静かに決めている、目に見えない層――自動化されたシステムがそもそもどれほど信頼に値するのかを左右する層――それらを正しくするほうが、AIそのものよりずっと難しそうだ。
そしてたぶん、それが私をいつまでも引きずっているのだろう。
自律実行が可能かどうかではない。
私たちが、本当にその自律システムに生き延びさせようとしている環境を理解しているのか。あるいは、まだ滑らかなデモを頼れるインフラと取り違えているだけなのか。
