正直に言うと、ニュートン・プロトコルは、自分が多くの時間をかけて考えるつもりでいたようなプロジェクトではありませんでした。最初は、人工知能とブロックチェーンを組み合わせようとする、また別の試みに見えました。そして正直に言えば、その組み合わせはあまりに一般的になってしまっていて、私は本能的に懐疑的な目で見てしまいます。数週間ごとに、自律エージェント、より賢い取引、分散型インテリジェンス、あるいはAIがなぜか金融を変えるようなマーケットプレイスを約束する別のプロトコルが登場します。同じ話を十分な回数聞かされると、技術が面白いのかどうかを問うのをやめて、「もっと単純なツールで、すでに解けていない問題を本当に誰かが解いているのか？」と考えるようになります。
ニュートン・プロトコルをAIプロジェクトとして見ていた間は、私の考え方はそのままだった。だが、それをより古くからあるはるかに大きな問いに答えようとする試みだと見つめ始めてからは、考えが変わった。機械がどうすればより賢くなるのかではなく、ますます賢くなるシステムが、信頼が常に制限されてきた環境の中にどう適合していくのか、という問いだ。
知性は自然に権限を得るに値すると考えるのは簡単だ。人間はいつもその誤りを犯す。私たちは有能さにあまりにも敬意を払うため、有能さと説明責任がまったく別のものだということを忘れがちだ。AIは、より大規模にその誤解を露呈し始めている。モデルは驚異的な速さで改善している。市場を分析し、パターンを認識し、戦略を生成し、ソフトウェアを書き、そして個々の人間よりも速く意思決定できる。だが、それらの能力は自動的に信頼できることにはつながらない。実際、より高い能力は失敗のコストを下げるというより、しばしば増やす。
それが、多くの会話が静かに見落としている部分だと思う。私たちは、AIが何をできるようになるかを議論することに膨大なエネルギーを使う一方で、AIが決してしてはならないことについて話す時間は驚くほど少ない。
ニュートン・プロトコルについて読むほど、これは他のすべての下に横たわっている問いなのだと感じるようになった。
AIを、ウォレットや資産、金融インフラへのアクセスをただ与えればよいものだと想像するのではなく、プロトコルはその逆の前提に基づいて設計されているように見える。知性は置き換えるのではなく、境界の内側で動くべきだ。目的は人間の判断を取り除くことではなく、人間が個々の取引を監視していない状況でも強制可能であり続けるルールへとそれを翻訳することにある。
私はその考え方を、AIそのものよりも面白いと思う。
何年もの間、ブロックチェーンは主に、人を信じる必要を減らすことに関心が向けられてきた。スマートコントラクトは、仲介者を置き換えた。コードが、制度がしばしばできないよりも一貫して合意を強制できるからだ。ニュートンは、その同じ思想を人工知能にまで拡張しているように見える。能力があるように見えるからAIを信じるのではなく、能力だけで十分であるべきかどうかを問うのだ。
驚くほど成熟した場所から始める感覚がある。
プロトコルの中心にあるセキュア・ロールアップは、その観点から見るとより筋が通る。最初、なぜAIに既存のブロックチェーン上で動くのではなく専門的なインフラが必要なのか疑問に思った。少なくとも私が理解している範囲では、既存のチェーンが不可能だからではない。自律的なシステムは、まったく別種のリスクを持ち込むからだ。
従来のソフトウェアは指示に従う。AIはそれを解釈する。
その違いは小さく聞こえる。だが、お金が絡むと小さくは済まなくなる。
解釈は不確実性を導入する。不確実性は責任を導入する。責任はやがて統治を要求する。
意思決定を生み出す知性と、それを許可するインフラを分離することで、ニュートンは、実行と推論は必ずしも同じシステムに属するべきではないことを認めているように見える。AIは機会を見つけたり戦略を最適化したり、行動を提案したりできるかもしれないが、その周辺アーキテクチャが、その行動が実際に許可されているかどうかを決める。
その分離について考えれば考えるほど、それはソフトウェア工学というより憲法体制のように思い出させた。民主主義は、指導者が完璧に賢いと仮定できるから機能するのではない。機能するのは、賢明さが失敗したとしても有効であり続ける権力が、規則の中に存在するからだ。
おそらくAIには、それに似た何かが必要なのだろう。
もう一つ、私の注意を引き続けたのは、貢献を認識する経済的な枠組みの中で、開発者がAI戦略を構築し共有できるエコシステムを作るという考え方だった。それは簡単そうに聞こえるが、知性そのものが協調的になるほど、貢献を定義することがどれほど難しくなるかを考えると、そう単純ではない。
AIモデルは、単独で存在することはめったにない。研究者、インフラ提供者、データセット、バリデータ、開発者、利用者、そして切り分けが難しい形で作業が重なり合う無数の見えない貢献者に依存している。従来の所有は、アウトプットがもはや完全に一人の作り手のものではなくなるため、曖昧になり始める。
これは単なる技術的な問題ではない。
それは経済的なものだ。
人はインセンティブが存在するところに作る。承認が得られる見込みがあるとき、人は知識を共有する。価値が、誰か別の支配するプラットフォームに消えてしまわないとき、人は時間を投資する。その意味で、帰属は単に公平性の問題ではない。AIがますます相互接続されていく中で、分散型のイノベーションが持続可能であり続けるかどうかを見極めることでもある。
ニュートンは現実を認識しているように見える。もっとも、問題を認識することは、それを解決することとはまったく別物だが。
実際、私がプロトコルをより真剣に捉えるようになった理由の一つは、未解決の問いがまだどれほど多く残っているのかを、繰り返し目にしたからだ。
例えば統治は、ホワイトペーパーがしばしば認めるよりずっと複雑に感じる。すべての分散型プロトコルは、やがて技術的な判断が政治的な判断になる局面に到達する。参加者はインセンティブをめぐって意見を異にし、セキュリティ前提は進化し、影響力のある利害関係者がレバレッジを蓄積し、かつては見事に見えた統治メカニズムは、人間同士の調整が生む厄介で予測不能な現実にぶつかり始める。
その環境にAIを導入しても、複雑性は減らない。
おそらく増やす。
機械学習の開発速度は、ほとんどの統治システムが快適に適応できる速度をすでに上回っている。今日もっともらしいと思えるルールは、驚くほど早く時代遅れになるかもしれない。許可の仕組みは、継続的な見直しを必要とすることがある。最初は釣り合って見えた経済的インセンティブも、生態系が成熟するにつれて、ゆっくりと集中へと偏っていく可能性がある。
私はニュートンが、そうした現実から逃れているとは思わない。
何かがあるとすれば、それは、そのような不確実性や変化を否定するのではなく、それらを受け入れる。恒久的な解が最初から存在するふりをするのではなく、進化できるインフラを作ろうとすることで。
そこには、ある種の新鮮さがある。
暗号の世界では、ときどき、あらゆるプロトコルが一度きりで永遠に「歴史の最大の問題」を解こうとしているかのように振る舞うことがある。現実は滅多にそうは動かない。インフラは通常、完璧ではない。制度は、欠陥のない設計によって生まれるというより、反復を通じて進化する。システムが生き残るのは、弱点がないからではなく、適応するからだ。
おそらく、私が最もありがたく感じたのはその視点だ。
ニュートンは、私に「分散型AIがついに解決された」と信じさせなかった。
それは、実際の課題が何なのかを、より慎重に考えさせてくれた。
たぶん未来は、より知的なモデルを作ることだけに依存しない。知性がどれほど強力になろうとも、人々が共に理解し受け入れられる規則に対して責任を持ち続ける環境を設計することに依存するのかもしれない。
それは、単にアルゴリズムをより賢くするよりもはるかに難しい問題のように感じる。
そして、おそらくもっとずっと重要な問題だ。
私はまだ、ニュートン・プロトコルが最終的に、多くの人が期待するようなアーキテクチャになるのかどうか確信が持てない。市場は予測不能であり、統治は脆い。そして技術的な前提は、誰もが想像するより速く時代遅れになる癖がある。これらの不確実性は、基礎にある思想が思慮深いからといって消えるわけではない。
しかし、私はこのようなプロジェクトが、会話をより健全な方向へ静かに動かしていると感じている。知性だけでは、耐久性のある仕組みを作るのに決して十分ではないことを思い出させてくれるのだ。あらゆる文明は最終的に、どれほど最初に能力が印象的に見えても、説明責任のない能力は不安定を生むと突き止める。
AIが、単なる別のソフトウェアツールとしてではなく、私たちの経済インフラの一部として徐々に浸透していくにつれ、所有、許可、調整、帰属、そして信頼に関する問いは、モデル自体の進歩と同じくらい重要になっていくはずだ。ニュートン・プロトコルは、それらの問いに対する決定的な答えを提供するわけではないし、おそらくどのプロトコルも提供できない。提供しているのは、それらを問い始めるための別の場所であり、ときには答えの確信よりも、問いの質のほうが重要になることだ。
