AIファイナンスにおける最大のリスクは、機械が知能を持ちすぎてしまうことではありません。問題は、知能を判断の代わりとして扱い続けていることです。 @NewtonProtocol
その前提が、次の世代の金融インフラを静かに形作っている。
長年にわたり、ブロックチェーンはひとつの驚くべき課題を解決してきました。仲介者を信用せずに合意を実行する方法です。取引が正しい署名を持ち、プロトコルのルールに従っていれば、実行はほぼ自動化されます。
その達成によって、デジタル・ファイナンスは変わった。
それはまた、危険な見落とし（盲点）も生み出した。
実行があまりにも確実になったので、実行そのものが起きるべきかどうかを、私たちはめったに疑わなくなった。
すべての乗客が有効なチケットを持っているために自動的に搭乗していく、そんな空港に足を踏み入れるところを想像してみよう。誰も天候を確認しないし、機体の準備状況、セキュリティアラート、機械的な不具合もチェックしない。すべての手順は完璧に機能する――ただし、最も単純な質問をするものだけは別だ。このフライトは今すぐ出発すべきか？
金融の自動化は、同様の岐路に近づいている。
AIエージェントは着実に研究アシスタントやチャットボットを超え、取引を交渉し、ポートフォリオを組み替え、国庫資産を割り当て、複数のプロトコルにまたがって資本を調整するような環境へと進んでいる。それらの価値は、人間が合理的に反応するよりも速く行動できることにある。
しかし、速度はミスの性質を変える。
人間のポートフォリオマネージャーは、数百万ドルを動かす前にためらうかもしれない。
ソフトウェアはめったにためらわない。
自律エージェントが予期しない市場状況に遭遇すると、前提となっていることが誤っていたことに誰も気づく前に、技術的に完璧な意思決定を数百回も実行できてしまう。ブロックチェーンは完璧な取引を記録するが、経済の現実は高くつく結果として記録される。
何もハックされなかった。
何も誤作動しなかった。
すべてが、設計どおりにそのまま起きただけだ。
その違いは、受けている以上にもっと注目されるべきだ。
AIセキュリティに関する今日の議論の多くは、鍵の保護、悪用の防止、外部攻撃者からネットワークを守ることのように、依然としてそうしたことを中心に回っている。それらの懸念は重要だが、昨日の脅威モデルに属している。
明日の失敗は、許可されたシステムが許可されていない判断を下すことから生まれる可能性が高い。
ウォレットは、正しい所有者に属する。
スマートコントラクトはすべての監査を通過する。
その取引はあらゆるプロトコルのルールを満たしている。
しかし、意思決定そのものが存在してはならなかった。
ここから、見落とされていた転換が立ち上がり始める。
ニュートン・プロトコルのようなプロジェクトは、単なる別のブロックチェーン基盤レイヤーとしてより、金融が許可と意思決定を切り分け始めている証拠としての方が興味深い。エージェントが権限を持つかどうかだけを問うのではなく、そのアーキテクチャは、実行前に提案された行為が独立に検証可能なポリシーを満たしているかどうかを問うのだ。
それは手続き的に聞こえる。
それは実際、哲学的だ。
現代の金融は、これまでずっと見えないチェックポイントに依存してきた。
銀行には承認ワークフローがある。
投資会社はリスク委員会を維持している。
大企業は、資本が動く前に権限を複数の部署に分散させる。
これらのプロセスは、何かがうまくいかなくなるまで非効率に見えることが多い。
そしてそれらは無価値ではなく、かけがえのないものになる。
分散型金融は、開放性と効率を目指して、それらの制度的レイヤーの多くを取り除いた。その達成は革新を広げたが、暗号学的な所有だけで、何世紀にもわたる金融ガバナンスを置き換えられると考えていた面もある。
現実は、より複雑だと証明しつつある。
所有は、誰が資産をコントロールするのかを説明する。
そのコントロールを行使することが、条件の変化のもとで適切かどうかは説明してくれない。
この違いは、AIがシステムに入ってくるほど大きくなる。
従来のソフトウェアと違って、知的エージェントは自分自身で出来事の解釈を生成する。推奨や行動を生み出す前に、過去データ、外部情報、予測モデル、確率的推論を組み合わせる。
層が増えるほど、不確実性も増す。
あらゆる不確実性が、何千もの自動化された意思決定の中で増幅される。
業界は、ボトルネックを人間から排除するから、自律システムを称えることが多い。
ボトルネックは、私たちが十分に理解していなかった“あるサービスを提供すること”だったのかもしれない。
人間のためらいには経済的価値がある。
取り返しのつかない資本を投じる前の短い停止が、歴史の中で数え切れない金融災害を防いできた。そうした災害が公表されないのは、そもそも起きなかったからだ。
慎重な抑制は見出しを残さない。
自動化はためらいを取り除く。なぜなら、ためらいは非効率に見えるからだ。
市場は即時の行動に報いる。
テクノロジーは即時の行動を最適化する。
それでも、英知はしばしば1分後にやって来る。
したがって、インフラは、以前は人々が担っていた責任を運び始める。
ますます高性能なモデルから判断が自然に生まれると仮定するのではなく、システム自体が、重要な意思決定が独立に定義された基準を満たしていることを検証しなければならない。
それが通常のコンプライアンスとどう違うか見てほしい。
コンプライアンスは通常、活動が起きた後にルールが守られたかを問う。
意思決定インフラは、価値が動く前に、その活動が許可に値するかを問う。
その順序がすべてを変える。
自律ソフトウェアを中心に構築された経済は、完全に事後の説明責任に頼ることはできない。ソフトウェアは、調査よりもはるかに速くミスを拡大するからだ。
面白い帰結として、信頼そのものの形が変わり始める。
数十年にわたり、金融の信頼は制度に大きく依存してきた。
そしてブロックチェーンは、信頼を数学へとシフトさせた。
いま、AIは第3の次元を持ち込む。
行動。
ユーザーは、計算がどこで行われるかよりも、圧力下でも計算上の挙動が予測可能に保たれるかをますます重視する。
予測可能性が希少な資源になるかもしれない。
なぜ航空が驚くほど安全になったのか考えてみよう。
画期的だったのは、完璧な操縦士を見つけたことではない。
それは、不完全な人間が手順によって個々の判断が制約されることを通じて、確実な成果を何度も生み出すようなシステムを設計することだった。
チェックリストは自信より価値が高くなった。
金融には同等の変革が必要かもしれない。
最も賢いAIエージェントでさえ、十分に賢いエージェントが透明な行動の境界の内側で運用される場合より価値が小さくなる可能性がある。
その可能性は、今日のよくある物語をひっくり返す。
多くのテクノロジーの会話は、能力が必然的に信頼を生むと前提にしている。
歴史は、その逆を示唆している。
能力はしばしば、より強い監督の必要性を高める。より大きな結果が、より大きな力に伴って現れるからだ。
電力は安全基準を要求した。
自動車には交通法規が必要だった。
世界の銀行は資本要件を発展させた。
能力が一段飛躍するたびに、無制限の自由ではなく、新しい形式の規律が生まれた。
AIによる金融は、最初の例外になる可能性は低い。
見落とされている別の次元は、インセンティブだ。
市場は本来、見える成果に報いる一方で、見えない防護を過小評価する。
誰も、起きなかった取引を祝う投資家はいない。慎重なポリシーが、不要なリスクを静かに防いだためだ。
目に見えない成功は、ソーシャルメディアで流行することはめったにない。
それでも、文明は毎日、無数の見えない成功に支えられている。
決して崩れない橋。
決して故障しない送電網。
患者が危険に気づく前に、静かに緊急事態を防ぐ医療手順。
最も強いインフラは、めったに自分から名乗り出ない。
それは日常の暮らしに溶けていく。
おそらく金融の知性も、同じように成熟していくのだろう。
AIを、どれだけ積極的に機会を追い求めるかで測るのではなく、市場は最終的に、見た目には魅力的に見えただけの機会をどれだけ一貫して避けられるかでシステムを判断するのかもしれない。
規律は測定可能になる。
抑制は技術になる。
自信は、仮定されるのではなく、獲得される。
その未来は、今日の“自律エージェントが人間の専門性を置き換える”という見出しほど劇的には感じられない。
しかも、それははるかに現実的でもある。
金融史は、単に最初に行動しただけの人々に報いたことがない。
そして、十分に長く生き残って行動し続けられた人々に報いた。
したがって、最も深い革新は、より人間のように考える機械を作ることとはあまり関係がないのかもしれない。
それは、人間が何世紀も前に学んできたことを思い出すような金融システムを構築することから生まれるのかもしれない――すなわち、規律ある境界のない知性は、意思決定者が心臓を持っていようとプロセッサを持っていようと、常に高くつくということだ。