自律システムは結果よりも、実行をはるかにうまく理解できるのではないかと思い始めています。
その違いは、最初に気づいたときは小さく感じました。
それが本当かどうか、今はよく分からなくなってきました。
長い間、機械化された金融における最も難しい問題は、実行そのものだと考えていました。
より良い連携
より良いモデル
人間の遅れによって減速されないまま、金融環境をまたいでより速く判断できること。
それでも、その部分はまだ重要です。
でも最近、もっと居心地の悪いことに戻って考えてしまいます。
実行は非常に短時間で終わります。
結果はたいていそうではない。
「取引は完了した。」
「その結果は、その後も動き続けた。」
この文は何日も私の中に残っています。というのも、現代のインフラは実行の履歴を保持するのがとても上手だからです。
取引は生き残る
状態の変化は生き残る
アウトプットは生き残る。
結果は別の振る舞いをする。
それらは、実行が置き去りにした場所にとどまることはほとんどない。
ときには、実行が起きているその瞬間には何も危険に見えない。もろさは、後になって初めて、行動が環境全体で規模を拡大することで、元のシステムが完全には想定していなかった形で可視化される。
自律システムが実際に結果を学習しているのか、それとも単に成功した実行パターンを学習しているだけなのか、ずっと考えています。
もう、それが同じものだとは思えなくなっています。
なぜなら、制度は正しい実行だけから作られてはいなかったからです。
それらは、実行がその後に引き起こした生き残るべきものから作られた。
「システムは取引を覚えていた。」
その機関は、その後始末を覚えていた。
この区別は、AIエージェントが、人間が躊躇して行動を中断させるための自然な間をほとんど持たずに、金融システム全体で継続的に動き始めると、ますます重要に感じられます。
最初は、実行後の監視が、いずれこの大部分を埋め合わせるのではないかと思っていました。
今では、私は以前ほど確信できていない。
監視は、結果がシステムが反応するのに十分な時間、なお可視であり続けることを前提としている。実行がすでに起きた後に反応できるように、という前提です。
自律的な環境は、その反応の猶予を攻撃的に圧縮する。
下流の影響が判読できるようになる頃には、実行がすでに、接続されたシステム間で継続的に同じことを繰り返しているかもしれない。
そこは構造的に不安定な感じがして、私たちがまだ十分に理解できていない気がします。
なぜなら、一部の権限は、規模が触れたときにのみ危険になるからです。
取引の中身は何も変わらない。
それを取り巻く環境が変わる。
そして突然、かつては許容できるように見えた行動が、まったく別のものへと増殖し始める。
「でも、実行が視界から消えたとき、自律システムはいったい何を覚えているのだろう？」
ブロックチェーンは、最終的に確定した行為を非常にうまく保持するので、その問いに何度も戻ってきます。
それらが結果の認識を、同じように確実に保持するのかどうかはよく分かりません。
そして、たぶん自律的な金融が、人間の制度が下流の影響を手作業で解釈するよりも速く自分自身を調整し始めると、そのうちそれは、より厳しいインフラ問題になる。
だからこそ私は @NewtonProtocol に何度も戻ってしまうのです。
認可のレイヤーを見るほど、それらがアクセス制御というより、取り返しのつかない行為が環境をまたいで広がる前に結果を封じ込めるもののように思えてきます。
実行を検証するだけではない。
実行がシステム全体に及ぶ前に、下流の不確実性が許容できるかを検証すること。
たぶん将来のインフラは、実行の質だけで競うのではない。
たぶんそれは、システムが“最終的に実行が何に変わるのか”をどれだけ賢く理解できるかで競うのかもしれない。
実行は素早く終わる。
私は、結果は自律システムが決して完全には交渉をやめない部分なのではないかと思い始めています。