私は、AIやブロックチェーンの話をするときにあまり注目されない問題について考え込んでしまいました。
ほとんどの議論は能力をめぐります。
AIは人間よりも速く市場を分析できますか？
より効率よく取引を実行できますか？
複雑なワークフローを調整できますか？
それらは興味深い問いですが、すべて同じことを前提にしています。つまり、AIが何をすべきかを決めたら行動してよいということです。
考えれば考えるほど、その前提は不十分に思えてきました。
おそらく、より難しい課題は自律エージェントを作ることではありません。
それは、分散環境において、そうしたエージェントが行動してはいけないタイミングを決めることかもしれません。
その気づきが、私がAI駆動の自動化のために設計されたプロトコルを見始める方法を、完全に変えてしまいました。
AIを賢くするにはどうするかではなく、どうすれば自律的な判断をより安全にできるかを考え始めました。
この視点の転換は、興味深い発見につながりました。
AIシステムがますます高い能力を持つようになると、権限は計算そのものより価値のあるリソースになるかもしれません。
アイデンティティから意図へ
従来のブロックチェーンのセキュリティは、アイデンティティを中心に設計されてきました。
ウォレットが取引に署名します。
ネットワークは署名を検証します。
署名が有効で、取引がコンセンサスのルールを満たしていれば、実行が進みます。
このモデルは、人間が大半の行動を開始する場合に非常にうまく機能します。
人は立ち止まります。
人は考え直します。
人はときどき、「Confirm」をクリックする前に、何かがおかしいと感じ取ります。
自律ソフトウェアは、ふるまいが異なります。
AIの取引戦略は、疲れません。
それは眠りません。
躊躇しません。
それは単に、目的に従って決定をし続けます。
その一貫性は、最大の強みのひとつです。
それはまた、その最大級のリスクのひとつでもあります。
自律システムに広い権限が与えられているなら、それは合計として望ましくない結果を生み出す、完全に有効な取引を何千件も作ってしまう可能性があります。
技術的に間違っている点はないのかもしれません。
署名は引き続き有効です。
プロトコルは、設計どおりにまったくその通りに振る舞います。
それでも、その結果はアプリの作成者の意図に反する可能性があります。
これは、アイデンティティだけでは弱いセキュリティのプリミティブになりつつあることを示唆しています。
誰が取引を提出したかを知っても、それが現在の状況で起きるべきかどうかを理解するよりは情報が少ないのです。
権限は動的になりつつある
AI志向のブロックチェーンアーキテクチャを研究していて際立ったのは、認可がもはや静的である必要がないという考えです。
歴史的に、権限は単純に見えていました。
アカウントはアクセス権を持っているか、持っていないかのどちらかです。
契約は、呼び出し元を受け入れるか拒否するかのどちらかです。
自律システムは、はるかに多くのニュアンスを持ち込みます。
たとえば、エージェントはボラティリティがある閾値を下回っている間だけ取引を実行すべきかもしれません。
外部リスク指標が悪化した場合、移転は一時停止すべきかもしれません。
おそらく借り入れ（移転）には、資本が動く前に複数の独立した条件が必要です。
これらはアイデンティティの問題ではありません。
それらは状況（コンテキスト）の問題です。
興味深い結果として、認可は一度きりの承認ではなく、継続的な評価に似てきます。
権限は、いったん付与されるのではなく、何度も獲得するものになります。
なぜ意思決定を認可から分離するのか？
最初は、この分離は不要に感じられました。
AIがすでに実行する行動を決めているなら、なぜ別の層を追加するのですか？
エンジニアリングのシステムがどのように進化しがちかを考えたことで、答えはより明確になりました。
現代のOSは、すべてのアプリがすべてのファイルにアクセスすべきだと仮定しません。
クラウド基盤は、すべてのサービスがすべてのデータベースと通信すべきだと仮定しません。
大企業は、ログインできたというだけで、すべての従業員に無制限のアクセスを許すことはめったにありません。
複雑なシステムほど、能力（Capability）と権限（Permission）を分けるようになっています。
AIを活用したブロックチェーンアプリケーションは、同じ方向に進んでいるように見えます。
知的なエージェントは、機会を生み出すかもしれません。
ポリシー層は、それらの機会を実行することがあらかじめ定義されたルールを満たすかどうかを評価します。
どちらの層も、もう一方を置き換えません。
代わりに、各々が特化します。
ひとつは最適化に注目します。
もう一方は制御に焦点を当てます。
その分離によって、どの単一コンポーネントにも割り当てる責任の数が減ります。
隠れた前提
しかしこのアーキテクチャは、静かに前提を導入しています。
ポリシーには情報が必要です。
その情報が、すでにオンチェーン上に存在している場合もあります。
口座残高。
トークンの保有。
コントラクトの状態。
これらは比較的単純です。なぜなら、ブロックチェーンのノードはそれらにすでに合意しているからです。
他の状況は、より複雑になります。
例えば、認可ルールが市場の状況に依存しているとします。
あるいは、コンプライアンス要件。
あるいは、組織としての承認。
あるいは、エンタープライズのリスク指標。
それらの入力は別の場所に由来しています。
たとえそれらが安全に取得され、慎重に評価されたとしても、それらを生成するインフラを誰かが保守し続けなければなりません。
その気づきが、認可ロジックそのものから注意を引き離し続けました。
本当の問題は、ポリシーが表現力を持ち得るかどうかではありませんでした。
問題は、支える情報が時間の経過とともに信頼できるまま保たれているかどうかでした。
より良い意思決定は、より良いコンテキストに依存する
自律エージェントは、計算能力が欠けているせいで失敗することはめったにありません。
それ以上に、受け取る情報が不完全だったり誤解を招く文脈だったりするため、失敗することがよくあります。
人間の意思決定も、同じように機能します。
古い情報で働く、優秀なアナリストでも、誤った結論に至り得ます。
同じ原則がソフトウェアにも当てはまります。
ポリシー評価を追加したからといって、判断が魔法のように良くなるわけではありません。
自動化されたふるまいの周りに置かれる制約の質が向上します。
ただし、その制約は、そこに流れ込む情報の持つ強みと弱みを引き継ぎます。
これはアーキテクチャを無効にしません。
その整合性は、意思決定の質はコンテキストの質に依存するのだと私たちに思い出させるだけです。
トレードオフはめったに消えない
あるパターンは、計算機科学のいたるところで繰り返し現れます。
問題は消えるのではなく、別の場所へ移動することがよくあります。
仮想化によってハードウェアの複雑さは減り、オーケストレーションの複雑さは増えました。
クラウドコンピューティングは導入を簡単にしましたが、運用上の依存関係を生み出しました。
マイクロサービスはモジュール性を改善しつつ、分散システムの観測を難しくしました。
AIによる認可は、同様のパターンに従います。
リッチなポリシーエンジンは、無制限の自動化のリスクを下げます。
しかし、それらはポリシー保守の重要性を高めます。
開発者には、これまでに加えて追加の責任が生まれています。
ポリシーにはテストが必要です。
外部依存関係は監視が必要です。
予期しない状況には、適切に（つつがなく）対応する必要があります。
これらの責任は、いずれも欠陥のある設計を示しているわけではありません。
それらは、柔軟性にはコストがかかることの証拠です。
あらゆる抽象化は、どこか別の場所へ複雑さを移します。
なぜトレーディング以外でも重要なのか
AIの認可を自動取引だけに結びつけたくなるのはもっともです。
より広い含意は、より興味深いように思えます。
自律的な資金（トレジャリー）管理を使う分散型組織を想像してみてください。
支払いを自動的に調整するサプライチェーン。
保険プロトコルが請求を評価します。
消費者向けアプリが、継続的な金融活動をスケジューリングする。
機微な権限を扱う医療システム。
どのような状況でも、問題は単に自動化が存在するかどうかではありません。
重要なのは、自動化が進化する目的と整合したままでいられるかどうかです。
静的な権限は、許容されるふるまいが時間とともに変わる環境ではうまく機能しません。
動的な認可は、まさにその問題を解こうとします。
成功するかどうかは、高度なAIモデルかどうかというより、それを取り巻くガバナンスの質に左右されます。
失敗へのエンジニアリング
レイヤー化された認可モデルのうち、私が評価している点のひとつは、エンジニアがときに見落としがちな何かを認めているところです。
どの構成要素も、いずれは失敗に遭遇します。
ネットワークでは障害（ダウンタイム）が発生します。
外部サービスが利用できなくなります。
予期しないデータが届きます。
ソフトウェアは予測不能に振る舞います。
面白いのは、失敗が起きるかどうかではありません。
それらが起きた後も、システムが安全に振る舞い続けるかどうかです。
失敗を前提に設計することは、成功だけを前提に設計するより、より強いアーキテクチャを生み出すことが多いです。
認可層は、すべてが完璧に機能しているときだけでなく、不確実性が増してくるときにも価値が生まれます。
そうした瞬間に行動を拒否することは、最も安全な判断を表しているかもしれません。
この原則は、AIシステムがより高い運用上の自律性を獲得するにつれて、驚くほど関連性が高いと感じられます。
進捗を測る別の方法
テクノロジーの議論では、しばしばスピードが強調されます。
低遅延。
スループットの向上。
より多くの取引。
より大きなモデル。
効率の向上。
これらの改善は重要です。
それでも私は、別の指標を見落とす原因になっているのではないかと考えています。
成熟したAIインフラは、その自制の質でも測るべきなのかもしれません。
それは望ましくない行動をどれだけ効果的に防げるでしょうか？
認可の判断を、どれだけ透明に説明できるでしょうか？
前提が成り立たなくなったとき、どれだけ予測可能に振る舞うでしょうか？
それらの問いは、単なる生の性能と同じくらい重要だと証明されるかもしれません。
結局のところ、信頼できる境界なしに強力な自動化を行っても、必ずしも信頼できるシステムが生まれるとは限りません。
それは単に、より速いものを生成するだけです。
最後にひとこと
AIとブロックチェーンの実行を組み合わせたアーキテクチャを長く研究するほど、「知能」が決定的な課題だという確信が薄れていきました。
能力は業界全体で引き続き向上しています。
権限付与は、依然としてはるかに難しい。
自律的な行動が引き続き適切であるかを継続的に評価する仕組みを設計するには、注意深い思考が必要です。アルゴリズムだけではなく、信頼・状況（コンテキスト）・ガバナンス・失敗に関する考慮が必要です。
もしかすると、それこそがより重要なエンジニアリング課題です。
もしAIエージェントが、いずれ分散型アプリケーション全体に一般化するとしたら、成功するのは最も賢いモデルを持つシステムでしょうか。それとも、それらのモデルに許されることの境界を最も賢く定義できているシステムでしょうか？