@NewtonProtocol AIエージェントをめぐる議論では、多くの場合、より高い自律性ほど常に良いという前提で話が進みます。しかし狙いは、人間の関与をできるだけ減らすことのようです。
この空間を追うほど、問題の本質を見誤っているのではないかと思えてきます。
難しいのは、AIをより自立させることではありません。
人々が本当の金融上の意思決定を委ねても安心できるほど、AIを信頼できる存在にすることです。
それが、ニュートン・プロトコルが私の関心の範囲にずっと残っている理由の一つです。
ユーザーに完全な支配を手渡すよう求めるのではなく、このプロトコルは「委任には常に、執行可能な制限が伴うべきだ」という考え方を軸に設計されています。それは、自律的な金融においてはるかに現実的な方向性だと感じます。
AIエージェントに関する懸念は、理解しやすい。
エージェントは、どんな人間よりも速く反応できる。
それは安全になるわけではない。
支出上限は、それが無視できるならほとんど意味を持たない。
承認済みのカウンターパーティーも、それを迂回できるなら保護にはならない。
プロンプトインジェクションでさえ、AIが実際の資産とやり取りを始めると深刻な問題になる。
Newtonは、それらのリスクに対して別のアプローチを取る。
重要なアクションが実行される前に、このプロトコルは、AIエージェントが何を行うことを許可されているかを定義するプログラム可能なポリシーを評価する。
開発者は支出の上限（キャップ）を設定できる。
特定のカウンターパーティーを承認できる。
トランザクションの条件や、プロンプトへの防御を定義できる。
それらのルールは、後から追加される任意のセーフガードではなく、実行の一部になる。
私が最も興味深いと思うのは、そこだ。
プロトコルは、ユーザーにAIを盲目的に信じるよう求めない。
AIが越えてはならない境界を定義するよう求める。
優れた自動化は、無制限の権限のことではない。
それは、その権限がどこから始まり、どこで終わるのかを正確に把握することにある。
そのアーキテクチャは、同じ哲学を補強する。
AI戦略はNewtonの安全なロールアップ内で実行され、そのプロセス全体を通じてポリシーの執行が検証可能なままである。同時に、このシステムはEthereumのウォレットやスマートコントラクトと互換であり続ける。開発者は、ユーザーがすでに知っているインフラを作り直すことなく、インテリジェントな認可を導入できる。
権限モデルもまた際立っている。
AIエージェントは、決して秘密鍵への無制限のアクセスを必要としない。
彼らは特定の行為に必要な権限だけを受け取る。
それらの権限は、必要に応じていつでも変更または取り消しできる。
ユーザーはコントロールを維持し、自動化は許可された範囲内でその作業を処理する。
私も、このことが開発者の競争の仕方も変えると考えている。
モデルレジストリにより、ビルダーは誰でも利用できるAI戦略を公開できる。
成功はもはや、モデルがどれほど賢く見えるかだけで定義されない。
また、そのモデルを意味のある資本で使うのに十分なだけ、人々がその周辺ルールを信頼しているかどうかによっても定義される。
もちろん、ガードレールは完璧な解決策ではない。
方針は今も人によって書かれている。
設計の不十分な認可ロジックは、欠陥のあるスマートコントラクトと同じように、新たなリスクを生み出し得る。
自律システムがより高い能力を持つようになるほど、これらの方針は永遠に固定したままではなく、継続的に改善される必要がある。
もう一つ別の課題もある。
一部の開発者は、より高いリターンを追いかけ続けるだろう。成果が注目を集めるからだ。
Newtonは、責任ある自動化のためのツールを提供できる。
エコシステムは、収益性と同じくらい信頼性を重視するビルダーに報いる必要がある。
また、ユーザーが本当に完全自動化を望んでいるのかどうかも気になる。
多くの人が、AIに財務上の意思決定を手伝わせることに抵抗がないように見える。
その資本の完全なコントロールを喜んで委ねようとする準備ができている人は、はるかに少ない。
だからこそ、Newtonのアプローチは私には現実的に感じられる。
人々が、所有権を手放さずに自動化を望むことを受け入れている。
Newton Protocolを学べば学ぶほど、将来は、人間の判断を置き換えるAIエージェントのものではないと思えてくる。
最も強力なシステムは、おそらくインテリジェントな自動化と、明確で執行可能な境界を組み合わせる。
自律的な金融が長期的に信頼を得るなら、ユーザーがコントロールと利便性のどちらかを選ばされるべきではない。
彼らは両方を維持できるはずだ。