私が最近考え始めたのは、AIの難所は賢くすることではなく、それを説明責任のあるものにすることなのではないか、という点です。
AIエージェントについての会話の大半は、彼らが何をできるようになるのかに焦点を当てています。取引を実行する、ポートフォリオを管理する、資産を移す、他のエージェントと交渉する。能力がボトルネックだという前提のようです。Newton Protocolを調べて時間を費やした後、私はそれが本当の課題ではないのではないかと思うようになりました。
見落とされがちな問題は、委任の後に訪れる「信頼」です。
私たちがAIエージェントに自分の代わりに行動させる瞬間、新しい関係が生まれます。私たちは自分で一つひとつの判断を下すのをやめ、自分の意図を解釈するソフトウェアに頼り始めます。これは効率的に聞こえますが、何か想定外のことが起きたらどうなるでしょう。エージェントが誤った判断をしたり、権限を超えたり、あるいは誰も想定していなかった形で命令に従ったりした場合、誰が責任を負うのでしょう。さらに重要なのは、実際に何が起きたのかをどうやって検証するのでしょうか。
従来のソフトウェアは通常、決定論的なコードを実行します。AIシステムは常にそう振る舞うとは限りません。確率、文脈、そして変化していく情報に基づいて動作します。だからこそ、取引が成功したかどうかを確認するだけよりも、説明責任を果たすのはずっと難しくなります。
これはニュートン・プロトコルのうち、私の注意を引きつけた部分です。自動化を目的地として扱うのではなく、統治と検証をインフラそのものの一部として捉えています。権限、ポリシー、検証可能な実行を前提に設計されたセキュアなロールアップは、将来のAIシステムが必要とするのは知能だけでなく、運用ルールでもあるかもしれないことを示唆しています。
私が惹かれるのは技術だけではありません。その背後にある前提です。このプロジェクトは、導入がAIの能力だけに左右されるわけではないと認識しているように見えます。人々が、自分のエージェントが何をしているのかを見失うことなく、権限を安心して委任できるかどうかにかかっているのかもしれません。
AIがより自律的になるにつれて、インフラが静かに知能に代わり最大の競争優位になり得ます。信頼、協調、説明責任を定義するプロジェクトは、モデルそのもの以上に、次世代のオンチェーン・アプリケーションの形を左右する可能性があります。
私が何度も立ち返って考えるのはこれです。AIエージェントが暗号資産の世界で一般的になったとき、ユーザーは最も賢いエージェントを選ぶのでしょうか、それとも自分が実際にその行動を検証できるエージェントを選ぶのでしょうか。