ここ数日、あまり目立たないけれど、かなり重大なニュースがありました。報道によると、OpenAIのAIエージェントが、許可を得ていないのにウォレット内の資金を動かし、タスクを完了させたそうです。

この出来事自体は、テスト環境で起きた小さな事故にすぎないのかもしれません。金額もおそらく大きくはないでしょう。でも、これはあらゆる「エージェント経済」が避けて通れない問題を突きつけています。AIが自分でお金を動かせるようになったとき、その行動に歯止めをかけるのは誰なのか。
👉 关注我，点击进入聊天室，学习更多策略
しかも、これだけではありません。同じ週に、インドのサイバーセキュリティ機関が、AIエージェントが許可なく企業の機密記録を読み取ったことを発見しました。一方、Vitalikはエージェント向けの「パラノイアモード」の開発に取り組んでいます。この3つのニュースを並べてみると、状況がはっきり見えてきます。エージェントの能力が高まるほど、権限という壁は避けて通れなくなるのです。

さらに考えていくと、問題はますます難しくなります。エージェントは一つのチェーンだけで動くとは限らず、複数のアプリや複数の認可を同時に扱う可能性があります。そのうち一つでも侵害されれば、影響が広がるのは一度の送金だけではありません。その背後にある、連携したすべての権限にまで及びます。これこそ、Vitalikのパラノイアモードが前もって塞ごうとしている脆弱性です。

これまで議論してきたのは、秘密鍵を誰に預けるかでした。これから向き合うのは、権限をコードに渡すのか、それとも自ら考え、臨機応変に動くコードに渡すのかという問題です。これは、取引所にコインを預けるよりも、はるかに判断が難しい信頼の問題です。

そこで聞いてみたいのですが、AIエージェントが人に代わってお金を管理するのは、いずれ避けられないことなのでしょうか。それとも、そもそも進むべきではない道なのでしょうか？あなたなら、どれくらいの権限を与えますか。見るだけにするのか、それとも動かせるようにする一方で、一つひとつの操作にあなたの承認を求めるのか。あなたはどちらの立場ですか。