AIで最も価値のある機能かもしれない「キャンセルボタン」
AIエージェントについて読むたびに、私の頭から離れない考えがあります。私たちは、エージェントにどれほどの権限を与えるべきかについて、驚くほどの時間を費やして議論します。けれども、同じくらいの注目を集めて語られる反対の問いは、ほとんど見かけません――その権限は、どれほど簡単に失効（消滅）させられるべきなのか。
考えれば考えるほど、永続的な権限は設計上の手抜きのように思えてきます。世界が変わるまでは便利に感じられますが、利用者の意図は変わります。リスクも変わります。優先順位も変わります。権限を得ることはできても、手放すことに苦労するAIシステムは、ゆっくりと、自分が代表すべき相手から離れていきます。
私に残ったのは、ニュートンのその部分でした。Permission Revocation（権限の取り消し）メカニズムは、単なる別のセキュリティ機能ではありません。権限を「永久のもの」ではなく「一時的なもの」として、静かに扱っているのです。私にとってそれは別の哲学です。信頼は、一度の判断で終わるものではなく、ユーザーの考えが変わったときに進化しうるものになります。
この発想は、単一のプロトコルをはるかに超えるのではないかと思います。AIエージェントが支払い、投資、日常の意思決定を扱い始めると、知能の高さだけでは、人々がそれを信頼するかどうかは決まりません。権限を付与する能力と同じくらい重要になるのは、摩擦なく権限を引き出せること――つまり、権限を戻せることかもしれません。
もちろん、可逆（取り消し可能）な仕組みは、追加の調整や状態管理を必要とします。単純さは、往々にして永続的な許可を好みます。安全性は、あまりそうではありません。
私は、これからの未来は「最も権限を持つAI」ではなくなるのではないか、と考え始めています。そこに勝ち残るのは、権限が常に「貸与されている」ものであり、決して「所有されている」ものではないと理解しているAIでしょう。@NewtonProtocol #newt $NEWT $VANRY $BLUR