以前は、権限は人々が積極的に管理するものだと思っていました。ソフトウェアがどのように動くのかを見ていくほど、多くの権限は単に見えなくなるだけなのだと気づきました。

最初の承認はいつも重要に感じます。人はプロンプトを読み、ためらい、場合によっては住所を二度見するかもしれません。
10回目の承認は、いつも通りのことに感じます。
やがて、権限そのものは注意の外に消えていく一方で、それによって可能になる行動は静かにバックグラウンドで続いていきます。

だからこそ、認可の本当の目的は「悪い行動を止めること」ではないのではないか、と私には思えてきます。
あるいは、古い判断が新しい結果に今も影響し続けることを、人々に思い出させることなのかもしれません。
AIが私たちの代わりにより頻繁に行動し始めると、エージェントに何を許可するかを決めることよりも、もっと難しい問題は「なぜ最初に許可したのか」を覚えていることかもしれません。

視点のこの変化は、その理由の1つとしてNewton Protocolが私の関心を引いたのです。

@NewtonProtocol
$NEWT #Newt