人工智能中最有價值的功能可能是“取消”按鈕
每當我閱讀有關 AI 代理的內容時，總有一個念頭反覆把我拉回。我們花了驚人的時間討論：一個代理應該被授予多少權限。我卻很少看到有人把相反的問題給予同等的關注：這種權限應該有多容易被撤銷？
我想得越多，就越覺得“永久權限”只是一個設計捷徑。它在世界不變時確實省事，但一旦世界改變就會顯得不合時宜。用戶意圖會變化，風險會變化，優先級也會變化。一個只能不斷獲得權限、卻難以失去權限的 AI 系統，會慢慢地偏離它本應代表的那個人。
那部分讓我印象深刻的是牛頓的思路。它的“權限撤銷（Permission Revocation）”機制並不只是另一個安全功能。它安靜地把“權限”當作暫時的東西，而不是永久的東西。在我看來，這是一種不同的理念。信任不再是一次性的決定，而是能隨着用戶的想法變化而不斷演進。
我認爲，這個想法遠不止侷限於某一種協議。當 AI 代理開始處理支付、投資以及日常決策時，單靠“智能”並不能決定人們是否信任它們。能夠在毫無摩擦的情況下撤回權限，可能會和最初授予權限的能力同樣重要。
當然，可逆系統會引入額外的協調與狀態管理。簡化通常更偏愛永久權限，而安全性卻很少如此。
我開始覺得，未來未必屬於權限最多的 AI。它將屬於那個明白自己權限始終是借來的、從未真正擁有的 AI。@NewtonProtocol #newt $NEWT $VANRY $BLUR
每當我閱讀有關 AI 代理的內容時，總有一個念頭反覆把我拉回。我們花了驚人的時間討論：一個代理應該被授予多少權限。我卻很少看到有人把相反的問題給予同等的關注：這種權限應該有多容易被撤銷？
我想得越多，就越覺得“永久權限”只是一個設計捷徑。它在世界不變時確實省事，但一旦世界改變就會顯得不合時宜。用戶意圖會變化，風險會變化，優先級也會變化。一個只能不斷獲得權限、卻難以失去權限的 AI 系統，會慢慢地偏離它本應代表的那個人。
那部分讓我印象深刻的是牛頓的思路。它的“權限撤銷（Permission Revocation）”機制並不只是另一個安全功能。它安靜地把“權限”當作暫時的東西，而不是永久的東西。在我看來，這是一種不同的理念。信任不再是一次性的決定，而是能隨着用戶的想法變化而不斷演進。
我認爲，這個想法遠不止侷限於某一種協議。當 AI 代理開始處理支付、投資以及日常決策時，單靠“智能”並不能決定人們是否信任它們。能夠在毫無摩擦的情況下撤回權限，可能會和最初授予權限的能力同樣重要。
當然，可逆系統會引入額外的協調與狀態管理。簡化通常更偏愛永久權限，而安全性卻很少如此。
我開始覺得，未來未必屬於權限最多的 AI。它將屬於那個明白自己權限始終是借來的、從未真正擁有的 AI。@NewtonProtocol #newt $NEWT $VANRY $BLUR