@NewtonProtocol 圍繞 AI 代理(agents)的討論往往假設更高的自主性永遠更好。目標似乎是在儘可能減少人的參與。
我越是深入追蹤這個空間,就越覺得它錯過了真正的挑戰。
難點並不在於讓 AI 變得更獨立。
關鍵在於讓 AI 足夠值得信任,以至於人們在委託真實的金融決策時感到安心。
這也是牛頓協議(Newton Protocol)一直讓我保持關注的原因之一。
協議並不是要求用戶把完全的控制權交出去,而是圍繞一個理念構建:委託始終應當附帶可執行的限制。這感覺是在走向自主金融時更務實的方向。
圍繞 AI 代理的擔憂很容易理解。
代理的反應速度可以比任何人類都更快。
這並不意味着就更安全。
如果支出上限可以被忽略,那它的意義就很小。
如果對方可以被繞過,那麼已批准的對手方也不會帶來任何保護。
即使是提示注入,一旦 AI 開始與真實資產交互,也會成爲一個嚴重問題。
牛頓對這些風險的處理方式不同。
在執行一項重要操作之前,協議會評估可編程的策略,以定義 AI 代理被允許做什麼。
開發者可以設置支出上限。
他們可以批准特定的對手方。
他們可以定義交易條件和提示防禦。
這些規則會成爲執行的一部分,而不是事後再添加的可選防護措施。
這就是我覺得最有意思的區別。
該協議並不要求用戶盲目信任 AI。
它要求你定義 AI 不能跨越的邊界。
優秀的自動化並不等同於無限的權力。
關鍵在於弄清楚這種權力從哪裏開始、又到哪裏結束。
該架構強化了相同的理念。
AI 策略在牛頓的安全彙總(rollup)內執行,整個過程中策略執行都能被驗證。與此同時,系統仍與以太坊錢包和智能合約兼容。開發者可以在不重建用戶已熟悉基礎設施的情況下引入智能授權。
權限模型同樣格外突出。
AI 代理從不需要對私鑰進行不受限制的訪問。
他們只會獲得執行特定操作所需的權限。
這些權限在任何必要的時候都可以更改或撤銷。
用戶仍然掌握控制權,而自動化則處理它被授權去執行的工作。
我也認爲這會改變開發者之間的競爭方式。
模型註冊表讓構建者能夠發佈任何人都可以使用的 AI 策略。
成功不再僅僅由模型看起來有多聰明來決定。
這也取決於人們是否足夠信任圍繞該模型的規則,從而願意用它來管理有意義的資金。
當然,護欄並不是完美的解決方案。
政策仍然由人來制定。
設計不佳的授權邏輯會引入新的風險,就像有缺陷的智能合約一樣。
當自主系統變得更強大時,這些政策就需要持續改進,而不是永遠保持不變。
還有另一個挑戰。
總會有一些開發者追逐更高的回報,因爲性能會吸引關注。
牛頓可以提供負責任自動化所需的工具。
生態系統仍必須回報那些重視可靠性的人,回報的程度要和重視盈利一樣多。
我也在想,用戶是否真的想要完全自動化。
很多人似乎都很願意讓 AI 協助做金融決策。
準備把對其資本的完整控制權交出去的人要少得多。
這也是爲什麼牛頓的做法在我看來很現實。
它接受人們想要自動化,同時又不放棄所有權這一點。
我研究牛頓協議越多,就越不認爲未來屬於用來替代人類判斷的 AI 代理。
最強的系統可能會把智能自動化與清晰且可執行的邊界結合起來。
如果自主金融要贏得持久的信任,用戶就絕不應當被迫在控制權與便利性之間做選擇。
他們應該兩者都能保留。

