讓一個智能系統變得危險的最快方式,就是在給它權限之前先給它錢……說實話,當我看到 @NewtonProtocol now 時,這是我腦海裏冒出來的第一件事。大家一直在談論 AI 代理,好像難點在於教它們去尋找交易、轉移資金、重新平衡倉位,或者在我們睡覺時工作。但我不認爲“智能”已經是主要問題了。是“訪問權限”。一個代理可以非常聰明,卻仍然會誤讀一行、相信錯誤的數據,或在市場早已變化之後仍遵循舊計劃。而一旦它身後對應的是一個錢包,那種小小的失誤就可能在用戶甚至還沒打開應用之前,就變成真實交易。
我沒有被捲進 <c-35/>,並不是因爲某個“大型 AI 承諾”或圖表瘋狂亂動;更準確地說,是這個尷尬又瑣碎的小問題一直在煩我……如果軟件真的開始動用到我們的真錢,誰來解釋它一開始爲什麼就被允許這麼做了??我不是指交易做完之後,大家打開瀏覽器裝作很懂的那一刻;我是指在錢移動之前,在錯誤變成永久之前,在代理用機器語言說“哎呀”然後把虧損留給用戶之前。
我一直把 AI 代理想成這樣:就像有人隨手把家裏每一把鑰匙都交給陌生人,只是因爲他們跑得快……而說實話,這在我看來是反過來的。能打開門並不意味着你就應該被允許進每一間房,隨便拿走東西然後離開,而不接受任何人的檢查。但這大概就是 AI 金融正在走向的方向——如果我們只關心代理能做什麼,卻從不追問它到底被允許做到了什麼。
我用過 AI 做一些簡單的事,就連那種情況下,它也可能誤解一句話裏一個小小的指令,然後就繼續往下走,彷彿它完全確定一樣(笑)。所以當人們談論“代理在用戶睡着時控制錢包、移動代幣、改變金庫倉位或簽署鏈上操作”時,我看到的就不只是便利。我看到的是:把可能的錯誤變成真正會和真金白銀綁定在一起的風險。
我對 AI 智能體感到害怕的地方並不是它們會犯錯……人類一直都在犯錯,哈哈。可怕的是:錯誤的想法如果還附帶“錢包權限”,那就會變成現實。我以前以爲智能體要想有用,就必須擁有完全訪問權限,比如它找到金庫路線或發現某種收益動作,就讓它趕緊執行,別拖慢它。但現在我不太這麼看。權限過高的聰明智能體,只是在等待合適的錯誤輸入,變成一場快速的失誤。也許它會被誘騙,也許提示詞變得一團糟,也許模型幻覺出某個看起來“很好的”動作,也許這條路線看起來很盈利,但終點並不是我從來都不希望它去碰的東西……而如果錢包權限是開放的,那麼這個壞主意就會變成真實交易。
但我也覺得這點特別容易被誤解。如果有人聽到“policy-gated vault(策略門控的金庫)”,他們可能會以爲金庫裏的每一件事都經過了 Newton 的檢查。但並不總是這樣。如果存款和取款仍然是走金庫自身的正常路徑,那麼它們是由金庫“自己”的邏輯來保護的,並不是自動由 Newton 來保護。保護是跟着那條會經過 Shield 的路徑走的。沒有 Shield 路徑,就沒有 Newton 檢查。簡單,但人們可能會錯過
因爲大多數時候,我並不只是想“發送一筆交易”——那太簡單了。我想在腦中設定條件去做事:要交換,但價格不能滑得太多;要借貸,但風險不能變得很糟;讓一個智能體行動,但要在檢查過一些規則之後才執行;轉移資金,但不能涉及錯誤的授權或錯誤的路徑。老實說,一條普通鏈只會看到交易本身,並不總是理解它背後的真實原因 這就是爲什麼我覺得牛頓的策略(policy)層很有意思。它不只是又一個“速度故事”,也不是又一個 AI 智能體的標題,更像是把用戶的規則更靠近行動本身。與其讓每個應用都一次又一次地重複構建自己的“小護欄”,牛頓是在說:也許在執行的一部分,應該先檢查意圖 不過是的,我不覺得難點只在代碼上。開發者的習慣是真實存在的。