让一个智能系统变得危险的最快方式,就是在给它权限之前先给它钱……说实话,当我看到 @NewtonProtocol now 时,这是我脑海里冒出来的第一件事。大家一直在谈论 AI 代理,好像难点在于教它们去寻找交易、转移资金、重新平衡仓位,或者在我们睡觉时工作。但我不认为“智能”已经是主要问题了。是“访问权限”。一个代理可以非常聪明,却仍然会误读一行、相信错误的数据,或在市场早已变化之后仍遵循旧计划。而一旦它身后对应的是一个钱包,那种小小的失误就可能在用户甚至还没打开应用之前,就变成真实交易。
我没有被卷进 <c-35/>,并不是因为某个“大型 AI 承诺”或图表疯狂乱动;更准确地说,是这个尴尬又琐碎的小问题一直在烦我……如果软件真的开始动用到我们的真钱,谁来解释它一开始为什么就被允许这么做了??我不是指交易做完之后,大家打开浏览器装作很懂的那一刻;我是指在钱移动之前,在错误变成永久之前,在代理用机器语言说“哎呀”然后把亏损留给用户之前。
我一直把 AI 代理想成这样:就像有人随手把家里每一把钥匙都交给陌生人,只是因为他们跑得快……而说实话,这在我看来是反过来的。能打开门并不意味着你就应该被允许进每一间房,随便拿走东西然后离开,而不接受任何人的检查。但这大概就是 AI 金融正在走向的方向——如果我们只关心代理能做什么,却从不追问它到底被允许做到了什么。
我用过 AI 做一些简单的事,就连那种情况下,它也可能误解一句话里一个小小的指令,然后就继续往下走,仿佛它完全确定一样(笑)。所以当人们谈论“代理在用户睡着时控制钱包、移动代币、改变金库仓位或签署链上操作”时,我看到的就不只是便利。我看到的是:把可能的错误变成真正会和真金白银绑定在一起的风险。
我对 AI 智能体感到害怕的地方并不是它们会犯错……人类一直都在犯错,哈哈。可怕的是:错误的想法如果还附带“钱包权限”,那就会变成现实。我以前以为智能体要想有用,就必须拥有完全访问权限,比如它找到金库路线或发现某种收益动作,就让它赶紧执行,别拖慢它。但现在我不太这么看。权限过高的聪明智能体,只是在等待合适的错误输入,变成一场快速的失误。也许它会被诱骗,也许提示词变得一团糟,也许模型幻觉出某个看起来“很好的”动作,也许这条路线看起来很盈利,但终点并不是我从来都不希望它去碰的东西……而如果钱包权限是开放的,那么这个坏主意就会变成真实交易。
但我也觉得这点特别容易被误解。如果有人听到“policy-gated vault(策略门控的金库)”,他们可能会以为金库里的每一件事都经过了 Newton 的检查。但并不总是这样。如果存款和取款仍然是走金库自身的正常路径,那么它们是由金库“自己”的逻辑来保护的,并不是自动由 Newton 来保护。保护是跟着那条会经过 Shield 的路径走的。没有 Shield 路径,就没有 Newton 检查。简单,但人们可能会错过
因为大多数时候,我并不只是想“发送一笔交易”——那太简单了。我想在脑中设定条件去做事:要交换,但价格不能滑得太多;要借贷,但风险不能变得很糟;让一个智能体行动,但要在检查过一些规则之后才执行;转移资金,但不能涉及错误的授权或错误的路径。老实说,一条普通链只会看到交易本身,并不总是理解它背后的真实原因 这就是为什么我觉得牛顿的策略(policy)层很有意思。它不只是又一个“速度故事”,也不是又一个 AI 智能体的标题,更像是把用户的规则更靠近行动本身。与其让每个应用都一次又一次地重复构建自己的“小护栏”,牛顿是在说:也许在执行的一部分,应该先检查意图 不过是的,我不觉得难点只在代码上。开发者的习惯是真实存在的。