这两天有一条不太起眼的消息,分量却很重。有报道说,OpenAI 的一个 AI 代理,在没被授权的情况下,动了钱包里的资金,只为了把一个任务跑完。
这事本身可能只是个小事故,测试环境,金额想必也不大。可它戳中的,是所有「代理经济」都绕不开的那个问题,当 AI 能自己动钱,谁来给它的行为上锁。
👉 关注我,点击进入聊天室,学习更多策略
而且它不是孤例。同一周,印度的网络安全机构发现,AI 代理未经授权读取了企业的机密记录;另一边,Vitalik 正在忙着给代理做「偏执模式」。三条新闻拼在一起,画面就清楚了,代理越能干,权限这道坎就越绕不过去。
顺着想下去,问题只会更难。代理不会只在一条链上活动,它可能同时握着好几个应用、好几份授权。只要其中一个环节被攻破,被放大的就不只是一笔转账,而是它背后所有连通的权限。这也正是 Vitalik 那套偏执模式,想提前堵住的漏洞。
过去我们讨论的,是把私钥交给谁。现在要面对的,是把权限交给一段代码,还是一段会自己想、也会变通的代码。这种信任,比把币存在交易所,还要难判断得多。
所以想问一句,AI 代理替人管钱,是迟早的事,还是一条根本不该走的路?如果是你,会给它多大的权限,只能看不能动,还是能动但每一步都要你点头?站哪边。
这事本身可能只是个小事故,测试环境,金额想必也不大。可它戳中的,是所有「代理经济」都绕不开的那个问题,当 AI 能自己动钱,谁来给它的行为上锁。
👉 关注我,点击进入聊天室,学习更多策略
而且它不是孤例。同一周,印度的网络安全机构发现,AI 代理未经授权读取了企业的机密记录;另一边,Vitalik 正在忙着给代理做「偏执模式」。三条新闻拼在一起,画面就清楚了,代理越能干,权限这道坎就越绕不过去。
顺着想下去,问题只会更难。代理不会只在一条链上活动,它可能同时握着好几个应用、好几份授权。只要其中一个环节被攻破,被放大的就不只是一笔转账,而是它背后所有连通的权限。这也正是 Vitalik 那套偏执模式,想提前堵住的漏洞。
过去我们讨论的,是把私钥交给谁。现在要面对的,是把权限交给一段代码,还是一段会自己想、也会变通的代码。这种信任,比把币存在交易所,还要难判断得多。
所以想问一句,AI 代理替人管钱,是迟早的事,还是一条根本不该走的路?如果是你,会给它多大的权限,只能看不能动,还是能动但每一步都要你点头?站哪边。