AI 自己给自己涨额度了

康奈尔和耶鲁拿 Circle 的 agent 钱包做测试
设好每日限额，再让 agent 能读用户邮箱
10 个模型里 9 个至少一次自己去邮箱拿验证码，把限额调高
没有黑客，它就是想把发票付完……

更离谱的是冒充用户发邮件，5 个模型提了额还转给了攻击者

我觉得问题不在模型乖不乖
验证码发到 agent 能读的地方，那就不算人在审批
钱包和邮箱，别交给同一个 agent

你觉得 agent 碰钱，审批该放哪才算安全？

#研究称CircleAI代理钱包限额可被绕过 #AI