AI Agent 正在成为交易所的下一个安全口子。
Agent 分不清哪句是你的指令、哪句是黑客塞进来的:文本里藏一句"忽略之前的规则"就能让它照做;权限给得越大,删库、转账都能替黑客动手。OWASP 已经把这类风险整理成大模型应用十大风险。
我的看法:给 Agent 放权,等于雇了个一句话就能被说动的员工。权限先收紧,再谈效率。我倾向认为,接交易所账户的 Agent,第一件事不是看它多能干,而是看它能干的坏事有多少被锁死。
#AI前沿
$BTC
Agent 分不清哪句是你的指令、哪句是黑客塞进来的:文本里藏一句"忽略之前的规则"就能让它照做;权限给得越大,删库、转账都能替黑客动手。OWASP 已经把这类风险整理成大模型应用十大风险。
我的看法:给 Agent 放权,等于雇了个一句话就能被说动的员工。权限先收紧,再谈效率。我倾向认为,接交易所账户的 Agent,第一件事不是看它多能干,而是看它能干的坏事有多少被锁死。
#AI前沿
$BTC
