AI Agent 越能浏览网页、读取文件和调用工具,提示注入的风险就越接近现实中的“社会工程攻击”。
真正有效的防护不能只靠模型识别恶意文本,还需要叠加权限最小化、文件隔离、网络出口控制和操作审计。安全重点正从“模型会不会被骗”,转向“被骗后能造成多大影响”。
#AI安全 #人工智能 #Agent