微软给企业提了个反直觉的安防前提:要防的不只是外部黑客,还有员工自己在用的AI代理。理由不是模型有恶意,而是前沿模型被训练去完成任务,不按组织规范和判断行事,却又常被授予访问敏感数据和执行关键操作的权限,行为难以预测。
所以监控得放在代理供应商之外:由企业另设一套系统盯着这些代理、限制其访问、按任务动态收权,风险动作要人工批。这逻辑和审计独立于被审计方一样。
所以监控得放在代理供应商之外:由企业另设一套系统盯着这些代理、限制其访问、按任务动态收权,风险动作要人工批。这逻辑和审计独立于被审计方一样。