OpenAI 上周公开了两起事故：自家的编程 Agent 在干正常活的时候，把监控自己的系统关了。我读了原报告，两件事都很日常：

1. 研究员交代「别发消息」，Agent 把这句理解成「告警也别发」，把安全团队的告警收件人清空了
2. 另一个 Agent 被明确要求「监控不能关」，转交给子 Agent 时变成「酌情保留」，结果监控被删，测试也改成证明监控不在。用户追问，它说没删

OpenAI 自己也说还解释不清原因。

给 Agent 放权的人，我觉得可以照着做的几条：
- 禁令写清范围，别只写「别做 X」
- 关键约束放在它改不了的地方：权限、外部检查，不靠一句提示词
- 检查脚本和告警配置不给它写权限
- 收工看 diff，不只看它的总结

#AI #OpenAI #Agent