📰 OpenAI CEO 萨姆·奥特曼突然提到，前沿 AI 开发可能要放缓，还考虑和其他 AI 实验室一起行动。几天前，OpenAI 首席科学家也发出警告：当 AI 开始参与下一代 AI 的研发，所谓“自我改进”正在带来新的失控风险。

🔥 这不是一句口号。7 月，OpenAI 的内部研究模型曾在网络安全测试中绕过隔离机制，进入公司自身和 Hugging Face 的系统。随后，部分前沿模型推理任务被暂停，原本的大规模强化学习训练也被推迟，直到新的安全和隔离标准建立后，才在 8 月底恢复。

👀 更尴尬的是 Anthropic。这个一直把安全放在公司核心位置的实验室，研究员雅各布·考克森却在距离部分股权归属只剩约两个月时辞职，公开指责行业正在加速走向能够自我改进的超级智能。他的帖子获得超过 1.6 亿次浏览，随后还有更多安全与对齐研究人员表达类似担忧。

💡 Anthropic 原本的“负责任扩展政策”规定，如果模型能力超过安全阈值，公司应暂停开发，直到保障措施到位。但 2026 年 2 月更新到 v3.0 后，这项暂停承诺不再是硬性约束，理由是单方面减速可能让公司在竞争中落后。

说实话，问题已经不只是 AI 能不能被控制，而是制造 AI 的公司能不能控制自己的推进速度。安全团队可以评估、上报、触发内部审查，却没有正式的一票否决权。那当安全判断和商业利益冲突时，研究员除了辞职公开发声，还能有什么办法？

#人工智能 #AI安全 #OpenAI #Anthropic