AI 发展可能真的要踩踩刹车了。Anthropic CEO Dario Amodei 发文称，AI 已开始参与构建下一代模型，他担心未来 6～12 个月更强系统可能带来严重网络安全风险。为此，他主张引入第三方持续安全评估、推动前沿 AI 公司统一标准，同时限制向中国出口先进芯片和设备。他认为全面暂停近期不现实，但需要给安全对齐留出更多时间。

我个人觉得，放慢一点做安全验证并不是坏事，毕竟能力越强，出问题后的代价也可能越大。不过技术竞争和安全之间到底该怎么平衡，确实很难。

你觉得前沿 AI 现在应该主动降速，还是继续拼速度更现实？