全球一起放慢 AI 的窗口,在博弈论上已经被关掉了。

这条 AI on Air 精选切片摘自 The Cognitive Revolution Podcast 近期节目;讲话人是 David Dalrymple,英国研发资助机构 ARIA 的项目主管。

▷ 他原本在 2022 至 2025 年的工作前提是:先形成安全使用 AI 的方法,再通过国际协调让所有玩家遵守;现在认为这不再可行,因路透 2025 年底报道的中国突破 ASML 瓶颈计划,已推翻「大家一起慢下来」的博弈结构。

▷ 真正好的安全论证很简单:不要造。若灾难性风险被公认为 50% 以上,协调会很容易;但自 2024 年以来风险感知在下降,竞赛对许多公司和政府已成占优策略,除非出现一次大型警示事件。

▷ 他仍看到可协调的缝隙在滥用侧:美中可约定高能力模型不向公众开放,只给经审查机构使用;这让双方继续竞速,同时换取对灾难性风险的韧性红利。🪁