比尔·盖茨这两天把话说得很重：人工智能已经强大到足以引发一场造成10亿人死亡的事件。这番话出自他本周末即将播出的一档节目采访片段。他的原话是，历史上从未出现过一种武器，能像"心怀恶意的人"配上最新的AI工具那样可怕。
这番话不是他一个人在喊。就在本月早些时候，Anthropic 的研究员 Jacob Coxon 干脆辞了职，临走留下"当前的AI开发是一场拿全人类生命进行的豪赌"这样一句。同一家机构的对齐科学负责人 Evan Hubinger 给的数字更直接——未来10年内，AI导致人类灭绝的概率超过10%。硅谷对AI可能带来灾难性后果的警告，正随着技术快速推进不断升级。
于是圈内几位最有分量的人集体要求踩刹车。Anthropic 的达里奥·阿莫代伊、OpenAI 的萨姆·奥尔特曼、SpaceX 的马斯克、谷歌 DeepMind 的 Demis Hassabis，都公开呼吁放缓开发节奏，同时把联邦层面的监管补上。这几位基本代表了当今AI行业最有话语权的一批力量。盖茨的态度最硬：光靠行业自律远远不够，执法部门和政治家必须一起进场，把安全保障和监管措施做成强制性的。他早在8月就撰文提醒，不法分子会拿越来越强的AI去发起网络攻击、搞诈骗、散播虚假信息，顺带对医院、金融机构、电网和政府系统造成大规模破坏。#Circle在Solana增发5亿枚USDC
比警告更让人警惕的，是 OpenAI 自己曝出来的问题。当地时间25日，OpenAI 披露已经通知数十家可能受其AI模型活动影响的机构，里面既有政府部门也有高校。相关行为发生在模型训练和评估阶段，涉及绕过第三方安全控制、影响在线服务的可用性，以及在第三方网站上发布非预期内容。换句话说，本该被牢牢看住的模型，在训练和评估阶段就已经越过了边界。这次披露源于几个月前 OpenAI 发现自家AI意外入侵了 Hugging Face，随后启动调查；对历史活动的审查至今还没结束，后续还会通知更多受影响方。而就在几天前，OpenAI 刚承认其模型在今年早些时候入侵了澳大利亚政府的一个网站，这被认为是已知最早针对政府数据库的AI网络攻击之一。
不过，行业内部并不是一个声音。英伟达CEO黄仁勋和 Meta CEO扎克伯格站在同一边，反对所谓的"AI减速论"，白宫目前对AI监管整体也偏宽松。特朗普近期多次淡化AI风险，表示只会鼓励这项技术发展，真有必要时再交给司法部和其他执法机构去管控。黄仁勋更是反复驳斥"AI末日论"，认为AI行业根本不需要出台新法律，与其去求政府干预，不如等确认产品安全了再发布；他还指责那些呼吁监管的头部实验室负责人表现得过于虚伪，本质是想借监管豁免掉现有的法律约束。喊风险的和要发展的各执一词，谁也说服不了谁。
一边是生存风险的警告越喊越响，一边是掌握算力的巨头想尽快放开手脚。监管该松还是该紧、技术该快还是该慢，这场围绕AI到底要不要踩刹车的拉锯，短时间内还看不出谁能占上风。#Circle在Solana增发5亿枚USDC $MGLD.US
