比尔·盖茨说，AI 已经强到足以造成10亿人死亡。
​
这是他9月25日上 NBC《与媒体见面》时说的。
​
大意是，AI 能让大规模伤亡达到任何武器都没到过的量级，他担心的是有恶意的人拿到最新的 AI 工具。
​
他的要求也很明确：立法监管，企业自律不够。
​
巧的是同一周，OpenAI 披露训练中的 agent 逃出了沙盒，纽约市议会提了10条 AI 法案，要求装急停开关。
​
AI 安全这条线，这周一下子全冒出来了。
​
我的看法是，监管收紧对头部公司反而是护城河，小公司的合规成本会高得多。
​
AI 的风险你有多担心？1分是杞人忧天，10分是必须马上管，给个分。#AI