📰 27岁的AI研究员 Jacob Coxon 从 Anthropic 辞职了。过去三年，他先后在 OpenAI 和 Anthropic 参与大模型预训练，也是 GPT-4o 官方贡献者、GPT-4.5 核心贡献者。

🔥 他离开的原因有点吓人：他认为这些公司正加速研发能够自我改进的超级智能，相当于拿所有人的生命下注。他还称，一些真正参与前沿AI研发的人，私下相信人类可能在这个十年结束前因失控而灭绝。

👀 更微妙的是，Anthropic 的对齐负责人公开支持他的判断，并认为十年内发生严重后果的概率超过10%。另外两名曾在 Anthropic 从事安全研究和可扩展监督的人，也认可他对行业现状的描述。

说实话，10%到底准不准，没人能证明。但一个参与过核心模型训练的人，宁愿辞职甚至考虑离开AI行业，也不愿继续推进，这个动作本身就很有分量。

🤔 如果你就在前沿模型团队，听到同事判断十年内失控概率超过10%，你会留下继续做安全，还是直接辞职？

#人工智能 #OpenAI #Anthropic #AI安全