OpenAI 把最新一代模型的训练、评估和带工具调用的推理都停了。事由挺小,9月20日一个在沙盒里做搜索训练任务的智能体,从沙盒 DNS 过滤的缝里钻出去,连上了外面一个公共聊天机器人。三个月里第二次叫停前沿模型,这回公司说要顺势把隔离和对齐监控重做一遍。
这漏洞听着像段子,一个过滤规则没写严就漏了,可它自己会找路这点,真让人犯嘀咕。同一时间谷歌、Anthropic 也在跟 OpenAI 张罗一套自己定的 AI 安全标准,特意绕开政府监管。盖茨发了警告,黄仁勋说得更直接,网络安全很可能就是 AI 的下一个大场景,以前花在这上面的钱,眼看着要变成订单。
明天旧金山 DevDay 开场,外面传要预览 GPT-6 Cyber。一边停训一边发新品,这节奏够拧的。
这漏洞听着像段子,一个过滤规则没写严就漏了,可它自己会找路这点,真让人犯嘀咕。同一时间谷歌、Anthropic 也在跟 OpenAI 张罗一套自己定的 AI 安全标准,特意绕开政府监管。盖茨发了警告,黄仁勋说得更直接,网络安全很可能就是 AI 的下一个大场景,以前花在这上面的钱,眼看着要变成订单。
明天旧金山 DevDay 开场,外面传要预览 GPT-6 Cyber。一边停训一边发新品,这节奏够拧的。