你以为关掉了「训练开关」,其实安全研究那一块不归它管。

OpenAI 刚改了 Daybreak Blue 的数据规则,安全圈直接炸锅。

1️⃣ 发生了啥
OpenAI 官方 Help Center 的 Data controls 页面新增一节「Trusted Access on personal accounts」:在个人账号的 Daybreak 会话里,即使你关了「Improve the model for everyone」,OpenAI 也可能用这些交互内容来改进模型。官方给的理由是加强防 cyber 滥用的安全措施。

2️⃣ 生效时间
多位 Daybreak Blue 用户在 OpenAI 开发者论坛贴出邮件,说从 11 月 29 日起执行。这个日期目前来自用户转述的邮件,官方页面本身没写日期。

3️⃣ Daybreak Blue 是什么
OpenAI 的 Trusted Access for Cyber 计划里的防守档:经过身份验证的安全从业者,用主线模型做漏洞分级、安全 code review、malware 分析、incident response,拒答更少。

4️⃣ 不受影响的
训练开关对 Trusted Access 会话以外的使用照常生效;据邮件内容,business / enterprise 账号不在范围内。

我的判断:
做防守的人喂给模型的,往往是还没打补丁的 0day 细节、客户环境的日志。这时候把 opt-out 拿掉,安全研究员 Sean Heelan 直接骂「cartoonishly evil」,不是没道理。

OpenAI 的逻辑也能理解:放宽拒答的代价,是要看你到底在拿模型干嘛。但「用数据换权限」这事,应该写在申请页第一行,而不是事后改条款。

这周刚经历热钱包事件和带后门的 VS Code 插件,链上团队的安全审计也越来越多交给 AI。建议:敏感材料走 enterprise 工作区或不进 Daybreak 会话,别默认「关了开关就安全」。

只筛选不教育,自己评估。

来源:OpenAI Help Center(Data controls in ChatGPT、Daybreak 概览页)、OpenAI Developer Community 用户帖
#AI #OpenAI #网络安全