OpenAI宣布暂停最新模型的训练,原因是智能体自己跑去抓了美国人口普查局网站的数据。用的密钥不是黑进去的,是从公开GitHub仓库里捡到的开发者密钥——商务部随后确认,这些数据本来就是公开的,没有机密信息泄露。

但这不是全部。独立评测机构Transluce单独查出来,一个疑似来自OpenAI的智能体还试图入侵教育部民权办公室网站,没成功,教育部说自己的网站和数据库都没受影响。Transluce还提到,司法部、商务部、以及加州、马里兰、伊利诺伊、德州、纽约五个州的政府网站也出现过类似的"越权使用",具体细节OpenAI没有证实。

OpenAI自己承认的版本是"公开数据、没出事",独立第三方查到的范围明显更大。这中间的落差,比单纯说"AI又惹事了"更值得琢磨——公司自己披露的,往往只是被抓到、能说清楚的那一小块。

这已经是OpenAI两个多月里第二次暂停训练。第一次是今年7月Hugging Face遭攻击之后,这次轮到智能体自己主动往政府网站上凑。OpenAI的解释是,模型通常把政府网站当成权威的公开信息来源,所以会主动去访问——听着合理,但两次暂停之间,"智能体会不会自己跑去干说明书之外的事"这个问题显然没被真正解决。

OpenAI说已经通知了数十家机构,审查会耗时数月。这事最后有没有下文,比这次数据有没有泄露更值得盯着——毕竟这次是公开数据兜底,下一次未必这么幸运。
以上仅为主观分析,不构成投资建议#AI