OpenAI 官宣上线 Control Room:研究侧模型任务的「急停闸」。
监控系统或人工一旦决定叫停某个 job,推理引擎会在最多约 35 秒内拒绝继续出字——刹车装在采样那一层,不指望研究员自己的脚本听话。Control Room 自己挂了或被关掉,也会 fail-closed:直接拒掉所有推理请求。前沿模型研究工作负载已铺开,其余研究任务这几天陆续切完。
模型越强,出事时能不能真停下来越关键。这套不算炫技,但比「口头说我们能关」靠谱多了。
#OpenAI #AI安全 #ControlRoom