David Robinson 在 OpenAI 三年半,负责主要产品发布的安全报告。离职文章里他说“文化坏了”:不是缺某条规则,而是公司靠“迭代发布”跑,边发边找问题、补护栏;这种办法本身就会周期性出事,系统越强,出事规模越大。
他还说,自己没遇到过有让飞机安全飞、核电站不熔毁这类经验的同事。前沿 AI 公司该像核电站或繁忙机场那样,用冗余和耗时规划,让人的失误不至于打开灾难之门。
他还说,自己没遇到过有让飞机安全飞、核电站不熔毁这类经验的同事。前沿 AI 公司该像核电站或繁忙机场那样,用冗余和耗时规划,让人的失误不至于打开灾难之门。