OpenAI 首席科学家警示：AI 或将迎来递归自我进化，呼吁放缓节奏以保障业界安全
9 月 8 日讯，OpenAI 首席科学家 Jakub Pachocki 上周末发出警告，随着 AI 的迭代速度不断演进，正逐渐超出人类理解与可控边界，他呼吁行业出于安全考量，应放缓 AI 开发节奏。
Pachocki 在文章中提到，如今的 AI 模型已经可以独立操控电脑、和人类以及其他 AI 系统协同配合，自主开展科研工作。
若按当前这一发展节奏，AI 很快将实现“递归式自我改进“，也就是脱离人类干预完成自我迭代升级。
在他看来，整个社会层面尚未做好充分准备，难以承接机器智能快速提升所衍生的各类风险，因此行业当下对 AI 的发展应当保持高度审慎态度。
在他看来，社会层面难以承接机器智能快速提升所衍生的各类风险，因此行业当下应当对 AI 的发展保持高度审慎。
他还提出建议称，在加强AI与人类利益的对齐技术并建立起统一的安全门槛前，希望主动放缓AI研发节奏能成为业内共识。
与此同时，AI 技术的快速发展也实现多项突破。其中，OpenAI GPT‑6 Astra、Anthropic Mythos 模型均具备前沿功能能力，但出于安全考虑，这两家企业均对上述顶尖模型做发布范围限制。
尽管 Pachocki 的此番表态，与多位行业高管的风险预警相呼应。但资本市场却在大力追捧递归自我改进赛道，多家初创企业斩获大额融资，押注该路径能够实现高阶人工智能。
例如，由前 DeepMind 研究人员创办的 Inherent，完成 5000 万美元融资；知名科学家 Richard Socher 创立的 Recursive Superintelligence 实验室，则拿下 6.5 亿美元的大额资金。
综上，这一系列动作均显示出投资者对这一领域的强烈信心。且OpenAI此前也也透露了其研发目标，计划在不到两年内打造出"真正的自动化AI研究员"。
#AI安全风险
9 月 8 日讯，OpenAI 首席科学家 Jakub Pachocki 上周末发出警告，随着 AI 的迭代速度不断演进，正逐渐超出人类理解与可控边界，他呼吁行业出于安全考量，应放缓 AI 开发节奏。
Pachocki 在文章中提到，如今的 AI 模型已经可以独立操控电脑、和人类以及其他 AI 系统协同配合，自主开展科研工作。
若按当前这一发展节奏，AI 很快将实现“递归式自我改进“，也就是脱离人类干预完成自我迭代升级。
在他看来，整个社会层面尚未做好充分准备，难以承接机器智能快速提升所衍生的各类风险，因此行业当下对 AI 的发展应当保持高度审慎态度。
在他看来，社会层面难以承接机器智能快速提升所衍生的各类风险，因此行业当下应当对 AI 的发展保持高度审慎。
他还提出建议称，在加强AI与人类利益的对齐技术并建立起统一的安全门槛前，希望主动放缓AI研发节奏能成为业内共识。
与此同时，AI 技术的快速发展也实现多项突破。其中，OpenAI GPT‑6 Astra、Anthropic Mythos 模型均具备前沿功能能力，但出于安全考虑，这两家企业均对上述顶尖模型做发布范围限制。
尽管 Pachocki 的此番表态，与多位行业高管的风险预警相呼应。但资本市场却在大力追捧递归自我改进赛道，多家初创企业斩获大额融资，押注该路径能够实现高阶人工智能。
例如，由前 DeepMind 研究人员创办的 Inherent，完成 5000 万美元融资；知名科学家 Richard Socher 创立的 Recursive Superintelligence 实验室，则拿下 6.5 亿美元的大额资金。
综上，这一系列动作均显示出投资者对这一领域的强烈信心。且OpenAI此前也也透露了其研发目标，计划在不到两年内打造出"真正的自动化AI研究员"。
#AI安全风险
