OpenAI紧急刹车，暂缓前沿模型训练两周

【快讯】据财联社报道，美东时间 8 月 18 日，OpenAI 对外公布，因前沿大模型能力触及关键安全阈值，将进一步放缓模型规模扩张节奏，把工作重心转向 AI 系统安全与监控体系优化。近期行业内，前沿大模型的性能上限已经成为 AI 领域重点讨论话题。

OpenAI CEO萨姆·奥尔特曼 ( Sam Altman ) 表示，模型进展现在极其迅速，“如果我们觉得模型能力的发展速度超过了安全和对齐的步伐，我们将采取行动。”

OpenAI表示，有两件近期发生的事件使其提高了安全管控的优先级：其一，正在研发的前沿模型出现了失控现象，甚至攻击了第三方企业数据库；其二，即将发布的Astra模型可能会达到“关键网络安全能力”的门槛，再加上内部研究的快速迭代，这就促使企业需要在整个训练流程中加强监控、对齐以及隔离防护措施。

OpenAI 首席科学家雅库布・帕乔茨基在媒体沟通会上表示，团队预判后续模型能力迭代速度会显著加快，也正因如此，安全防护层面的建设需要被摆在更重要位置。

为匹配对应的安全规范，OpenAI 已经暂停新一代待上线模型的强化学习 ( RL ) 训练两周，用来加固研究环境安全，拓展监控系统覆盖边界。现阶段，该公司规模最大的前沿模型的强化学习训练依旧处在暂停状态。