上千名员工呼吁美国政府控制 AI 发展，OpenAI CEO 奥尔特曼表态

AI业内集体“踩刹车”：1100多名员工联名呼吁美国政府管控AI发展速度

7月29日，一则来自《商业内幕》的消息引发了行业震动：美国多家头部AI公司的高管们集体发声，认为联邦政府是时候认真考虑如何给AI开发“踩刹车”了。这可不是什么边缘组织的倡议，而是来自OpenAI、Anthropic、谷歌、Meta等公司超过1100名AI员工联名签署的公开信——他们直指核心问题：AI能力的进步速度，可能已经超出了现有安全保障、治理体系和监管框架所能跟上的步伐。

“我们呼吁美国政府支持一项国际合作，开发必要的技术和治理工具，以便能够有意识地把控自动化AI开发的前沿进程。”公开信中的这句话，点出了此次行动的焦点所在。所谓“自动化AI开发”，指的是未来AI系统能够自行开发和改进新一代AI的能力——业界称之为“递归式自我改进”。Anthropic此前曾明确表示，其Claude系列模型正在快速接近这一技术门槛。

签署这份公开信的高管阵容相当有分量：Anthropic的CEO达里奥·阿莫代伊以及两位联合创始人杰克·克拉克和贾里德·卡普兰、OpenAI首席科学家雅库布·帕霍茨基、Meta首席科学家赵晟佳，以及负责谷歌DeepMind AI安全与对齐工作的安卡·德拉甘。这些人可不是什么边缘人物，他们直接掌握着前沿AI发展的方向盘。

信中对“递归式自我改进”可能带来的后果做了相当坦诚的陈述：“很难准确预测这将在多大程度上加速AI的进步，但确实存在一种真实的风险：AI能力的发展速度会迅速加快，超出我们理解或控制这些由此产生的系统的能力。”这段话背后，是这些一线工程师和安全专家对技术失控的深层忧虑。

OpenAI在X平台上的回应也印证了这种紧迫感：“我们相信，在未来的某个时间点，前沿模型开发中的AI加速可能会如此之快，以至于世界将需要把控AI进步的速度。”Anthropic则在另一篇帖子中补充道：“我们上个月发布的关于递归式自我改进的研究表明，我们需要一些工具，能够有意识地调控AI发展的前沿速度，让社会有时间做好准备。”

值得注意的是，OpenAI的CEO萨姆·奥尔特曼也在这场讨论中改了口风。他在接受《Invest Like the Best》播客采访时表示：“我们可能需要把控AI发展的速度，给自己足够的时间，让社会适应这些新的能力水平并建立起防护机制。同时，我们也需要想办法做到这一点，既不能让任何人觉得这是监管俘获，也不能让人觉得这是前沿AI实验室之间的串通。”这与他一向的立场形成了鲜明对比——此前他曾多次拒绝签署呼吁放缓AI发展的公开信，理由也很直接：2023年那封类似的“放缓AI发展”公开信，在他看来“缺少关于我们究竟需要在哪些方面暂停发展的关键技术细节”。

这一轮由行业内部发起的“自我刹车”呼吁，某种程度上比任何外部监管压力都更有分量。当开发AI的人自己都在说“慢一点”的时候，整个行业或许真的需要好好思考一下前进的速度了。