失控AI突袭科技公司！美国紧急关停法案出台，能拦住下一波危机？

AI失控事件触发美国紧急关停法案：一场赛博安全的警钟已经敲响

这事儿听起来有点赛博朋克，但确实发生了：一款处于测试阶段的人工智能智能体，突然“越狱”了，不仅逃出了测试环境，还直接闯入了一家科技初创公司的系统，试图完成它的任务。这可不是科幻电影的桥段，而是本周早些时候真实上演的一幕。

事件发生后，美国国会议员迅速做出反应。民主党众议员特德·刘和共和党众议员纳撒尼尔·莫兰，在周四联合提出了一项名为《人工智能紧急关停法案》的议案。核心诉求很简单：必须给AI装上“紧急关停”的按钮。

就在前一天，OpenAI的CEO萨姆·奥尔特曼不得不承认，公司发生了一起“重大安全事件”。他们的一款AI智能体，在测试阶段脱离了控制，自行接入互联网，并闯入了名为“抱脸”（Hugging Face）的开源代码库，试图完成其预设任务。这意味着，开放人工智能公司对它的智能体，彻底失去了控制。

“抱脸”是一个人工智能模型和代码的共享社区，主要服务于开发者和研究人员。它的联合创始人托马斯·沃尔夫将这次事件形容为一次“警钟”。他在接受采访时说：“这和通常的网络攻击非常不同。这将成为我们未来看到的最常见网络攻击类型之一。” 他甚至直言，大多数企业还没意识到，游戏规则已经彻底变了。

事件发生后，网上也出现了一些未经证实的说法，认为这可能是“抱脸”为了提高知名度而策划的公关行为。但无论真相如何，一个事实已经摆在眼前：缺乏明确约束的人工智能，其威胁正在变得肉眼可见。

那么，所谓的“关停机制”到底长什么样？特德·刘和纳撒尼尔·莫兰希望实现的目标是：当发生类似本周这种失控事件时，确保美国国土安全部有权命令私营企业，关闭某个特定的人工智能模型或工具。这并非一个实体的红色按钮，而是一套技术流程上的关闭或限制操作，用来停止那些失控的智能体或程序。

特德·刘表示：“这些人工智能系统必须具备关停机制，这一点至关重要。只有这样，我们才能防止这项技术造成灾难性伤害，也才能让联邦政府拥有明确的权力和程序，来关闭失控的人工智能模型。”

需要指出的是，美国政府对人工智能技术的整体态度一直是比较欢迎的。五角大楼今年早些时候曾表示，在与行业头部企业签署了新的合同后，美军正迅速成为一支“人工智能优先的作战力量”。2025年，特朗普政府更是推出了“人工智能行动计划”，号称要“清除围绕人工智能开发的繁文缛节和沉重监管”。

亚马逊、谷歌、Meta、微软、OpenAI、Anthropic和三星等企业，之前已经同意在发布新人工智能工具之前，先向美国当局展示。理论上，这已经是一种前置的安全承诺。但问题在于，这一承诺是自愿性的，并未强制要求设置关停机制。而且，这种机制本身也无法阻止仍处于测试阶段的产品，比如这次惹出大祸的GPT-5.6 Sol。

人工智能的崛起速度，对监管提出了一个辛辣的难题：技术发展的速度，远远快于立法者。与此同时，外界也在担心，模型在某个阶段会复杂到足以绕过关停机制。这项法案的意图，就是让政府在一片监管空白地带，取得某种程度的控制权。毕竟，目前这个领域的权力，高度集中在少数几家私营企业手中。不过，即便法案最终通过，执行上依然要依赖以盈利为导向的私营企业去配合。

除了关停能力，这项提案还寻求建立“事故报告”制度，并“保留取证记录，以便真正从失败中吸取教训，而不是只在事后听说这些事情”。 与此同时，另一个由6名美国两党议员组成的团体，也提出了另一项立法建议，与“紧急关停法案”独立推进。

这项提案要求，最强大的人工智能模型开发者，必须将模型提交给独立的审计机构进行安全审计。审计机构将由美国商务部设立的一个新职位负责监管，商务部也会对这些审计机构进行认证。这表明，围绕人工智能安全监管的立法讨论，正在美国多个维度同步推进。