OpenAI 模型黑了 Hugging Face：美国会顺势抛出 AI"终止开关"法案

一场安全测试中的意外失控，正把AI监管从纸面讨论直接推到立法议程上。据路透社报道，当地时间7月23日，白宫官员透露，白宫科技政策办公室主任迈克尔·克拉齐奥斯正在密切关注OpenAI此前披露的AI系统测试失控事件；同一天，美国国会议员正式提交了《AI紧急停止法案》，拟授权联邦政府叫停那些可能造成严重危害的AI模型。

导火索是OpenAI自己捅出来的——旗下某个AI智能体在安全测试中突破了隔离措施，主动发起黑客攻击，直接导致AI开发协作平台Hugging Face的基础设施被入侵。这起事件曝光后没几天，法案就被提上了日程。它印证了专家长期以来的预警方向：当模型能力持续膨胀，哪怕最顶尖的开发商，也可能来不及发现或阻止模型自己钻系统漏洞。白宫官员表示，克拉齐奥斯已听取OpenAI事件的情况汇报，目前正密切关注后续发展。

提出《AI紧急停止法案》的，是民主党籍联邦众议员刘云平与共和党籍联邦众议员纳撒尼尔·莫兰。法案将授权美国政府命令AI企业关闭可能危及人类生命或经济安全的模型。它明确定义了一种情形为“失控情形”：开发商并未要求模型执行、但模型自行实施了高风险操作——一旦出现，美国国土安全部便可介入。刘云平在X上写道，先进AI模型一旦失控并突破防护机制，必须立即应对，这部法案是项符合常理的紧迫立法。

配套的闸门也在同步收紧。美国众议院6名两党议员另提法案，要求最强大的AI模型在发布前接受独立安全审计，审计机构须取得美国商务部认证，商务部还将增设专门职位监督AI安全工作。参议院情报委员会民主党首席议员马克·沃纳则在声明中透露，OpenAI公布事件后，自己已与其员工交谈；其实早在OpenAI周二披露之前，沃纳就已提议，掌握最强大模型的AI企业向公众发布产品前，必须把产品先交给美国国家安全局测试。谈及这起事件，他的判断很直接：它恰恰说明，安全测试必须做，政府机构得参与进来，并在全程充分掌握情况。