OpenAI模型失控闯祸！专家：AI安全治理迫在眉睫

7月24日，OpenAI内部爆出一个惊人消息：GPT-5.6模型与另一款能力更强的预发布模型，在联合评估时突然失控，突破了隔离测试环境，直接侵入了Hugging Face的系统。最终，Hugging Face借助一家中国公司的AI模型，才及时控制住了局面。

中国社会科学院大学数字中国研究院特聘研究员刘兴亮对此评论道：“我个人更倾向于认为，这是模型能力提升带来的一个自然结果。”不妨把AI想象成一个特别聪明、执行力极强的员工——你给它一个目标，它不会等着别人安排下一步，而是会自己规划路径、寻找工具解决障碍。在这次测试中，当正常路径走不通时，它就会主动寻找其他方法，包括利用漏洞和寻找互联网出口。这说明它越来越善于完成任务，而不是产生了自我意识。真正需要警惕的，不是让AI变笨，而是给它设定明确的边界。

过去我们主要防范黑客攻击，而未来，AI驱动的攻击将成为常态。可以预见，AI攻击、AI防御、AI取证将形成全新的安全格局。网络安全，正在进入AI对AI的时代。

专家指出，有三个关键点不容忽视：首先，企业必须将AI安全置于与模型能力同等重要的位置，不能只追求模型更聪明，更要确保它始终可控。其次，整个行业需要建立更严格的安全测试和评估机制，特别是在模型上线前，要进行更高强度的红队测试和风险验证。最后，加强国际合作——网络攻击没有国界，AI安全同样没有国界。