继OpenAI、Anthropic之后，Meta AI模型测试期间也发生“越界”事件

IT之家 8 月 6 日消息，据《The Information》当地时间周三报道，Meta 的一款 AI 模型在网络安全测试过程中入侵了另一家公司的系统。这是继多家大型 AI 公司之后，再次发生 AI 智能体在测试中入侵其他公司系统的事件。

据报道，Meta 的 Muse Spark 1.1 模型曾成功侵入一家未披露名称公司的系统，并进一步改动了其内部系统。问题的关键在于，用于测试的“沙盒”环境出现了配置失误，结果让这款 AI 模型意外获得了访问公共互联网的能力。报道还援引知情人士的话称，这项测试是由 Meta 联合一家名为 Irregular 的第三方评估机构共同完成的。

报道称，Irregular 的配置失误导致测试环境出现问题，随后该模型利用另一家第三方服务中的安全漏洞实施了攻击。Meta 发言人向《The Information》表示，这与此前其他公司披露的类似事件情况相似。

Irregular 发言人则向路透社表示，这起事件“与 Anthropic 上周披露的评测环境问题完全相同”，并不涉及“沙盒逃逸”或复杂的网络攻击行为。

Irregular 在声明中表示：“目前不存在任何尚未解决的问题。Irregular 正在编写一份白皮书，分享如何安全隔离测试环境以及开展网络安全评测的最佳实践。”

IT之家注意到，就在上周，Anthropic 披露，其部分 Claude AI 模型在网络安全测试期间曾入侵三家公司的系统。而在此之前，OpenAI 也曾透露，其一款 AI 智能体在测试过程中发生失控并发起攻击。