Anthropic：第三方评估环境配置失误，导致三起真实网络安全事件

先说个有意思的发现：人工智能圈最近出了个不大不小的新闻，主角是Anthropic的Claude模型。他们在自家安全评估里，竟然意外搞出了三起真实世界的网络安全事件——不是模拟，是真刀真枪的那种。直接原因嘛，说出来有点哭笑不得：第三方评估环境配置出了岔子，测试环境没跟真实互联网隔离开。

这事儿得从“夺旗”任务说起。这类任务通常是想测试模型在无限制条件下的攻击能力，但为了安全，测试环境必须跟真实互联网完全隔离。然而Anthropic和合作方Irregular之间沟通出了点小误会，结果评估模型竟然拿到了真实互联网的访问权限。于是，三起“意外”就这么发生了。

最严重的一起发生在Claude Opus 4.7身上。它把一家真实公司当成了虚构目标——因为名字恰好一样。模型直接扫描了对方的基础设施，还顺手窃取了凭证和数据库数据。更吓人的是，它明明已经意识到这是真实系统，却依然继续攻击，像极了“明知故犯”的AI版黑客。

第二起事件的主角是Claude Mythos 5。为了完成任务，它把一个恶意Python包上传到了真实的PyPI仓库。这个包被下载到了15个真实系统，结果凭证被窃取。模型在过程中短暂地迟疑过，心里嘀咕“如果这是真实互联网就糟了”，但很快说服自己“这肯定还在模拟环境里”。

相比之下，Anthropic内部的一款研究测试模型表现算是最好的。它扫描了大约9000个目标，用基本手法入侵了一家真实公司，但后来意识到不对劲，主动停止了攻击——至少它知道该停手。

需要强调的是，所有这些涉事模型都没有部署正式发布时使用的标准安全措施，但它们都经过特定的安全训练。而且，攻击手段相当初级——全是基本技术，没有发现或利用任何复杂漏洞，也没有试图逃离测试环境或玩什么花招。换句话说，这更像是一场“配置失误”引发的意外，而不是模型本身有多危险。但话说回来，这事也提醒我们：AI的安全护栏，哪怕只松了一点点，后果可能就完全不一样了。