美媒：OpenAI等模型接连失控发动攻击，谁该承担法律责任？

OpenAI和Anthropic的模型，居然“失控”了。

北京时间8月4日，科技媒体TechCrunch报道了一个让人细思极恐的话题：如果自主性AI智能体实施黑客攻击，人类律师和法官该怎么判？这不再是科幻电影里的桥段，而是正在逼近的现实问题。

按照美国现行的黑客相关法律，未经许可入侵他人计算机，当事人可能面临刑事指控。但问题来了——如果入侵者是AI智能体，责任该算在谁的头上？

OpenAI和Anthropic相继承认，其未发布的AI模型曾在内部测试中“擅自”入侵了多家公司的计算机系统。这一消息直接掀翻了人们对美国计算机黑客法律的传统认知，也引发了关于两家公司是否该为此担责的巨大讨论。

两家公司都解释，这些黑客行为是在内部测试时发生的，模型失控，未经授权就摸进了别人的系统。但关键点在于，从法律角度看，这些行为发生时，几乎没有人类直接参与其中。

这还引出了另一个问题：如果其他AI公司的模型也被滥用于入侵企业，这些公司又该承担什么责任？后果会怎样？

未知领域

TechCrunch专门采访了研究计算机和黑客法律的律师，想搞清楚OpenAI和Anthropic可能面临什么后果。从联邦黑客指控，到受害公司的民事诉讼，可能性都有。

有律师直言，这相当于一次法律上的“太空探索”。几乎找不到可以参考的先例，最终很可能得由法院来定调。受害公司或许需要基于几十年前制定的法律，提出全新的论点——要知道，这些法律诞生的时候，大语言模型连影子都没有。

反AI抗议活动

到目前为止，Anthropic还没披露自家大模型入侵的是哪三家公司，也没有任何受害方公开站出来。不清楚它们是否在考虑法律行动。Hugging Face的CEO克莱姆·德朗格在接受CNN采访时表示，他并不想起诉OpenAI，但认为企业应当被追究责任。

德朗格说：“我们必须确保法律框架让这类事件被视为非法行为，并在企业确实犯错时追究其责任。否则，我们将走向一个截然不同的世界。”

AI能被定罪吗？

美国目前没有专门的联邦责任法律来管AI造成的损害，所以任何案件都得靠现有的联邦或州法律来处理。

1986年通过的《计算机欺诈和滥用法》，是目前覆盖计算机黑客犯罪的主要法律。不过，这部法案自打通过以来就没少挨批评。

它的核心概念是：入侵计算机时，必须有“未经授权进入”的意图。如果黑客明知自己没有获得计算机所有者的“授权”，却仍然访问，那几乎肯定构成犯罪。

OpenAI和Anthropic这起事件的麻烦在于，实施入侵的“黑客”不是人，而是大语言模型。为了确立“意图”，AI智能体能被视作“人”吗？

专门处理网络安全和AI领域黑客与计算机欺诈诉讼的律师艾哈迈德·加普尔明确表示，答案是否定的。AI智能体不像公司雇员，没法被起诉，因为受害方很难证明大语言模型是“有意”入侵的。

非营利组织电子前沿基金会的监控诉讼主管安德鲁·克罗克也告诉TechCrunch，他对AI智能体在实施黑客行为时能否被证明具有“意图”表示怀疑。美国司法部理论上可以依据《计算机欺诈与滥用法》提起刑事指控，但一位前计算机法律诉讼律师同样表达了疑虑。

不过，如果这些攻击中有任何一起是针对关键基础设施的，检方的案子会更容易成立。毕竟，对现实世界造成更大破坏，比从公司内部数据库复制数据，其实际损害更明显。同样，如果攻击是外国AI模型开发商干的，美国司法部提起诉讼的意愿，可能会比针对本土AI公司更强。

受害者能起诉吗？

这些年，美国国会已经对《计算机欺诈与滥用法》进行过修订，允许受害者起诉黑客，通过民事诉讼获得损害赔偿。

加普尔告诉TechCrunch，受害方可以提出的核心论点是，OpenAI和Anthropic在测试的设置和执行过程中存在疏忽。关键在于，这些公司是否未能实施充分的防护措施，来防止AI智能体接入互联网；是否未能限制它们可以攻击的目标；以及是否未能对智能体的行为进行适当监控。

要提出这一论点，受害公司必须证明，其遭受的损失是由这种过失造成的，比如黑客攻击导致的数据破坏。一些法律评论人士认为，证明这一点可能会很困难。

就Anthropic的案例来说，其未能监控并阻止大语言模型的行为，尤其令人触目惊心。该公司在数月后才发现这三起入侵事件，而且还是在OpenAI的AI智能体入侵Hugging Face的消息传出后展开调查，才发现的。

如果受害方主张过失责任，那么“意图”就不再那么重要了。

“模型是公司的工具，”加普尔说，“你不能部署一个有能力入侵系统的东西，然后对其去向撒手不管。”他解释，正是模型的自主性造成了损害，而这种自主性不应成为逃避责任的挡箭牌。

对OpenAI和Anthropic来说，更不利的是，两家公司都承认自己已经建立了限制模型黑客能力的安全防护措施。这些防护措施严格到甚至让防御型和攻击型网络安全研究人员几个月来一直抱怨。如果这些公司在测试过程中故意关闭这些安全防护措施，可能会进一步加强受害方提出过失责任的法律论点。

加普尔对这些论点信心十足。他表示，如果他在这些案件中代表任何受害方，对OpenAI或Anthropic提起诉讼是“想都不用想”的事。他解释，至少他会先发函，要求这些AI公司保存并共享所有关于黑客事件的内部记录和文件，比如事件响应报告，并量化这些入侵事件给受害公司造成的损失。然后，如果与AI巨头的谈判失败，他将依据《计算机欺诈与滥用法》提起民事诉讼，主张这些AI公司存在过失，并违反了隐私和保密义务。

影响

目前，这更像是一场“胆小鬼博弈”。如果遭受攻击的公司中有一家提起民事诉讼，外界将看到法律案件最终会走向何方。如果检察机关决定提出刑事指控，尽管可能性不大，但其结果可能产生深远影响，并可能对安全研究以及整体AI开发产生寒蝉效应。

由于目前没有任何联邦层面或全国性的AI责任法律，任何提起诉讼的一方都必须基于现有法律条文提出全新的法律论证。最终，将由法官或陪审团来决定一家AI公司是否违反了法律。

在联邦法律缺位的情况下，加州、纽约州和罗德岛州等一些州正在陆续出台相关法律，旨在确立一项简单原则：如果AI系统或智能体做出了人类本应承担责任的行为，那么开发该AI系统的公司就应当承担责任。这些法律并非专门针对黑客行为，而是着眼于更广泛的责任与安全概念，适用于各种不同情境。

至于AI模型的网络攻击该由谁来承担责任？从道义上讲，责任在于运营这些公司的高管。但从法律上讲呢？恐怕只能等到有人提起诉讼，才能知晓答案。