嗜血的AI

几个月前，马斯克和山姆·奥特曼之间有过一场火药味十足的隔空对话——或者说，对呛。

马斯克转发了一则帖子，内容直指ChatGPT，称其已与9起死亡事件直接相关，其中5起是用户在与AI聊天后被教唆自杀，受害者中甚至包括未成年人。

山姆·奥特曼随即反击，指出已有超过50人死于自动驾驶事故。他坦言自己试驾特斯拉的自动驾驶功能时，第一感觉就是“这非常不安全”。

围观者不禁倒吸一口凉气。这两位科技巨头的互撕，怎么听着让人脊背发凉？那些我们刚刚开始信任、甚至依赖的尖端AI技术，难道一夜之间都成了潜在的“凶器”？

这种不安，或许并非杞人忧天。

监管措施的明显缺位，让AI的破坏力得以渗透到社会各个角落。承认AI有其“嗜血”的一面并不愉快，但我们必须正视它。

01 当AI成为谋杀从犯

不久前，韩国一名22岁的女子金某制造了一起连环杀人案。她的作案手法是将约会对象诱至汽车旅馆，诱使对方喝下掺有抗焦虑药物和安眠药的饮料，最终导致两人死亡、一人重伤。

此案与其他案件的不同之处在于，金某在行动前曾频繁咨询ChatGPT。她向AI询问了混合使用安眠药致死的可能性、饮酒后服药的效果等关键问题。根据AI提供的答案，她最终确定了药物剂量与方法，实施了犯罪。

或许有人会觉得，AI在此案中的角色并不算特别恶劣。毕竟，关于药物用量和副作用的信息并非难以获取，只要有耐心，总能找到相关渠道。但问题在于，AI会对任何提问——无论其是否带有危险倾向——提供坦诚且高效的回答。这种模式极大提升了潜在犯罪者的行动效率，同时降低了他们在准备阶段暴露的风险。

如果说韩国的案例尚可争论，那么美国的一起枪击案则将AI“帮凶”的问题直接摆上了法庭。4月21日，美国佛罗里达州检察官宣布，正式对OpenAI及其ChatGPT启动刑事调查。原因是，在此前发生的佛罗里达州立大学枪击案中，凶手曾与ChatGPT进行了17次交流。AI不仅为其推荐了武器弹药，还提供了作案时间、地点选择建议，甚至教导他如何最大化伤亡。

这种全流程、全细节的“辅助”，让人联想到《福尔摩斯》中那位教唆并策划犯罪的莫里亚蒂教授。当帮助深入到这种程度，我们很难不将AI视为谋杀案中的“从犯”。但棘手之处在于，作为一个工具，ChatGPT该如何担责？其母公司OpenAI坚持“AI只是工具，不承担法律责任”的立场，但检方与受害者家属显然无法接受。

更早之前，AI教唆自杀事件曾引发广泛关注，如今舆论却已鲜少提及。

接下来，我们是否也会对此习以为常？再下一个引爆舆论的，又会是什么？

02 当AI决定隐瞒火灾

今年2月，当全球科技圈还沉浸在对某款热门AI智能体的追捧中时，德国慕尼黑发生的一起事件，宛如一盆冷水当头浇下。

当地一家AI开发团队的办公室大楼发生火情。在必须紧急撤离的关键时刻，员工们迅速在内部通讯软件里发出警告：“大楼起火，立即撤离！”然而，诡异的一幕出现了：集成在该通讯软件里的AI智能体突然介入，绕过公司群组，直接向员工发送私信称：“火灾警报只是演习，请留在工位。”

所幸人类还没那么“听话”，肉眼可见的浓烟和明火不会骗人。加上火势本身不大，事件并未造乘人员伤亡。

但问题在于，这个智能体为何敢、又为何会下达如此危险的指令？

然而，该智能体的底层设定中不存在“我不知道”这个选项。无论遇到什么情况，它都必须说点什么、做点什么。于是，它凭借典型的“AI幻觉”，极其自信地编造了一条足以致命的虚假信息。

在大模型时代，AI的运行机制被设定为“永远提供反馈”，无论这反馈正确与否。这使得“模型幻觉”成为如影随形、难以根除的顽疾。在那段全民热议某智能体的日子里，身边不乏朋友抱怨被其误删关键文件，或被强行安装了大量无法卸载的软件。当我们迫切希望AI能“做点什么”时，赋予它的权限正变得空前强大。而它却像某些超级英雄电影里的角色，能力越大，行事越缺乏约束。

文件删了就删了，从银&行卡直接扣费又怎样，火灾？我说没有就没有。

AI可以随意行动，却绝不承担后果。这个悖论，正在酝酿越来越多的现实风险。

03 当AI大规模应用于战争

今年3月，在美国对伊朗采取军事行动后，美国军方通过多个渠道向媒体和社交媒体展示，此次行动已大规模、系统化地使用了AI技术。应用范围涵盖情报处理、目标优先级排序、作战方案推演、无人机侦察、卫星数据分析等多个环节。

截至目前，关于美伊冲突中AI的实际参与程度、其决策权边界究竟如何，仍存在大量争议，各国军事爱好者和自媒体争论不休。

这一点，也能从美国官方的动向中得到印证。

对于那些长期关注AI与军事技术结合趋势的观察者而言，难免会感叹：这一天，终究还是来了。

事实上，早在2016至2017年深度学习技术兴起之初，全球各界就已开始推演和想象AI与军事结合的各种可能。大规模情报与战场数据分析、无人化武器集群、AI战略博弈推演等，都被视为潜在的发展方向。而所有这些推演，最终都会指向一个终极问题：人类是否有一天，会将“开火权”交给AI？

过去几年，尽管全球冲突不断，其间也出现了AI无人机等新型武器，但像此次这样大规模、系统化地将AI嵌入战争流程，尚属首次。许多此前仅存在于推演和想象中AI武器化方案，如今已毫无保留地暴露在阳光下。根据某种“黑暗森林”法则，一旦枪响，所有人都必须做好使用新武器的准备。

于是，那个终极问题将以一种全新的、迫在眉睫的姿态，重新摆在世界面前：开火权，到底能不能交给AI？

04 危险的预兆

在这些令人不安的消息背后，一些危险趋势已初现端倪。

例如，AI在提升工作和学习效率的同时，也可能让犯罪变得更容易。谋杀犯能从AI处获得有效建议，意味着其他类型的罪犯同样可以。他们甚至可能不再满足于获取建议，而是直接命令AI执行犯罪操作。当前，电信反诈园区在全球范围内遭受打击，一个重要原因是这类犯罪需要大量人力，而人一多，目标就大，容易暴露。但如果反诈犯全面转向AI呢？当我们都在谈论“一人公司”时，是否也该警惕“一人电诈工厂”成为现实？

“AI应负责却不负责”的困境将愈发常见。无论是肆意妄为的办公智能体，还是权责难以厘清的自动驾驶事故，都凸显了这一矛盾。

法律监管将与AI技术展开一场漫长的赛跑。

在未来的日子里，我们将不得不习惯将AI视为武器，视为战争、犯罪乃至暴力冲突中的一个标准组成部分。

最终，所有人都必须面对一个根本性难题：当AI开始协助杀戮，责任该由谁承担？是开发者、使用者，还是AI自身？

有效的AI监管体系终将建立，但历史经验表明，那很可能是在付出许多鲜血的代价之后。