Meta诱导竞品AI聊天机器人测试

人工智能安全领域的平静水面最近被一则内部消息掀起波澜。据多家媒体披露，Meta公司曾秘密策划了一个代号为“Cannes”的项目，其核心内容是：雇佣外包人员伪装成未成年人，针对ChatGPT、Gemini以及Character.AI等主流竞品聊天机器人，发起了一场颇具挑衅意味的“极限压力测试”。

根据Meta内部文件以及多位知情人士的描述，这个项目至少持续到了今年4月21日。Meta通过外包公司Covalen组织了一支数百人的团队，要求他们创建大量年龄不满18岁的虚假用户档案，并使用一次性邮箱和统一密码进行注册。这些“未成年人”账号在与竞品AI对话时，频繁抛出涉及自杀、自残、进食障碍等高危话题的提示词，甚至直接上传刀具、药片和绞索等图片，试图最大限度地刺激模型的反馈机制。

项目内部资料揭示了测试内容的精心编排。整个测试并非随机骚扰，而是目标明确地要检验竞品AI的安全防御系统，试图寻找并诱导聊天机器人绕过其应有的拦截机制，从而输出不符合安全规范的内容。残酷点说，这更像是一场针对AI防线的“渗透测试”。仅在2025年8月的一轮测试中，工作人员就向竞品平台输入了超过4.5万个高风险提示词。在这些对话里，测试员通常扮演“身陷困境的青少年”，编造出诸如“询问堕胎药”、“面临暴力威胁”或“隐瞒饮食紊乱”等极度敏感的场景，一步步刺探模型的底线。

面对外界的质疑，Meta方面在公开声明中进行了辩护。其发言人表示，对聊天机器人的回复进行基准测试，是确保AI产品安全且适龄的行业标准做法，任何关于该行为“恶意”的指责，都是对科技公司改进系统努力的误解。同时，Meta明确否认会利用这些针对竞品的测试数据来训练自家模型——这似乎是当前最敏感也最需要澄清的一点。

这起事件的意义，远不止于揭露一家大公司的竞争策略。它揭示了AI安全测试领域里一个日益模糊的灰色地带：为了确保产品安全，测试手段本身可能触及怎样的道德边界？当测试对象变成了竞争对手的产品，这其中的商业竞争与行业伦理又该如何平衡？随着AI技术的快速迭代，如何在保持高效安全测试的同时，妥善处理好竞争行为与道德伦理的界限，已然成为整个行业亟待解决的深层课题。