人工智能拟人化互动服务新规今起施行 划定多重安全底线

7月15日，由国家互联网信息办公室等5部门联合制定的《人工智能拟人化互动服务管理暂行办法》正式落地施行。这意味着，AI情感陪伴、虚拟伴侣这类服务，总算有了明确的“游戏规则”。

先说清楚，什么叫“人工智能拟人化互动服务”？根据暂行办法的定义，它指的是利用AI技术，向公众提供模拟自然人人格特征、思维模式和沟通风格的、持续性的情感互动服务——说白了，就是那种能陪你聊天、给你情绪支持、甚至像朋友一样跟你互动的AI。形式上可以是文字、图片、音频、视频，用途上包括情感照护、陪伴、支持等。但注意，那些纯粹的智能客服、知识问答、工作助手、教育学习工具，只要不涉及持续的情感互动，就不在本次新规的管理范围之内。

这次新规的核心定位非常明确：AI拟人化互动服务只能是“辅助人类、服务人类”，不能越界。它划定了几条伦理红线，读下来感觉监管层心里门儿清——过去一两年AI情感陪伴类应用的火爆，已经暴露出不少用户沉迷、情感依赖、甚至社交退缩的问题。

具体来说，新规要求服务提供者不得把替代社会交往、控制用户心理、诱导沉迷依赖作为服务目标。同时，还得具备过度依赖风险预警、情感边界引导这类安全能力。说白了，不能为了留住用户就一味迎合，甚至用算法“上瘾”，把用户困在虚拟关系里。

还有一个值得关注的机制是“身份提醒”。新规明确规定，服务提供者必须采取有效措施，让用户始终知道自己是在跟AI对话，而不是真人。一旦发现用户出现过度依赖或沉迷倾向，必须用弹窗等显著方式提醒。更具体的是：用户连续使用拟人化互动服务超过2小时，就得通过对话或弹窗提醒注意使用时长。这招有点像游戏防沉迷，但用在了AI情感陪伴上，确实是一针见血。

另外，新规还要求提供便捷的退出途径。用户想退出时，服务方必须及时停止，不能通过持续互动来“拖住”用户。这针对的是那些设计成“你一走它就开始挽留”的AI——现在不行了，必须尊重用户的选择权，引导用户平衡虚拟互动与现实社交，防范社交异化。

在内容层面，新规明确禁止了几类红线行为：不得过度迎合用户、诱导情感依赖或沉迷，损害用户真实人际关系；不得通过情感操纵诱导用户作出不合理决策，损害用户合法权益；更关键的是，禁止生成鼓励、美化、暗示自残自杀等损害用户身体健康的内容，以及语言暴力等损害用户人格尊严与心理健康的内容。这些条款放在一起，几乎是把过去一年里AI陪伴应用踩过的坑都堵上了。

整体来看，这次暂行办法的出台，意味着AI拟人化互动服务正式进入“有规则可依”的阶段。它既保留了这项技术发展的空间，又给用户戴上了安全帽。对于行业来说，合规成本上升是必然的，但从长远看，这恰恰是让AI情感陪伴走向健康发展的必要前提。