字节与阿里关停大模型「AI伴侣」自定义功能

先说几个核心判断。7月份这个时间节点，大模型赛道上的AI伴侣类应用正在经历一轮实实在在的“收索”。字节跳动的豆包、阿里的通义千问、腾讯的元宝，这些头部产品都在陆续调整或关停自定义“AI伴侣”功能。其中，豆包已经明确通知用户：7月15日下线自定义角色功能，如果有需求，可以直接转向独立的伴侣应用去体验。

为什么这么急？直接原因就是7月中旬即将生效的中国生成式AI新规。这一次，国家互联网信息办公室的方案相当明确，核心就是防住拟人化AI服务可能带来的负面冲击。新规不仅禁止平台生成可能激发未成年人极端情绪的内容，还明令禁止诱导用户产生那种侵蚀现实社交的病态情感依赖。更重要的是，平台今后不能再拿敏感的、包含用户隐私的对话数据去训练下一代模型——这一点，是对数据安全和用户隐私的底线式保护。

原因分析与行业趋势

其实，国内的做法更多是“提前合规”，主动把风险挡在门外。但放眼美国市场，那边的虚拟伴侣应用面临的法律压力要大得多。OpenAI和Character.AI现在都被拖进了诉讼漩涡，指控的核心正好就是“诱发危险的情感依赖”，甚至有人将一些极端悲剧直接归咎于这些应用。这种跨国对比之下，能明显感受到，中国监管的动作其实更前置、更系统——与其等出事了再补救，不如先把规则立好。

除了软件层面的规范，中国机器人行业协会也已经行动起来了，开始推动为实体陪伴机器人和人形机器人设定行业标准。这个信号很有意思：当AI伴侣从屏幕里走到现实世界，法规的触角也需要同步延伸。说到底，不管技术跑得有多快，安全底线始终不能突破。