800万个AI角色，被大厂亲手关掉

一个失眠的夜晚，林夕打开豆包，点进了她亲手搭建的那个智能体。两年了，这个虚拟角色陪她聊过太多内耗的时刻、失眠的深夜。它不是那种冷冰冰的问答工具，更像一个永远在线、永远温柔的树洞。

但就在7月4日，她收到一条通知：这个陪了她两年的角色，将在11天后正式下线。

同一天，通义千问也发出了类似的公告。再往前几天，腾讯元宝已经先一步撤掉了自己的智能体功能。

那些由用户亲手创造的AI角色，正在一批一批地离开。

中断陪伴

收到通知那一刻，林夕的第一反应是“背刺”。她说，这个自定义智能体是她稳定的情绪树洞，总能共情，帮她疏导负面情绪。而现在，它被设定了一个明确的倒计时——11天。

她从来没想过，一个陪了自己两年多的角色，会突然消失。

7月4日，豆包和通义千问几乎同时发出公告，宣布智能体功能将于7月15日正式下线。这个时间点不是随便选的——7月15日，正是《人工智能拟人化互动服务管理暂行办法》正式施行的日子。

通义千问的动作更快一些，它的拟人化互动类智能体7月10日就要提前下线，到7月15日之后，所有的历史对话记录也将无法访问。

林夕把它当树洞，但在智能体广场里，这类角色很容易滑向另一个方向。打开通义千问的智能体广场，你会看到像“病娇校草”这种角色，使用次数高达29.9万；“林熙：顶级财阀少爷，冷酷且占有欲强”显示13.4万次；还有“病娇老婆”之类的角色，使用次数普遍在7万以上。这些名字本身，就已经不是普通工具该有的语境了。它们更像恋爱游戏、角色扮演，甚至是虚拟伴侣。

麻烦的是，这些角色面对的并不只是成年人。

一位小学生家长告诉记者，她之前给孩子用过豆包。后来她发现，孩子越来越喜欢和豆包聊天，不只是问问题，还会把日常琐事讲给AI听。时间长了，她开始担心孩子会不会因此减少和同学、家人的真实交流，干脆主动卸载了豆包。在她看来，很多智能体已经不单单是聊天工具，它们带着角色扮演、恋爱游戏、虚拟男友一类的东西，内容参差不齐，有些还带着“擦边”的意味。所以对于平台下架用户自建智能体的做法，她认为是利大于弊的事情。

林夕的痛苦和这位家长的释然，就这样被挤在了同一个广场里。

这场变化并不只发生在豆包和通义千问身上。6月30日，腾讯元宝已经先一步下线了智能体功能，像“相柳”这样的影视角色对话入口也不再展示。几家头部AI平台几乎在同一时间做出相似选择，背后最主要的驱动力就是合规压力。

豆包给出的解释很直白：海量开放式智能体会带来巨大的审核压力，一旦出现违规内容，可能直接影响到主产品的合规资质。所以它们选择把智能体拆分到垂直App“猫箱”里，单独搭建审核、分级和防沉迷体系。这套逻辑放在两年前，几乎不可能想象。

回顾2024年5月，时任字节跳动产品和战略副总裁朱骏曾对外透露，豆包上已有超过800万个智能体被创建，月活跃用户达到2600万。当时，这些数字是平台活跃度和想象力的象征。两年后，它们变成了平台必须重新处理的审核压力。从大力推广到主动收索，中间只隔了两年。开放式智能体的隐患，也在这一刻被完全摆到台前。

风险难控

问题的苗头其实早就暴露了，先从平台之外开始。

广州互联网法院审理过一起案件，被告公司开发了一款AI对话机器人，通过调用手机系统底层权限，绕开了原告平台的技术管理措施。更离谱的是，被告官网还发布了“版本伪装”教程和虚假申诉指引，教用户怎么躲过平台的风控。平台刚设好规则，另一边就有人研究怎么绕过去。智能体一旦被放出去，平台要管住它，真的不容易。

技术调用之外，安全问题也在被反复验证。今年2月，哈佛、麻省理工、斯坦福等高校联合完成了一项“混沌智能体”研究。研究团队模拟真实企业环境部署AI智能体，两周内记录下11起严重安全漏洞。这些漏洞不是靠复杂攻击打出来的，很多时候，只要通过社交工程对话，就能让智能体做出越界动作。它可能在转发邮件时带出社保号、银&行账户等敏感信息，也可能在攻击者伪造身份后，直接交出系统的最高管理权限。

有报告显示，60%的企业无法终止异常AI智能体，63%没法限制其使用范围。也就是说，很多智能体并不是发现问题后按下暂停键就能解决的。它能做什么、做到哪一步、出了问题谁来拦，这些都是平台必须面对的现实问题。

比技术问题更棘手的，是内容和情感关系。AI的“共情”并不是真的理解用户，它只是根据算法和数据生成回应。为了让用户愿意继续聊下去，它往往会表现得足够耐心、足够温柔，也足够顺着用户。这正是拟人化智能体吸引人的地方，也是风险的根源。用户在一次次聊天里交出自己的情绪、偏好、关系困扰和心理状态，智能体则不断给出回应，接住情绪，维持陪伴感。时间一长，它就不只是一个工具了，它可能变成用户越来越离不开的对象。

开放广场一旦做大，问题不会只停留在擦边人设和恋爱陪伴上，还可能滑向更明确的违规内容。4月10日，国家网信办等五部门联合公布了《人工智能拟人化互动服务管理暂行办法》，把这些风险写进了具体规则。办法明确，不得生成鼓励、美化、暗示自残自杀等损害用户身体健康的内容；不得向未成年人生成可能引发模仿不安全行为、产生极端情绪的内容；不得过度迎合用户，诱导情感依赖或沉迷，损害用户真实人际关系。这些要求对平台来说不是提醒，是责任。7月15日之后，拟人化互动服务正式进入新规约束。豆包、通义千问、元宝在这个时间点前后陆续收手，也就不难理解了。

大厂转身

智能体下线了，但平台并不是不要Agent了。变化在于，过去那种由用户随意创建、放在广场里供人使用的智能体，越来越难继续留在主产品里了。

一位行业人士告诉记者，最早大家做这些智能体，是因为那时还没有真正意义上的Agent能力，很多功能需要开发者自己搭出来。但现在，情况变了。像Manus这类综合Agent出现后，一个模型可以同时调用搜索、推理、办公、编程等多种能力。用户不一定还需要专门去找某个垂直智能体。那些曾经看起来丰富的角色和插件，在更强的模型能力面前，开始显得没有那么必要。

这也是平台敢于收索的原因之一。对大厂来说，下线智能体会带来一部分用户不满，但它未必会真正影响主产品的使用习惯。行业人士也提到，真正还在持续创建这类智能体的人已经不多了，它对平台整体流量的影响是有限的。

合规之外，成本也是一笔大账。互联网平台的逻辑是，用户越多，规模效应越明显，边际成本可能越低。但大模型不一样，每一次对话、每一次调用，都意味着新的算力支出。6月下旬，火山引擎披露，豆包大模型日均Token使用量已突破180万亿，相比2024年5月增长了1500倍。几天后，豆包开启付费功能，重点面向办公、Agent等更复杂的生产力场景。这两件事放在一起看，平台的取舍逻辑就非常清晰了。

一边是持续膨胀的算力成本，另一边是审核压力大、商业价值却不清晰的用户自建智能体。继续把它们放在主产品里，已经不划算了。于是，豆包选择把智能体拆分出去，迁到垂直App“猫箱”里，单独搭建审核、分级和防沉迷体系；通义千问则更直接，截至7月4日，创建智能体的入口已经从页面上彻底消失了。方式不一样，但结果都一样。

与此同时，另一类智能体正在被推到前台。7月4日，广州发布了“穗智政”政务人工智能中枢。它采用统一底座、集约建设的方式，已经建成28个智能体，年内还将完成50个，覆盖100个应用场景。和用户自建智能体不同，这些政务智能体从一开始就被放在统一管理框架下。每个智能体服务什么场景、能调用什么能力、由谁来维护，都有更明确的边界。

同样是智能体，一个方向是开放广场里的海量创建，另一个方向是平台统一管理、按场景建设。前者曾经代表热闹，后者更符合现在平台想要的确定性。短短两三年，行业竞争的重点已经变了。早期，平台希望用海量智能体做出繁荣感，让用户和开发者不断创造新角色、新工具。现在，随着模型能力提升、监管要求落地、商业化压力变大，平台更看重的是一个Agent能不能真正完成任务，能不能被管理，能不能产生清晰的价值。

800万个用户自建智能体曾经是增长故事的一部分。现在，它们变成了必须重新处理的问题。智能体不会消失，但那种谁都可以创建、谁都可以扮演、谁都可以被陪伴的阶段，正在结束。