小红书严打“毒动画”：全量下架有关笔记，违规账号永久封禁

8月7日上午消息，近日，小红书发布“清朗·未成年人网络保护”专项行动开展以来的治理进展。平台已全面排查数十类涉未成年人高发风险，累计处置违规笔记8.4万余篇、违规评论10.5万余条、违规账号3571个。

针对未成年人风险场景，小红书启动了多项治理举措。一方面强化主动巡查与拦截，针对刻意使用圈层暗语、变种图片等恶意逃避审核的行为升级风险识别模型，实施前置拦截；另一方面通过全链路摸排，全面斩断有害内容传播链条，针对利用AI批量炮制猎奇短剧、传播“毒动画”资源等行为，对相关笔记、评论、群聊实施跨场景追踪与连带查处，切断传播与引流链路；此外，对于屡教不改、恶意引流牟利侵害未成年人身心的账号予以从重处罚和线索上报，对其账号予以永久封禁、限制互动功能，对涉嫌违法犯罪的线索移交公安机关，依法追究其法律责任。

在治理进展公告中，小红书公示了专项期间查处的典型案例。有账号利用AI技术魔改经典动画并植入恐怖、低俗元素，如恶意生成恐怖版《天线宝宝》视频；有账号以“俱乐部招聘”话术为伪装，利用谐音发布招聘笔记，再用黑灰产暗语为诱饵，诱骗未成年人脱离平台不当交友；在巡查中还发现有账号发布煽动自我伤害的图文。相关账号均被永久封禁，相关有害笔记全量下架。

7月底，小红书发布了青少年暑期网络治理进展。针对借儿童熟悉的动画、童话IP传播血腥暴力猎奇内容，以“玩梗”形式美化自我伤害的行为，以及针对不当利用未成年人形象引流牟利内容和账号，进行了批量处置。

小红书表示，已将AI魔改视频纳入常态化治理，以AI魔改四大名著、历史革命英烈题材等影视作品，以及利用知名动画形象制作严重歪曲原作、渲染暴力低俗内容为重点整治目标，并从存量清理、拦截策略增补与AIGC识别策略优化等方面推进。仅在7月，平台新增清理处置AI魔改视频违规内容1255条，处置违规账号27个，被处置账号涉及高频发布AI魔改《西游记》《甄嬛传》及《海绵宝宝》等儿童邪典动画内容。

在内容治理之外，小红书对涉未成年人的商品与交易同步加强管控。据了解，平台已建立社区、电商等多部门统一的管控机制，一方面限制未成年人接触和购买盲盒抽卡、刀具等风险商品，另一方面严格管控商家利用未成年人形象兜售、宣传商品，以及上架不利于未成年人身心健康的商品。管控载体覆盖商品、笔记与直播，平台通过机审策略、算法模型与人工审核识别商品描述中的违规文字、图片、视频，对违规商品和店铺予以限流、冻结处置。