首页 >行业资讯 >详情

20万条内容被处置,AI“悲惨儿童”为什么成了平台治理的靶心

2026-09-156浏览

抖音9月10日发布的一则治理通报,把一个不算新的问题推到了台前。据抖音黑板报公告及央广网等媒体报道,近一个月平台共处置涉未成年人违规内容20万条、违规直播间2044个、违规账号8132个。通报中列出的三类典型违规情形里,有一类格外扎眼:利用AI技术生成“未成年人全身烧伤躺在病床上”等内容,刻意营造悲惨处境,诱导用户互动,以此吸粉引流。

 

如果只是普通的内容违规,20万条这个数字并不算异常。抖音今年4月就曾披露过一个月清理20.4万条涉未成年人违规内容的数据,快手全年清理涉未成年人违规信息82万条。真正让这次通报值得行业关注的,是AI生成内容被单独拎出来列为典型违规情形。

 

往前看,AI涉未成年人内容的灰色地带已经存在了大半年。今年1月,抖音就曾公告处置过一批利用AI生成未成年人“卖惨”内容的账号,180个账号因批量发布“早产婴儿住院”“寒冬中未成年人背负柴火哭泣”等AI生成内容被禁言。到了7月,中央网信办启动“清朗·未成年人网络保护”专项行动,将批量炮制猎奇、审丑类AI短剧列为重点整治对象。更近一些,某微短剧头部平台8月单月就拦截下架了138部存在儿童负面情节的AI剧,包括让儿童形象演绎心机、腹黑、总裁等成人化人设。

 

这些案例串在一起,一条线索逐渐清晰:AI生成技术正在被部分创作者当成绕过真人出镜审核门槛的捷径。真人拍摄涉未成年人悲惨内容,演员需要出镜、需要监护人同意、平台审核有据可查。换成AI生成,画面里的孩子是虚拟的,创作者觉得“没有真实的未成年人受到伤害”,审核尺度似乎也可以松一松。但从平台治理的角度看,观众在屏幕前看到的就是一个儿童形象在受苦,内容的传播效果和受众感受不会因为“AI生成”四个字而打折扣。

 

有意思的是,监管和平台对这个问题的回应方式也在变化。早期的治理逻辑侧重于“管形象”——识别出镜者是否真的是未成年人,据此判断是否违规。但AI内容把这个逻辑推到了一个尴尬的位置:画面里没有真人,识别系统抓不到人脸,账号可以辩称“这是虚拟创作”。所以到了今年,治理思路开始转向“管内核”——评判内容优劣、界定违规边界,不在于出镜形象是真人还是AI,而在于受众指向、叙事内容和价值导向。只要以儿童形象为载体、面向公众传播,就应当遵循同一套内容准则。

 

这个转变对创作者来说意味着什么?坦白说,以前那种“打擦边球”的空间正在快速收窄。抖音在通报中表态要“持续强化技术手段,对涉未成年人违规内容从严从重处置”,同时多模态识别模型、人脸实时治理系统等技术手段已在各平台铺开。纯靠AI生成内容博眼球的账号,面临的不仅是禁言封号,还有被清退商业变现资格的风险。

 

从更大的行业背景看,这件事的参考价值不仅限于未成年人内容这个垂直领域。今年上半年,中央网信办在“清朗·整治AI应用乱象”专项行动中,已累计清理违法违规AI生成信息5万余条,各大平台同步优化了多模态识别模型、动态扩充了违规样本库。对内容从业者而言,AI工具提高了生产效率,但不代表可以降低对内容底线的判断标准。尤其是涉及未成年人题材时,AI的“虚拟性”不构成免责理由。

 

一个值得留意的信号是,监管正在从内容端向产业链上游延伸。中央网信办在“清朗”专项行动中明确提出,MCN机构不得利用旗下账号包装炒作网红儿童,不得以学习分享等为名要求未成年人频繁出镜引流牟利。这意味着,即便内容本身由AI生成,如果背后存在机构化的运营和变现链条,同样会被纳入追责范围。对于制作儿童类内容的团队来说,与其在审核红线边缘试探,不如把精力放在合规框架内的内容创新上。毕竟,平台治理的技术能力在迭代,观众的辨别能力也在提升,靠“卖惨”赚快钱的窗口,大概不会一直开着。

 

 

本文主要信息来源:

- 抖音黑板报公告(2026年9月10日发布)

- 央广网《抖音持续治理涉未成年人不良内容 近一个月处置违规内容20万条》

- 澎湃新闻《AI生成未成年人低俗擦边内容,39个账号被无限期禁言!》(2026年1月2日)

- 大河财立方《AI伪造“烧伤儿童”骗流量!抖音1个月处置8000多个违规账号》

- 中央网信办“清朗·未成年人网络保护”专项行动通知及相关报道

- 德州新闻网《AI生成的低俗儿童微短剧,为何屡禁不止?》

- 快手《2026年度未成年人保护报告》

- 中新社《青少年发展蓝皮书:中国未成年网民达1.98亿》

- 新华网《中央网信办深入开展“清朗·整治AI应用乱象”专项行动第二阶段工作》

免责声明: 本文为行业观察与分析,所涉信息均来自公开渠道,仅供内容从业者参考交流,不构成任何投资或经营建议。文中引用的平台治理数据及行业政策以相关方官方发布为准。


我要评论
发表评论

评论(0条)

查看全部评论 >
会员登录

公众号

官方客服