首页 >行业资讯 >详情

20万条内容被处置,AI“悲惨儿童”为什么成了平台治理的靶心

2026-09-15196浏览

抖音9月10日发布的一则治理通报,把一个不算新的问题推到了台前。据抖音黑板报公告及央广网等媒体报道,近一个月平台共处置涉未成年人违规内容20万条、违规直播间2044个、违规账号8132个。通报中列出的三类典型违规情形里,有一类格外扎眼:利用AI技术生成“未成年人全身烧伤躺在病床上”等内容,刻意营造悲惨处境,诱导用户互动,以此吸粉引流。

 

如果只是普通的内容违规,20万条这个数字并不算异常。抖音今年4月就曾披露过一个月清理20.4万条涉未成年人违规内容的数据,快手全年清理涉未成年人违规信息82万条。真正让这次通报值得行业关注的,是AI生成内容被单独拎出来列为典型违规情形。

 

往前看,AI涉未成年人内容的灰色地带已经存在了大半年。今年1月,抖音就曾公告处置过一批利用AI生成未成年人“卖惨”内容的账号,180个账号因批量发布“早产婴儿住院”“寒冬中未成年人背负柴火哭泣”等AI生成内容被禁言。到了7月,中央网信办启动“清朗·未成年人网络保护”专项行动,将批量炮制猎奇、审丑类AI短剧列为重点整治对象。更近一些,某微短剧头部平台8月单月就拦截下架了138部存在儿童负面情节的AI剧,包括让儿童形象演绎心机、腹黑、总裁等成人化人设。

 

这些案例串在一起,一条线索逐渐清晰:AI生成技术正在被部分创作者当成绕过真人出镜审核门槛的捷径。真人拍摄涉未成年人悲惨内容,演员需要出镜、需要监护人同意、平台审核有据可查。换成AI生成,画面里的孩子是虚拟的,创作者觉得“没有真实的未成年人受到伤害”,审核尺度似乎也可以松一松。但从平台治理的角度看,观众在屏幕前看到的就是一个儿童形象在受苦,内容的传播效果和受众感受不会因为“AI生成”四个字而打折扣。

 

有意思的是,监管和平台对这个问题的回应方式也在变化。早期的治理逻辑侧重于“管形象”——识别出镜者是否真的是未成年人,据此判断是否违规。但AI内容把这个逻辑推到了一个尴尬的位置:画面里没有真人,识别系统抓不到人脸,账号可以辩称“这是虚拟创作”。所以到了今年,治理思路开始转向“管内核”——评判内容优劣、界定违规边界,不在于出镜形象是真人还是AI,而在于受众指向、叙事内容和价值导向。只要以儿童形象为载体、面向公众传播,就应当遵循同一套内容准则。

 

这个转变对创作者来说意味着什么?坦白说,以前那种“打擦边球”的空间正在快速收窄。抖音在通报中表态要“持续强化技术手段,对涉未成年人违规内容从严从重处置”,同时多模态识别模型、人脸实时治理系统等技术手段已在各平台铺开。纯靠AI生成内容博眼球的账号,面临的不仅是禁言封号,还有被清退商业变现资格的风险。

 

从更大的行业背景看,这件事的参考价值不仅限于未成年人内容这个垂直领域。今年上半年,中央网信办在“清朗·整治AI应用乱象”专项行动中,已累计清理违法违规AI生成信息5万余条,各大平台同步优化了多模态识别模型、动态扩充了违规样本库。对内容从业者而言,AI工具提高了生产效率,但不代表可以降低对内容底线的判断标准。尤其是涉及未成年人题材时,AI的“虚拟性”不构成免责理由。

 

一个值得留意的信号是,监管正在从内容端向产业链上游延伸。中央网信办在“清朗”专项行动中明确提出,MCN机构不得利用旗下账号包装炒作网红儿童,不得以学习分享等为名要求未成年人频繁出镜引流牟利。这意味着,即便内容本身由AI生成,如果背后存在机构化的运营和变现链条,同样会被纳入追责范围。对于制作儿童类内容的团队来说,与其在审核红线边缘试探,不如把精力放在合规框架内的内容创新上。毕竟,平台治理的技术能力在迭代,观众的辨别能力也在提升,靠“卖惨”赚快钱的窗口,大概不会一直开着。

 

 

本文主要信息来源:

- 抖音黑板报公告(2026年9月10日发布)

- 央广网《抖音持续治理涉未成年人不良内容 近一个月处置违规内容20万条》

- 澎湃新闻《AI生成未成年人低俗擦边内容,39个账号被无限期禁言!》(2026年1月2日)

- 大河财立方《AI伪造“烧伤儿童”骗流量!抖音1个月处置8000多个违规账号》

- 中央网信办“清朗·未成年人网络保护”专项行动通知及相关报道

- 德州新闻网《AI生成的低俗儿童微短剧,为何屡禁不止?》

- 快手《2026年度未成年人保护报告》

- 中新社《青少年发展蓝皮书:中国未成年网民达1.98亿》

- 新华网《中央网信办深入开展“清朗·整治AI应用乱象”专项行动第二阶段工作》

免责声明: 本文为行业观察与分析,所涉信息均来自公开渠道,仅供内容从业者参考交流,不构成任何投资或经营建议。文中引用的平台治理数据及行业政策以相关方官方发布为准。


我要评论
发表评论

评论(0条)

查看全部评论 >

相关资讯

国内票房40元,北美发行落地:这笔账的关键从来不在北美能赚多少

57阅读

百元线以上必须送检:抖音把珠宝直播间最赚钱的那段价格带,放进了质检仓

91阅读

一周后开演,300万人抢3.6万张票:肖战上海站把演唱会“预售制”的底牌抽掉了

73阅读

400亿的盘子,九成的公司不赚钱:AI影视的“降本”故事,账最后算到了谁头上

86阅读

183款版号落地,稀缺的早就不是版号了

82阅读

6000万的《牛来》和43万分的《三星堆》:观众花钱买的,从来不是“做得好不好”

98阅读

完美世界把AI长片做完了,但更值得看的是台上那个“卖脸”的平台

77阅读

49万部上线,14部推优:“第四大”的体量,和它还没填上的里子

78阅读

百亿开机广告一夜清零,电视大屏的生意要换一本账算了

87阅读

抖音把收藏率排到完播率前面,这件事比它听起来要重

53阅读

43万分账,千万成本:博纳的AI电影,把概念定价的账本翻到了最后一页

63阅读

红果1.68亿,绿泡泡1.43亿:短剧对垒比的不是DAU,是两种“注意力”的变现账本

72阅读

​AI一天能产43万部,但人民日报这篇文章说,有些东西机器替不了

83阅读

1750亿、3000亿、210亿:三个GMV坐标摆在一起,看的不是谁大,是谁在变

68阅读

广告合规挪位置了:从"你说了什么",挪到"AI会不会推荐你"

85阅读

48小时,三位女艺人,同一个动作:品牌合影区不该靠"体面"撑着

77阅读

81亿票房,5012万利润:光线传媒这份财报最该被看见的不是暴跌

101阅读

一周不到两个亿,这不是淡季的意外,是上游收缩传到影院的第一声回响

94阅读

横店把“先授权”写进倡议书,AI短剧的“素材拿来主义”碰到第一道产业级闸门

134阅读

定档时涨停,上映后跌停:AI电影的第一张票房成绩单,考的不是技术

125阅读

谦寻:从“一个人的直播间”到“一套产业操作系统”,谦寻的十年,重新定义直播电商的终局

130阅读

笑咖传媒:沈阳这家MCN的三个东北人靠“讲故事”圈粉1.2亿,拿下抖音“好内容穿越周期奖”

114阅读

西优:从“告趣子品牌”到2552位达人的生态底盘,正在做MCN行业的“隐形基建”

109阅读

陈泽:从绥棱网吧少年到4000万粉的“最强NPC”,一个把“OK了老铁们”做成超级符号的草根逆袭者

191阅读

天赋星球:从流量到资产,正在重写MCN的终局逻辑

137阅读

一数:从北大保送生到2588万粉的“B站掌管数学的神”,一个用免费网课让年轻人“不愿毕业”的数学UP主

152阅读

睿吉诺文化:3000位达人、年变现过亿,这家从重庆起家的MCN把“帮达人赚钱”做成了一门系统生意

117阅读

从“程十安an”到“姜乘澜”:一个美妆顶流的“消失”与“重生”,停更三年,归来仍是无数女生的“化妆启蒙老师”

127阅读

小约翰可汗:从“新人up主”到知识区首位千万粉UP主,“通辽宇宙”让1090万人笑着学历史

122阅读

侵尘文化:近4000位博主、4亿粉丝,这家宁波MCN靠一套“数据系统”重构了种草逻辑

131阅读

章小蕙:从“香港第一败家女”到200万人的“审美导师”,一个把“花钱”变成印钞机的传奇女人

191阅读

乾派文化:签约超2000名创作者、B站内容影响力榜榜首,这家深圳MCN把“数据工具”做成了内容底盘

116阅读

影视飓风Tim:从“网瘾少年”到1733万粉的“技术狂人”,一个把“无限进步”做成信仰的95后

130阅读

汪帅:从电视剧“枪手”到金鹰奖导演,一个“轴人”用长剧思维做短剧

137阅读

李玺威:做过甲方也做过乙方的编剧,最在意的是“把人物写好”

117阅读

华张一:她用五年画一首诗,把《聊斋志异》画成了另一种“人间”

137阅读

小河:一个说“我是田巧云和何萍所的第三个儿子”的人,九年捡回了一千首童谣

113阅读

何必:一个在真人短剧赛道打赢过的人,为什么在2024年All in AI

111阅读

志鸟村:写了20年行业文,他把“冷门”变成了“爆款”

111阅读

热熠精选

会员登录

公众号

官方客服