抖音打击AI炮制“邪典动画”,391个违规账号被全面禁言

南都N视频APP · 政商数据
原创2025-12-18 21:35

12月18日,抖音发布公告称,平台持续深化涉未成年人治理举措,严禁用户通过任何渠道、以任何形式发布涉未成年人不良内容。近一个月,针对涉未成年人的违规场景,平台共清理相关违规内容超20万条,对超8000个账号处以清理违规增长粉丝、限制商业变现功能、禁言、封禁等不同梯度的处罚。

抖音表示,近期平台发现部分用户利用AI技术升级违规手段,侵害未成年人合法权益,具体表现为:AI生成未成年人低俗擦边形象“养号涨粉”;AI生成虚假的未成年人“卖惨”内容,博取同情不当牟利;AI恶意魔改经典动画、动漫和文学形象,炮制含有血腥、暴力、低俗等不良元素的“儿童邪典”内容,危害未成年人身心健康。平台已下架相关违规内容,近一个月,对610个相关违规账号全面禁言。 

典型案例

1AI生成未成年人低俗擦边内容,39个账号被全面禁言

“雪*象”“群**”等账号多次发布由AI生成的、穿着暴露且刻意突出敏感部位的幼态化形象,营造低俗擦边观感,借此“养号涨粉”。平台立即下架相关违规内容,账号因恶意违规已被无限期禁言。  

2AI生成未成年人卖惨内容,180个账号被全面禁言

“1*2”“7*9”等账号批量发布利用AI生成的“早产婴儿住院”“寒冬中未成年背负柴火哭泣”等内容,刻意营造未成年人悲惨处境,并通过文案、话题标签等诱导用户评论区互动,以此吸粉引流。平台已下架相关内容,并对账号处以清理违规粉丝、限制商业变现、禁言处罚。   

3AI炮制暴力邪典动画391个账号被全面禁言

“2*8”“1*g”等账号打着“儿童动画”标签,用动画人物形象制作AI视频,演绎残害肢体等血腥暴力、低俗恐怖画面,危害未成年人身心健康。平台已下架相关违规内容,并对账号处以禁言处罚。 

抖音表示,保护未成年人健康成长任重而道远,需要家庭、学校、行业等社会各界广泛参与、协同努力。平台将持续强化技术手段,提升审核能力,加强对涉未成年人不良内容的全方位治理,与社会各界一道,共同筑牢未成年人网络安全防线。

编辑:甄芹

南都N视频,未经授权不得转载、授权联系方式
banquan@nandu.cc. 020-87006626