平台处置超两万条魔改动画内容！南都曾起底AI魔性侵权乱象

7月11日，南都N视频记者从“抖音黑板报”获悉，近期，针对魔改经典儿童动画，平台共处置违规内容2.34万条，处置违规账号1300个。南都N视频持续推出《AI魔性侵权乱象系列调查》，聚焦声音克隆、虚拟伴侣乱象等，在AI创作平台上，只需上传3秒原声便能克隆音色并任意“魔改”台词。

南都此前报道。

据抖音平台公告，近期，部分账号以“儿童动画”“早教启蒙”为名，利用AI技术恶意魔改经典动画，传播低俗、暴力等不良内容，影响未成年人身心健康；或借此诱导互动、吸粉引流、不当牟利。对此，平台第一时间下架违规内容、处置相关账号，并持续升级打击力度。

其中，典型案例一为，AI魔改经典动画，诱导未成年人互动，账号被禁言。账号“9*5”打着儿童动画旗号，利用AI技术恶意魔改经典动画作品，刻意植入暴力悲惨情节，以低龄幼态暗示话术等方式诱导未成年人点赞、关注，以此养号涨粉。平台识别后，已下架相关违规内容，并对账号予以禁言处置。

典型案例二为，恶意篡改动画情节，传播低俗暴力，账号被禁言。账号“8*7”发布多个魔改经典动画视频，植入“把孩子从高空丢下”等暴力情节及“男生怀孕”等低俗内容，危害未成年人身心健康。平台识别后，立即下架相关违规内容，并对账号予以禁言处置。

南都N视频持续推出《AI魔性侵权乱象系列调查》，起底滥用AI生成技术的侵权现象背后产业链。

4月上旬，南都记者实测发现，在AI创作平台ViiTor AI上，只需上传3秒原声，几分钟便能克隆音色并任意改词；电影《哪吒之魔童闹海》主角配音演员吕艳婷等人的多段原声，出现在音色库公开素材中，使用人数早已过万；而二手交易平台上AI声音克隆服务每50字收费不到1元。大量商家声称AI克隆音色相似度超98%，但面对侵权质疑时直言“问就是有侵权”。

4月7日，知名配音演员季冠霖也通过南都发出倡议，呼吁平台建立侵权内容快速识别和下架机制，“技术应为文明赋能，而非成为侵权的温床”。

调查报道发出后，多地监管部门将“AI技术滥用”列为整治的重点领域。4月16日，南都记者再次进入ViiTor AI平台发现，“音色克隆”功能中已无法直接上传音视频文件，“请上传3-5秒音频或视频”的选项被删除；而公共素材库中已无法搜索到“哪吒”等相关音色。 

采写：南都N视频记者 彭雨欣

编辑：马辉

更多报道请看专题：AI魔性侵权乱象调查