上万条“AI魔改”视频被清理！南都曾起底滥用AI侵权乱象

8月4日，南都N视频记者获悉，部分重点网络视听平台公布了7月“AI魔改”视频专项治理工作的处置情况，共清理违规视频13300余条、处置违规账号30余个。南都N视频持续推出《AI魔性侵权乱象系列调查》，聚焦声音克隆、虚拟伴侣乱象等，在AI创作平台上，只需上传3秒原声便能克隆音色并任意“魔改”台词。

“AI魔改”视频截图。

据了解，按照国家广播电视总局工作部署，1月开展的“AI魔改”视频专项治理工作已取得实效。为进一步巩固治理成果，自2月1日起，“AI魔改”视频治理工作通过常态化、制度化长效机制持续开展。

广电总局督导各主要网络视听平台进一步深化落实主体责任，加强日常排查，重点清理基于四大名著、历史题材、革命题材、英模人物等经典影视作品进行“AI魔改”的违规视频，并同步清理各类邪典动画，持续营造健康的网络视听生态环境。

南都N视频持续推出《AI魔性侵权乱象系列调查》，起底滥用AI生成技术的侵权现象背后产业链。

南都此前报道。

4月上旬，南都记者实测发现，在AI创作平台ViiTor AI上，只需上传3秒原声，几分钟便能克隆音色并任意改词；电影《哪吒之魔童闹海》主角配音演员吕艳婷等人的多段原声，出现在音色库公开素材中，使用人数早已过万；而二手交易平台上AI声音克隆服务每50字收费不到1元。大量商家声称AI克隆音色相似度超98%，但面对侵权质疑时直言“问就是有侵权”。

4月7日，知名配音演员季冠霖也通过南都发出倡议，呼吁平台建立侵权内容快速识别和下架机制，“技术应为文明赋能，而非成为侵权的温床”。

调查报道发出后，多地监管部门将“AI技术滥用”列为整治的重点领域。4月16日，南都记者再次进入ViiTor AI平台发现，“音色克隆”功能中已无法直接上传音视频文件，“请上传3-5秒音频或视频”的选项被删除；而公共素材库中已无法搜索到“哪吒”等相关音色。 

同日，ViiTor AI平台相关负责人回应南都记者表示，“平台公共音色库内容均为用户自主上传的UGC内容。平台仅执行必要的合规筛选，不对音色内容进行主动推荐、编辑或干预。对确属侵权且证据明晰的举报内容，平台会核验并采取下架、屏蔽等措施。”

采写：南都N视频记者 彭雨欣

编辑：冯奕然

更多报道请看专题：AI魔性侵权乱象调查