4月30日，“网信中国”发文指出，中央网信办开展“清朗·整治AI应用乱象”专项行动，重点整治未经授权利用AI提供“换脸拟声”服务、利用AI“换脸换声”假冒公众人物等。南都N视频持续推出《AI魔性侵权乱象系列调查》，聚焦声音克隆等乱象，在AI创作平台上，只需上传3秒原声便能克隆音色并任意改词；而二手交易平台上声音克隆服务每50字收费仅不到1元。

相关平台可克隆演员陈建斌的音色并合成其他台词。

中央网信办有关负责人表示，专项行动重点整治滥用AI技术开展违法违规活动，包括借助AI技术实施渗透入侵、恶意样本注入、破坏计算机系统等网络攻击行为；未经他人授权，利用AI技术提供“换脸拟声”服务；盗用他人形象，通过数字虚拟人技术进行直播、影像创作，或提供金融咨询、医疗问答等专业服务等。

此外，专项行动还将整治假冒仿冒他人等突出问题，包括利用AI“换脸”“换声”假冒仿冒公众人物发布不实言论，欺骗网民，甚至营销牟利，或生成合成含有攻击、抹黑、贬损他人的信息等。

南都N视频持续推出《AI魔性侵权乱象系列调查》，起底滥用AI生成技术的侵权现象背后产业链。

南都此前报道。

4月上旬，南都记者实测发现，在AI创作平台ViiTor AI上，只需上传3秒原声，几分钟便能克隆音色并任意改词；电影《哪吒之魔童闹海》主角配音演员吕艳婷等人的多段原声，出现在音色库公开素材中，使用人数早已过万；而二手交易平台上AI声音克隆服务每50字收费不到1元。大量商家声称AI克隆音色相似度超98%，但面对侵权质疑时直言“问就是有侵权”。

调查报道发出后，多地监管部门将“AI技术滥用”列为整治的重点领域。4月16日，南都记者再次进入ViiTor AI平台发现，“音色克隆”功能中已无法直接上传音视频文件，“请上传3-5秒音频或视频”的选项被删除；而公共素材库中已无法搜索到“哪吒”等相关音色。

配音演员的声音正成为AI魔性侵权的“重灾区”。知名配音演员季冠霖也通过南都发出倡议，呼吁平台建立侵权内容快速识别和下架机制，“技术应为文明赋能，而非成为侵权的温床”。

采写：南都N视频记者 林诗妍

编辑：冯奕然

更多报道请看专题：AI魔性侵权乱象调查