最高法明确AI换脸拟声诉讼规则！南都曾起底声音克隆乱象

9月7日，南都N视频记者获悉，最高人民法院发布关于依法审理涉人工智能纠纷案件的意见，精准聚焦“AI换脸拟声”等侵权行为，如操控虚拟形象、合成声音实施不当行为或者发表不实言论等。南都N视频持续推出《AI魔性侵权乱象系列调查》，起底声音克隆等乱象及背后产业链，在AI创作平台上，只需上传3秒原声便能克隆音色并任意改词。

南都此前报道。

最高人民法院发布关于依法审理涉人工智能纠纷案件的意见（下称《意见》），精准聚焦社会各界关注的“AI换脸拟声”、“AI幻觉”侵权、“网络开盒”等问题，针对性明确涉人工智能案件实体裁判和诉讼程序规则。

《意见》依法规制“AI换脸拟声”“AI复活逝者”等利用生成式人工智能侵害人格权益的行为，其中明确规定，未经同意利用人工智能处理自然人的姓名、肖像等，生成可识别该自然人的虚拟数字形象并使用、公开的，构成对姓名权、肖像权等人格权益的侵害。

此外，《意见》明确，未经同意使用自然人声音作为训练语料，模仿其音色、语调和发音风格生成可识别的合成人声的，构成对声音权益的侵害。操控虚拟形象、合成声音实施不当行为或者发表不实言论、降低他人社会评价的，构成对名誉权的侵害，依法追究行为人的侵权责任。

南都N视频持续推出《AI魔性侵权乱象系列调查》，起底滥用AI生成技术的侵权现象背后产业链。

4月上旬，南都记者实测发现，在AI创作平台ViiTor AI上，只需上传3秒原声，几分钟便能克隆音色并任意改词；电影《哪吒之魔童闹海》主角配音演员吕艳婷等人的多段原声，出现在音色库公开素材中，使用人数早已过万；而二手交易平台上AI声音克隆服务每50字收费不到1元，商家面对侵权质疑时直言“问就是有侵权”。

调查报道发出后，多地监管部门将“AI技术滥用”列为整治的重点领域。4月16日，南都记者再次进入ViiTor AI平台发现，“音色克隆”功能中已无法直接上传音视频文件，“请上传3-5秒音频或视频”的选项被删除；而公共素材库中已无法搜索到“哪吒”等相关音色。 

“AI角色撞脸真人明星”现象、利用AI技术伪造视频推荐产品也持续引发各界关注。南都记者此前调查发现，“AI明星换脸”在网络上有不同的消费套餐，价格在28元至138元不等，68元即可购买一套AI技术明星换脸淫秽视频，共500部左右。

采写：南都N视频记者 彭雨欣

编辑：冯奕然

更多报道请看专题：AI魔性侵权乱象调查