小红书处置上千个AI换脸换声等账号！南都曾曝光相关产业链

8月26日，小红书“薯管家”公示整治AI应用乱象治理成效，平台共处置违规笔记15万余篇，违规账号1400余个。平台公布了利用AI换脸换声假冒知名公众人物引流带货、利用AI制作儿童“邪典”及无底线二创动画等多个典型案例。南都N视频持续推出《AI魔性侵权乱象系列调查》，起底滥用AI生成技术的侵权现象背后产业链。

南都此前报道。

小红书平台公布的典型案例中，有多个账号利用AI技术“魔改”古典名著《西游记》，植入低俗内容，歪曲解构古典名著精神内涵，存在不良价值导向。“值＊你”“唐＊活”等账号利用AI换脸换声假冒知名公众人物，引流带货、营销牟利。“蜜＊智”“懵＊飓”等账号利用AI制作发布恐怖惊悚、诡异猎奇画面，破坏社区生态，影响用户身心健康。

据平台披露，有账号以《熊出没》《小猪佩奇》等未成年人喜爱的动画形象为原型，利用AI制作带有不良价值观的二创动画；还有账号利用AI制作伤害未成年人的内容，影响未成年人身心健康。典型案例中还包含利用AI托管账号批量注册，批量发布同质化文案；推广仿冒套壳AI应用，色情陪聊等服务课程。

“AI角色撞脸真人明星”现象、利用AI技术伪造视频推荐产品持续引发各界关注。南都记者此前调查发现，“AI明星换脸”在网络上有不同的消费套餐，价格在28元至138元不等，68元即可购买一套AI技术明星换脸淫秽视频，共500部左右。

南都持续推出《AI魔性侵权乱象系列调查》，聚焦声音克隆、虚拟伴侣等，起底滥用AI生成技术的侵权现象背后产业链。

南都记者实测发现，在AI创作平台ViiTor AI上，只需上传3秒原声，几分钟便能克隆音色并任意改词；电影《哪吒之魔童闹海》主角配音演员吕艳婷等人的多段原声，出现在音色库公开素材中，使用人数早已过万；而二手交易平台上AI声音克隆服务每50字收费不到1元。大量商家声称AI克隆音色相似度超98%，但面对侵权质疑时直言“问就是有侵权”。

面对AI魔性侵权乱象，4月2日，中国广电联合会演员委员会发布严正声明，坚决维护演员声音、形象等人格权益，呼吁加快完善法律法规，遏制技术滥用；应强化平台监管责任，建立健全侵权内容的快速识别与下架机制。 

采写：南都N视频记者 彭雨欣

编辑：冯奕然