6月20日，据“网信中国”消息，“清朗·整治AI技术滥用”专项行动自4月启动以来，中央网信办聚焦AI换脸拟声侵犯公众权益、AI内容标识缺失误导公众等AI技术滥用乱象，深入推进第一阶段重点整治任务。南都、N视频《真假即时查》栏目曾推出报道《网红造谣的幕后生意：以AI造假起号引流，涨粉后再转型转卖》，起底这一灰色产业链。

南都此前报道。

据介绍，中央网信办深入推进第一阶段重点整治任务，部署各地网信部门加大违规AI产品处置力度，切断违规产品营销引流渠道，督促重点网站平台健全技术安全保障措施，推动生成合成内容标识加速落地。第一阶段累计处置违规小程序、应用程序、智能体等AI产品3500余款，清理违法违规信息96万余条，处置账号3700余个。

下一步，中央网信办将聚焦AI造谣、低俗内容等7类突出问题，开展“清朗·整治AI技术滥用”专项行动第二阶段工作，构建技术监测体系，形成处置处罚规范，推动内容标识如期落地，形成长效工作机制，着力维护清朗网络生态，推动人工智能向善向好。

5月13日，南都、N视频辟谣专栏《真假即时查》调查发现，当前，为起号引流涨粉，不法分子的手段逐渐升级。他们利用AI深度伪造，误导公众认知，快速起号后，开始带货、卖课等。有的被明码标价放到账号交易网站上，形成“起号、转型、转卖”的灰色产业链。

视频里，外表靓丽的外国女性正在用带着口音的普通话说出“金句”。她自称是一位来自俄罗斯的“思维导师”。然而，僵硬的面部表情、丝滑流畅却情绪怪异的台词，种种迹象表明这是虚拟数字人，但有的视频却并未进行标注。南都记者搜索发现，类似的视频账号还有许多，粉丝数少则数万，多则十余万。有的账号橱窗上架不少商品。

“随便一条都是几百万的播放，变现能力也非常强，挂车卖书都能赚25万元。”博主王成（化名）擅长此道，他向南都记者介绍，“这类型的视频，制作起来真的太简单了。用AI一键就可以生成，不用出镜剪辑，人人都可以做。”

采写：南都记者 敖银雪

编辑：韦娟明

本文作者

敖银雪

6.41亿

南方都市报记者

韦娟明

10.49亿

南方都市报记者