3月18日，南都记者从网信办公众号获悉，近日，国家互联网信息办公室、公安部指导各地网信部门、公安机关加强对语音社交软件和涉“深度伪造”技术的互联网新技术新应用安全评估工作。

针对近期未履行安全评估程序的语音社交软件和涉“深度伪造”技术的应用，国家互联网信息办公室、公安部指导北京、天津、上海、浙江、广东等地方网信部门、公安机关依法约谈映客、小米、快手、字节跳动、鲸准数服、云账户、喜马拉雅、阿里巴巴、网易云音乐、腾讯、去演等11家企业，督促其按照《网络安全法》《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》等法律法规及政策要求，认真开展安全评估，完善风险防控机制和措施，并对安全评估中发现的安全隐患及时采取有效整改措施，切实履行企业信息内容安全主体责任。

南都记者查阅发布在《软件学报》的论文《深度伪造与检测技术综述》可知，近年来，以 Deepfakes 为代表的换脸技术开始在网络兴起。此类技术可将视频中的人脸替换成目标人物，从而制作出目标人物做特定动作的假视频。一些恶意用户利用互联网上可获取的数据生成众多的假视频并应用在灰色地带，如将色情电影的女主角替换成女 明星，给政客、公司高管等有影响力的人伪造一些视频内容，从而达到误导舆论，赢得选取，操纵股价等目的。这些虚假视频内容极其逼真，在制作的同时往往伴随着音频的篡改，使得互联网用户几乎无法鉴别。当遇到案件侦查和事故取证时，如果缺乏对 Deepfakes 类虚假影像资料的鉴别，将对司法体系产生巨大的挑战。

而语音伪造也叫做语音版Deepfakes,利用AI技术合成虚假语音。通常有文本到语音合成和语音转换两种形式。文本到语音合成主要完成指定文本的语音信息 输出，语音转换则是指转换人的音色到目标音色。这些语音的合成不仅可以欺骗人的听觉，还可以欺骗一些自动语音认证系统。

上述相关部门表示，根据《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》要求，出现具有舆论属性或社会动员能力的信息服务上线，或者信息服务增设相关功能；使用新技术新应用，使信息服务的功能属性、技术实现方式、基础资源配置等发生重大变更；用户规模显著增加等情形，互联网信息服务提供者应当自行开展安全评估，对评估结果负责，并向网信部门和公安机关提交报告。网信部门和公安机关根据对安全评估报告的书面审查情况，认为有必要的，应当依据各自职责对互联网信息服务提供者开展现场检查。

下一步，国家互联网信息办公室、公安部将继续指导各地网信部门和公安机关加大巡查检查力度，督促属地互联网企业严格遵守相关法律法规，积极主动履行安全管理义务，切实履行企业主体责任，共同维护网络传播秩序，营造良好网络生态。

采写：实习生 于典 南都记者 徐冰倩 

编辑：田爱丽

本文作者

徐冰倩

1.35亿

南方都市报记者

田爱丽

4.07亿

南方都市报记者