南都讯 记者蒋琳 以后发布“换脸”“仿声”视频，平台将被要求用显著标识向公众提示视频使用了深度合成技术，否则涉嫌违规。12月11日晚，国家网信办、工信部、公安部发布《互联网信息服务深度合成管理规定》（下称《规定》）——继算法推荐之后，深度合成技术也迎来单独规范，自明年1月10日起施行。

所谓深度合成技术，是指利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等信息的技术。近日火爆全网的聊天机器人ChatGPT，以及“换脸”、AI绘画、虚拟主播等为人所熟知的场景都使用了深度合成技术。

根据《规定》，深度合成服务提供者提供智能对话、合成人声、人脸生成、沉浸式拟真场景等服务，应当进行显著标识，避免公众混淆或者误认。在源头把关上，深度合成服务提供者和应用商店也需对合成内容和使用者资质具有审核责任。

党中央印发的《法治社会建设实施纲要（2020－2025年）》提出，制定完善对算法推荐、深度伪造等新技术应用的规范管理办法。其中《互联网信息服务算法推荐管理规定》已于今年1月施行，《规定》则是第二部专门针对算法的规范。

近日，OpenAI开发的聊天机器人ChatGPT以其远超出同类的高质量回答和极好的交互体验风靡全网。而就在前不久，AI绘画才因不输画家的“功力”掀起了一场行业地震。不过，随着深度合成技术越来越成熟，它也被应用在了散播虚假信息、诈骗、色情内容制作上，亟须得到规范。

《规定》要求，深度合成服务提供者和使用者不得利用深度合成服务制作、复制、发布、传播虚假新闻信息。转载基于深度合成服务制作发布的新闻信息的，应当依法转载互联网新闻信息稿源单位发布的新闻信息。

此外，深度合成服务提供者应当基于移动电话号码、身份证件号码、统一社会信用代码或者国家网络身份认证公共服务等方式，依法对深度合成服务使用者进行真实身份信息认证，不得向未进行真实身份信息认证的深度合成服务使用者提供信息发布服务。

除了对使用者进行身份认证，深度合成服务提供者还要加强深度合成内容管理，采取技术或者人工方式对深度合成服务使用者的输入数据和合成结果进行审核。还明确应用程序分发平台应当落实安全管理责任，核验深度合成类应用程序相关情况。

也就是说，除了深度合成服务使用者，深度合成服务提供者和应用商店都要从源头上对深度合成内容提前把关，否则也要担责。

《规范》还明确了主管部门职责，由网信部门负责统筹协调深度合成服务的治理和相关监督管理工作；电信主管部门、公安部门依据各自职责负责深度合成服务的监督管理工作。

2019年，AI“换脸”应用ZAO一度爆红。人们只要上传一张自己的照片，就可以换脸成为影视剧主角。然而仅仅三天，ZAO便因涉嫌未依法依规收集使用人脸信息被工信部约谈，接着直接下架。

对此，《规定》要求深度合成服务提供者和技术支持者提供人脸、人声等生物识别信息编辑功能的，应当提示深度合成服务使用者依法告知被编辑的个人，并取得其单独同意。

南都记者对比征求意见稿发现，《规定》还新增条款，要求具有生成或者编辑人脸、人声等生物识别信息的模型、模板等工具的深度合成服务提供者和技术支持者，应当自行或者委托专业机构开展安全评估。

值得注意的是，《互联网信息服务算法推荐管理规定》提出，算法生成合成信息作出显著标识后方可继续传输。《网络音视频信息服务管理规定》也要求，网络音视频信息服务提供者和网络音视频信息服务使用者利用基于深度学习、虚拟现实等的新技术新应用制作、发布、传播非真实音视频信息的，应当以显著方式予以标识。

类似地，在《规定》中，对深度合成内容进行标识也是重要内容之一，并进一步具象到文本、声音、图像、视频等场景中。

《规定》要求，深度合成服务提供者对使用其服务生成或编辑的信息内容，应当添加不影响使用的标识。提供智能对话、合成人声、人脸生成、沉浸式拟真场景等生成或者显著改变信息内容功能的服务的，应当进行显著标识，避免公众混淆或者误认。任何组织和个人不得采用技术手段删除、篡改、隐匿相关标识。

“出台《规定》，能够划定深度合成服务的‘底线’和‘红线’，维护网络空间良好生态。”国家网信办有关负责人指出，对应用深度合成技术提供互联网信息服务制定系统性、专门性规定，能够明确各类主体的信息安全义务，为促进深度合成服务规范发展提供有力法治保障。

《互联网信息服务深度合成管理规定》全文

编辑：蒋琳

更多报道请看专题：警惕AI诈骗