今年3月，国家网信办等四部门联合发布了《人工智能生成合成内容标识办法》（下称《标识办法》）。9月1日起，《标识办法》正式施行，利用AI技术生成的文本、图片、音频、视频、虚拟场景等信息，必须添加显式和隐式两种标识。显式标识指可以被用户明显感知到的标识，隐式标识指在生成合成内容文件数据中添加的标识。AI生成合成内容标识具体该如何添加？南都大数据研究院带你一图看懂。

AI虚假信息传播问题突出

数据显示，我国目前已有490余款大模型在国家网信办完成备案，240余款大模型在省级网信办完成登记，我国生成式人工智能产品的用户规模已达2.3亿人。生成式AI、深度合成等新技术快速发展，在促进经济发展、便利公众生活的同时，也带来假新闻、谣言等虚假信息传播问题。南都大数据研究院“AI新治向”此前报道过多类AI技术滥用带来的内容生态风险，例如利用AI克隆名人声音，制造恶搞音视频；借助AI批量生成内容，在社交平台快速“起号”；餐饮商家在外卖平台使用AI生成图像作为门头图和商品图等。

今年4月以来，中央网信办开展了为期三个月的“清朗·整治AI技术滥用”专项行动，AI换脸拟声、AI内容标识缺失等乱象，都是整治重点。6月，中央网信办公布专项行动第一阶段成果，累计处置违规小程序、应用程序、智能体等AI产品3500余款，清理违法违规信息96万余条，处置账号3700余个。

AI生成内容必须添加显式或隐式标识

AI生成合成的内容真假难辨，只有打上标识，才能让AI生成的虚假消息露出原形。那么，AI生成内容的标识具体该如何添加？

《标识办法》明确，人工智能生成合成内容是指利用人工智能技术生成、合成的文本、图片、音频、视频、虚拟场景等信息。人工智能生成合成内容标识主要包括显式标识和隐式标识两种形式。显式标识是指在生成合成内容或者交互场景界面中添加的，以文字、声音、图形等方式呈现并可以被用户明显感知到的标识；隐式标识是指采取技术措施在生成合成内容文件数据中添加的，不易被用户明显感知到的标识。

《标识办法》要求，服务提供者提供的生成合成服务属于《互联网信息服务深度合成管理规定》第十七条第一款情形的，应当按照要求对生成合成内容添加显式标识；服务提供者应当按照《互联网信息服务深度合成管理规定》第十六条的规定，在生成合成内容的文件元数据中添加隐式标识；提供网络信息内容传播服务的服务提供者应当采取技术措施，规范生成合成内容传播活动。

《标识办法》强调，任何组织和个人不得恶意删除、篡改、伪造、隐匿本办法规定的生成合成内容标识，不得为他人实施上述恶意行为提供工具或者服务，不得通过不正当标识手段损害他人合法权益。

配套国家标准及实践指南已发布

专家指出，显式标识可以确保用户能直观辨别生成内容的人工智能属性，保障公众知情权。隐式标识则既保障了标识的持久性，也为后续数据清洗、校验提供技术依据。《标识办法》通过构建显式与隐式双层标识体系，形成可识别、可追溯的AI内容标识规范，并重点关注内容传播环节，建立从内容生成到传播的全链条治理机制，明确各方标识义务，通过元数据验证解决“谁生成的”“从哪里生成的”等关键问题。

为推动《标识办法》落地执行，强制性国家标准《网络安全技术 人工智能生成合成内容标识方法（GB 45438—2025）》与《标识办法》同日正式实施。此外，全国网络安全标准化技术委员会秘书处组织编制了《人工智能生成合成内容标识方法 文件元数据隐式标识 文本文件》等6项网络安全标准实践指南。6份文件明确了人工智能生成合成文本、图片、音频、视频等内容的文件元数据隐式标识方法、元数据安全防护指南以及生成合成内容检测框架，可为生成合成服务提供者和内容传播服务提供者开展人工智能生成合成内容文件元数据隐式标识活动以及生成合成内容检测活动提供参考。

出品：南都大数据研究院

“AI新治向”工作室

采写：南都研究员 李伟锋

设计：张博