4月18日，“人工智能生成合成内容标识政策法规宣讲会（广东站）”在广州市白云区智慧城市展厅举办，面向广东高校科研院所、人工智能企业、互联网平台等单位详细解读《人工智能生成合成内容标识办法》（简称“标识办法”）及配套强制性国家标准《网络安全技术 人工智能生成合成内容标识方法》（简称“标识方法”）。

在生成式人工智能内容安全及谣言治理的分享环节，暨南大学新闻与传播学院教授林爱珺围绕“AIGC时代多模态虚假信息的识别与人机协同核查”主题作分享。在林爱珺看来，“标识办法”和“标识方法”的实施，有助于公众辨别虚假信息，推进AI从内容生成到传播全链条的治理。

暨南大学新闻与传播学院教授林爱珺围绕“AIGC时代多模态虚假信息的识别与人机协同核查”主题作分享。

AI多模态能力加剧伪造信息隐蔽性

林爱珺指出，整合文本、图像、音频及视频等多种形式数据的多模态信息具有极强的隐秘性与渗透性。例如，一段伪造的视频不仅有虚假的图像，还配有与之匹配的虚假声音和字幕，不同模态的信息互相补充和验证，若将伪造信息与事实融合于复杂的图像和视频之中，会加剧伪造信息的隐蔽性，同时增加公众辨识的难度。

林爱珺强调，AI大模型的权威性表达风格与流畅的叙事逻辑，使得错误信息具有极强的迷惑性，尤其是在多模态虚假信息中，受众往往会将这些虚假内容误认为是真实信息。

“标识办法”助力虚假信息识别和溯源

如何识别与监测多模态虚假信息？林爱珺表示，“标识办法”要求人工智能生成合成内容添加显式标识和隐式标识，这为虚假信息的识别和溯源提供了支持。

她指出，显式标识通过文字、声音或图形等手段直接展示内容的人工智能属性，标识技术与自然语言处理、深度伪造检测等方法相结合，能有效提高对虚假内容的识别，帮助用户直观辨别人工智能生成合成内容，快速评估其真实性。

隐式标识技术记录文件属性、提供者编码及传播路径等关键信息，能为虚假信息溯源和责任认定提供数据支持。如通过记录和分析信息发布的时间顺序，识别出最早发布信息的节点和账户，从源头上禁止虚假账号发布信息；运用节点分析追踪信息源和传播链条，通过识别出信息传播的关键节点和核心路径，揭示虚假信息的传播轨迹。

建议构建人机协同的事实核查机制

谈及AI大模型的事实核查能力，林爱珺认为，目前的AI大模型尚不具有鉴别信息真伪的能力：在训练阶段，大模型需要广泛地从互联网搜集各种信息，由于缺乏事实核查机制，这些信息未经筛选便被纳入机器学习的语料库中，导致信息在被利用前未能得到充分核查。

她建议构建人机协同的事实核查机制，通过人工智能、人工审核及公众参与实现多维度数据获取。利用人工智能数据挖掘技术，提取动态网络信息中的有价值数据，为事实核查提供基础数据支持；建立“人工智能+人工”的双重审核机制，对某些专业领域的信息，结合领域专家的知识和背景进行分析判断；借助用户反馈与专家评估，推动人工智能的自我学习与优化，持续提升人工智能的事实核查准确性与效率。

在林爱珺看来，治理人工智能生成合成虚假信息，需要通过技术、法律、伦理的综合手段，建立一个全方位的保障体系。她建议建立“政府－AIGC服务提供者－AIGC服务使用者”三方协同治理框架，共同提升公众的数字素养，增强其对虚假信息的识别能力，防止虚假信息蔓延。

本次宣讲会由中央网信办网络管理技术局、广东省委网信办指导，中国网络空间安全协会、广东省网络数据安全与个人信息保护协会主办，南方都市报、南都大数据研究院承办。

采写：南都记者 李伟锋 实习生 陈家贤

摄影：南都记者 袁炯贤

本文作者

李伟锋

1967W

南方都市报记者

袁炯贤

6239W

南方都市报记者