“眼见不为实”诱发信任危机,网信办拟细化AI内容标识义务

南方都市报APP • AI前哨站
原创2024-09-14 12:58

AI生成合成内容日渐逼真,易诱发“眼见不为实”的信任危机。对此,国家网信办拟出台新规,细化网络平台和用户的AI内容标识义务,避免公众混淆误解。未对生成合成内容进行标识造成严重后果的,将面临处罚。

此前,国家网信办等部门已相继出台《互联网信息服务深度合成管理规定》(下称《深度合成规定》)、《生成式人工智能服务管理暂行办法》等部门规章,提及网络服务提供者对AI生成合成内容的标识义务。

9月14日,国家网信办进一步发布《人工智能生成合成内容标识办法(征求意见稿)》(下称《标识办法》),意见征集时间截至2024年10月14日。

图片

《人工智能生成合成内容标识办法(征求意见稿)》意见反馈时间和参与方式。

“标识是对人工智能生成内容监管的第一道防线。”广东财经大学法学院教授姚志伟向南都记者表示,《标识办法》是将现有规定予以细化操作。

《标识办法》规制的对象涵盖四类活动主体:提供生成合成服务的网络信息服务提供者、提供内容传播平台服务的网络信息服务提供者、互联网应用程序分发平台和普通用户。

针对提供生成合成服务的网络信息服务提供者,《标识办法》提到,如果提供《深度合成规定》第十七条第一款情形规定的深度合成服务,可能导致公众混淆或者误认的,应当按要求对生成合成内容添加显式标识。所谓显式标识,是指以文字、声音、图形等方式呈现并可被用户明显感知到的标识。

《深度合成规定》第十七条第一款提到的具体情形包括:智能对话、智能写作等模拟自然人进行文本的生成或者编辑服务;合成人声、仿声等语音生成或者显著改变个人身份特征的编辑服务;人脸生成、人脸替换、人脸操控、姿态操控等人物图像、视频生成或者显著改变个人身份特征的编辑服务;沉浸式拟真场景等生成或者编辑服务;其他具有生成或者显著改变信息内容功能的服务。

显式标识方式根据内容表现形式有所差异。如果是图片,则需在适当位置添加显著的提示标识;如果是视频,则在视频起始画面和视频播放周边的适当位置添加显著的提示标识,可在视频末尾和中间适当位置添加显著的提示标识,等等。

《标识办法》还要求提供生成合成服务的网络信息服务提供者,在生成合成内容的文件元数据中添加隐式标识,即不易被用户明显感知到的标识。隐式标识需包含生成合成内容属性信息、服务提供者名称或编码、内容编号等制作要素信息。

如果是提供内容传播的平台,则需对相关内容文件的隐式标识进行核验,并在发布内容周边添加显著的提示标识以明确提醒用户。倘若未核验到隐式标识,则看用户是否有主动声明为生成合成内容。如果用户没有声明,平台需要进一步检测相关内容是否有显式标识或其他生成合成痕迹,并予以相应标识。

此外,《标识办法》要求内容传播平台提供必要的标识功能,并提醒用户主动声明发布内容中是否包含生成合成内容。互联网应用程序分发平台(即应用商店)在应用程序上架或上线审核时,应当对内容传播平台的标识功能进行核验。

姚志伟认为,《标识办法》对提供内容传播平台提出了非常细致的要求,延续了之前对内容平台的监管思路。但这条对内容传播平台提出的技术要求较高,内容平台特别是中小平台能否有效实现需要观察。

对于普通用户,在内容传播平台上传生成合成内容时,《标识办法》规定其应当主动声明并使用平台提供的标识功能进行标识。

图片

小红书APP提供的AI内容标识选项。

目前已有内容传播平台将AI内容标识义务写入用户服务协议。以小红书为例,平台协议中写道,用户发布或传播利用基于深度学习、虚拟现实、生成式人工智能等新技术新应用制作的非真实信息时,应当以显著方式予以标识,否则平台有权对相关内容和账户采取包括但不限于增加标识、限制、封禁等措施。当用户上传内容时,可以自主声明笔记是否包含AI合成内容。

 

采写:南都记者 杨柳

编辑:李玲

1
对这篇文章有想法?跟我聊聊吧
南都新闻,未经授权不得转载。授权联系方式:
banquan@nandu.cc,020-87006626。