京沪两地网信部门近日公布整治AI技术滥用的阶段性进展。这些进展涵盖清理违规AI产品、强化AI内容标识等方面，基本上对标了中央网信办4月底专项行动第一阶段的任务清单。

中央网信办此前将为期3个月的“清朗·整治AI技术滥用”专项行动划分为两个阶段：第一阶段强化AI技术源头治理，清理整治违规AI应用程序，加强AI生成合成技术和内容标识管理，推动网站平台提升检测鉴伪能力；第二阶段聚焦利用AI技术制作发布谣言、不实信息、色情低俗内容，假冒他人、从事网络水军活动等突出问题。

据“网信北京”“网信上海”公众号分别于6月11日和6月12日发布的信息，在违规产品整治上，微博清理传播教授AI换脸教程类内容162条，关闭账号22个，清理分享售卖违规AI产品类有害信息234条，关闭账号52个；抖音清理AI生成的虚假信息、低俗内容等24749条等。此前5月19日，抖音发起关于“AI起号”的专项治理行动，重点整治利用AI生成低俗猎奇视频、引导规避平台AI标注等行为。

上海市委网信办则指导小红书、哔哩哔哩、拼多多等15家重点网站平台，集中清理“一键脱衣”、未经授权的人脸或人声克隆编辑、未备案等违规AI产品、商品及相关营销、炒作、推广、教程信息。小红书、哔哩哔哩开通有害AI内容的举报受理处置渠道；MiniMax旗下AI产品星野开展智能体全面排查清理。各重点网站和AI平台共拦截清理相关违法违规信息82万余条，处置违规账号1400余个，下线违规智能体2700余个。

在训练语料治理上，百度对存量数据进行整体清洗，使用211个权威网站的正能量数据源；百川智能停止使用存在疑问的数据来源，制定严格的网络爬取规范，确保数据合规合法。

而在医疗、金融、未成年人等重点领域的风险防控上，针对“AI荐股”，智谱明确禁止生成具体股票推荐、基金购买建议，避免诱导高风险投资；快手对医疗回答明确标注“不替代专业医疗建议”。未成年人保护方面，猿辅导背后的猿力科技对未成年人提问进行分级审核，仅允许教育类内容生成；小米通过实名认证和年龄校验，限制未成年人使用AI生成暴力内容等敏感功能。

AI内容标识管理亦是监管工作的重中之重。3月14日，国家网信办等四部门联合发布的《人工智能生成合成内容标识办法》，将于今年9月1日起施行。新规为AI平台、社交内容平台、应用商店和用户四类主体分别设定了AI内容的标识义务，并将AI生成合成内容标识分为显式标识和隐式标识。与之配套的强制性国家标准《网络安全技术 人工智能生成合成内容标识方法》同时出台。

南都记者注意到，为推动上述AI内容标识新规和国家标准的落地，上海、广东、重庆等多地近期密集开展AI生成合成内容标识政策法规宣讲。

讯飞星火大模型生成的一张图片，在右下角添加AI生成标识。

落地情况来看，官方信息显示，北京市目前已有近60家企业已落实标识要求；微博、抖音等平台实现生成内容“显著标识+元数据水印”双标注。

上海属地企业方面，MiniMax、阶跃星辰、通义、小红书、哔哩哔哩、Soul等已基本完成显式标识规范上线，加快开发上线隐式标识和传播链互认验证；小红书牵头编制图片模态元数据标识实践指南。此外，上海网信部门还在5月中旬指导成立AIGC标识生态联盟，推进标识互认、能力共享与标准协同。小红书、MiniMax等均是该联盟的成员。

MiniMax也曾参与起草前述AI内容标识强制性国家标准。该公司告诉南都记者，目前，MiniMax旗下所有产品至少采用了一种显性标识方式。例如，MiniMax Chat、海螺AI以及星野中的文字和音频内容，均在用户交互场景中加入了显性提示标识；图片和视频内容则将显性标识添加在画面当中。此外，MiniMax也验证完成了在各类可下载和导出的文件中添加元数据隐性标识的技术方案。下一步，该公司称将继续完善标识做法，包括为AI生成的文字内容增加角标，在AI音频中嵌入摩斯码，增强内容来源的可识别性。

采写：南都记者 杨柳

编辑：李玲

本文作者

杨柳

1370W

南方都市报记者

李玲

3.66亿

南方都市报记者