4月30日，据“网信中国”微信公众号消息，为规范AI服务和应用，促进行业健康有序发展，保障公民合法权益，中央网信办将在全国范围内部署开展为期4个月的“清朗·整治AI应用乱象”专项行动，分两个阶段治理AI应用服务典型违规问题和AI信息内容乱象。

南方都市报、南都大数据研究院“AI新治向”专栏在AI平台安全、数据投毒、内容标识、滥用侵权、虚假信息以及未成年人保护等方面，去年至今已发布近100期调查与深度报道，关注新型风险，探讨治理之策。

专项治理AI应用服务违规及信息内容乱象

中央网信办有关负责人表示，本次专项行动分两个阶段开展。

第一阶段为“清朗·AI应用服务典型违规问题”专项治理行动，重点整治未按规定履行大模型备案登记义务、安全审核能力不足、大模型训练语料安全、AI数据投毒、生成合成内容标识落实不到位等问题，强化AI技术源头治理。

第二阶段为“清朗·整治AI信息内容乱象”专项行动，聚焦利用AI技术生成“数字泔水”、制作发布虚假信息、散播暴力低俗等不良信息、假冒仿冒他人、侵害未成年人权益、从事网络水军活动等问题，坚决清理违法不良信息，依法处置处罚违规账号、MCN机构和网站平台。

中央网信办有关负责人强调，各地网信部门要充分认识专项行动对于推动AI应用规范有序发展、维护网民合法权益的重要意义，切实履行属地管理责任，督导网站平台对照整治重点，深入自查自纠，全面排查问题漏洞，完善长效治理机制，有效提升技术防治能力，确保专项行动取得实效。

“AI新治向”栏目持续助力乱象治理

去年以来，南方都市报、南都大数据研究院依托智库媒体优势创设“AI新治向”专栏，通过建设性监督报道、专题研究报告、主题研讨和生态共建平台的方式，持续对AI领域各类风险展开前瞻性探索，获得广泛关注。

南方都市报、南都大数据研究院开设“AI新治向”专栏，发布近百期报道。

围绕中央网信办此次“清朗·整治AI应用乱象”专项行动聚焦的突出问题，“AI新治向”栏目长期关注、深入追踪，形成了大量相关报道。

如在AI平台安全和审核过滤方面，“AI新治向”栏目通过反常语料测试发现部分大模型被诱导输出“抢银行”等危险回答，同时调查揭露多款AI声音克隆应用对不良言论缺乏审核限制，起底了AI聊天软件通过拆除“道德护栏”、放任审核沦为涉黄工具的完整路径；针对AI数据投毒问题，栏目在2025年连续发布深度调查，率先揭批GEO产业链通过批量炮制虚假软文、操纵搜索结果进行恶意营销的内幕。

在生成合成内容标识领域，紧跟《人工智能生成合成内容标识办法》的落地，对25个内容传播平台及75款AI服务应用展开系统性测评，为政策实施提供了实证参考；同时结合周深新歌声明禁止AI训练、女演员吐槽不同AI同字异音等现象，反映出语料来源合规性及数据质量参差不齐的隐忧；对于滥用AI技术侵害权益的行为，“AI新治向”从AI换脸生成明星亲密合照、AI短剧盗用素人形象并恶意丑化、AI生成虚假外卖排队照片的假图产业链，到利用AI偷歌仿声假冒歌手等多类侵权现象，均进行了持续追踪。在信息内容乱象方面，栏目密切跟进广电总局对“孙悟空持枪扫射沙僧”等AI魔改经典视频的专项治理，同时曝光了短视频平台以“外星人宝宝”“机械蛇身”等AI生成诡异猎奇画面博取流量的现象。

在未成年人保护领域，“AI新治向”先后推出多组深度系列报道：其中《保护AI世界里的孩子》聚焦生成式AI在学习辅助、社交陪伴等场景中的侵害风险，实测发现部分AI绘画软件可随意生成儿童不良图像，陪伴型聊天机器人有充当“早熟导师”之嫌，由此揭示数据污染与模型异化等深层隐患；《陷入AI：未成年人AI情感依赖调查》紧扣即将实施的《人工智能拟人化互动服务管理暂行办法》，综合百余起案例、300名青少年调研及十款主流应用的实测，联合心理学、法学及人工智能领域专家深入研讨并发布专题报告，系统呈现了AI情感依赖的形成机制、潜在危害与戒断困境，调查揭示近九成孩子系被动接触AI，多数应用在身份核验、沉迷干预、情绪应对方面严重缺失，面对儿童极端消极言论仅作空洞安抚甚至附和危险话语。

“AI新治向”栏目持续对AI领域各类风险展开前瞻性探索。

面对AI应用乱象的迭代演变，“AI新治向”栏目将继续以建设性监督为底色，紧跟“清朗”专项行动步伐，深挖风险、推动治理，为护航人工智能健康有序发展贡献媒体力量。

出品：南都大数据研究院 AI新治向工作室

采写：南都N视频记者 陈袁