8月27日，公安部公布多起涉灾情、险情网络谣言典型案例。南都N视频记者注意到，其中，有人使用AI工具生成谣言信息，扰乱社会公共秩序，被依法追究相应法律责任。南都此前调查AI造谣乱象，探讨乱象治理之策。

南都此前报道。

据悉，近日，广西公安网安部门查明，朱某龙（男，25岁）为获得某平台创作者奖励，使用AI工具生成主题为“广西来宾村庄突发内涝，建筑半浸水中”的谣言信息，发布在某社交平台，并附有房子被淹的照片，误导大量网民关注和讨论，扰乱社会公共秩序。

山东公安网安部门查明，吉某（男，34岁）为博取流量、吸粉引流，利用AI工具捏造“昌乐化工厂爆炸7死4伤”谣言信息，并发布于某短视频平台，误导大量网民关注和讨论，引发当地居民恐慌，扰乱社会公共秩序。

以上人员均已被依法追究相应法律责任。

南都此前报道，近年来，利用AI造谣的乱象愈发猖獗。8月5日，南都记者实测发现，网上不乏可免费使用的“AI写作神器”“视频生成器”。输入简单指令，涉及汛情、火灾等敏感主题的虚假文案瞬间生成；炮制“正式警情通报”，AI工具亦可模仿官方口吻编造细节；甚至普通景区照片经AI处理，即可变成“桥梁断裂事故”视频。

应对挑战需要技术、教育等多轨并进。暨南大学夏志华教授团队研发了视觉深度伪造检测、溯源与防御系统；上海高中生开展“5分47秒生成虚假校园通报”实验，亲身体验发出警示。

“这是一场‘技术攻防战’叠加‘认知保卫战’。”夏志华向南都记者强调，唯有技术对抗、法规约束、平台治理与公众教育多管齐下，才能在算法洪流中守护人类的真实底线。

采写：南都N视频记者 敖银雪

编辑：张亚莉

更多报道请看专题：真假即时查