广州6人用AI造谣发50万篇引流图文被抓！南都曾起底乱象
南方都市报APP • 南都即时
原创2024-12-12 11:14
12月12日，南都记者从公安部网安局获悉，公安部公布依法打击“网络水军”违法犯罪典型案例，其中，广东广州公安机关侦破叶某某等人编造谣言引流案。
南都此前报道。
据悉，广东广州公安机关网安部门查明，叶某某等人为赚取网络平台流量收益，招募兼职人员注册自媒体账号，利用人工智能工具改写热门文章，批量发布虚假信息，累计发布引流图文信息50余万篇。广东广州公安机关已抓获犯罪嫌疑人6名。
南都此前曾调查利用AI造谣乱象。据此前报道，南都记者调查发现，除了ChatGPT等常用人工智能工具，南都记者通过关键词搜索，在网络上发现许多“AI洗稿”“伪原创生成器”“AI写作”等网站、小程序，其功能多样，能满足创作公众号文章、视频脚本、小红书文案、文章标题等需求，还有文章续写、内容改写润色、图片生成文字等功能。
给出相应指令后，一些AI工具就能快速批量扩写出不同的故事文案，有的每个月会员费只要99元，充值一年还能打五折。除了文字，一些犯罪分子还通过AI编辑视频、图片等以假乱真，混淆视听。
中国计算机学会计算机安全专业委员会数字经济与安全工作组成员方宇曾告诉南都记者，犯罪分子利用AI工具生成谣言的成本相对较低，其可以利用现成的技术和平台进行操作，如今存在不少开源或免费的工具。其主要成本可能包括获取工具的费用、运行工具所需的计算资源费用以及维护费用。但在国内外的大模型算法逐步开源的情况下，一些AI工具的研发成本也降低了。
采写：南都记者 敖银雪
编辑：张亚莉
更多报道请看专题：互联网黑灰产调查
穗岁平安·广州警察故事
“病态流量”系列调查
南都新闻，未经授权不得转载。授权联系方式：
banquan@nandu.cc，020-87006626。
banquan@nandu.cc，020-87006626。