利用人工智能（AI）工具，结合“爆点”，杜撰一篇帖文然后发布在网上吸引网友的关注，但这种造谣行为触碰了法律红线。南都记者获悉，近日，上海公安长宁分局查处一起利用AI技术编造谣言的案件。

2024年2月，在某网购平台上，一则“某著名女星命运多舛、含恨离世”的短视频引发大量点赞和转发。经查，该视频内容存在人为拼接痕迹，且子虚乌有。在对发布该视频的账号调查后发现，该账号之前也发布了大量以“名人去世”为噱头的短视频，且全部为不实信息。后续，上海长宁警方依托打谣协作机制，将上述谣言信息流转至该网民户籍所在地吉林网警部门继续开展深挖调查。

上海警方供图

经视频发布者杜某到案后交代，其在某网购平台上开了一家网店，平时主要经营土特产。由于销量不佳，杜某萌生了编造夺人眼球虚假新闻的方式给网店账号带“流量”的念头。因为杜某本人不会视频剪辑，便利用AI技术生成文本和视频，编造大量社会知名人士重病、离世等无中生有，夺人眼球的谣言视频。

尽管这些短视频给杜某的网店带来了不少流量，但该造谣行为已经触犯了相关的法律。目前，吉林警方已依法对杜某做出行政处罚，并将网络上所有的虚假视频全部清除，及时消除不良社会影响。

上海警方提醒，利用AI工具编辑没有来源根据的不实信息并传播属于违法行为，请大家依法依规使用新型网络技术。上海市网信办表示，在市公安局网安总队的支持下，已形成“监测发现—通报核实—辟谣打击”的网络谣言治理闭环。2023年以来，市网信办已处置“自媒体”账号5万余个。

采写：南都记者 赵唯佳 发自上海

编辑：田爱丽

对这篇文章有想法？跟我聊聊吧

赵唯佳

田爱丽