两三岁的胖娃娃身着彩虹色衣帽、灰头土脸地被压在水泥板底下、表情痛苦，这样的画面让人看了心疼不已。1月7日，西藏自治区日喀则市定日县发生地震后，这张图片在网络广泛流传，不少人心系孩子安危。但这张图实际上是由AI技术生成的。1月9日，日喀则官方人士告诉南都记者，目前已知悉上述情况，同时官方也在收集其他不实图片和信息并进行核实，后续会对嫁接、拼凑的不实图文进行辟谣。

有媒体梳理，该图片首发于2024年11月，目前已被作者删除。作者以图片中的小孩为主角制作了多个AI图片和视频，底下都标有一行小字“作者声明：内容由AI生成”。原本只是一张普通的AI图片，被搬运后却成了一则虚假涉灾信息，到底是哪个环节出了问题？

据报道，这张图片被多次转发，配文都与西藏日喀则地震关联，有账号因此获得上万转发和评赞。这样的拼接不免让部分媒介素养不高的网民下意识地认为图片中的人物是受灾群众，不少人表示“这娃让我哭一天”“请告诉我这个宝宝还好吧”。

从搬运方来说，如果转发的同时还有捏造事实、造谣的行为，则可能涉嫌违法。而这次事件中与AI相关的细节就显得复杂一些。有媒体关注到，在网络平台上发布AI视频约1小时后，相关内容下方才会出现“疑似使用AI生成技术”的平台小字提示信息。虽说网民在转发传播时有责任甄别网络信息真伪，但并非每个人都有准确的判断能力，况且AI技术发展迅速，个人判断的难度越来越高。如果发布者未主动作出声明，在视频发出后、平台审核期间，很难避免有人信以为真。涉及灾情险情的信息不容儿戏，平台完全可以通过识别图像信息或配文中的关键词，锁定严肃议题的相关内容进行事前审核。

同时，即便是平台有所提示，仍然有不少不明真相的网友信以为真，说明仅仅在视频下方用一条小字作出的“显著标识”还不够显著，应该以更突出的方式引起浏览者的注意。

2024年9月，国家网信办公布《人工智能生成合成内容标识办法（征求意见稿）》，明确规定网络信息内容传播平台对传播的内容具有核验及标注义务。从此次事件来看，平台的确做到了核验和标注，但是行动的流程和力度还存在不足。

打击违规违法的AI合成内容不是易事，却是必须做好的事。南都数字经济治理研究中心发布的《生成式AI用户风险感知和信息透明度测评报告（2024）》显示，在AI带来的潜在风险中，虚假信息与欺诈最令受访者担忧。这是因为很多人对AI虚假信息已经有了切实的感知，AI“魔改”影视剧、换脸名人进行诈骗以及这次伪装成地震灾区现场关联图片，相关的虚假信息必将带来不同程度的伤害。尤其是在灾难发生时，部分网民被误导尚且事小，若事情继续恶化，甚至有可能形成谣言“次生灾害”，不利于抢险救援工作有序进行。

问题和危害已经很明显，这次事件敲响了警钟，敦促相关行动落实得再快一点。平台作为直接接触网民的一方、内容发布前的最后一环，应该对照这次事件中显露出来的Bug逐一修补，这是企业的社会责任，也是法律法规的要求。

编辑：何起良

对这篇文章有想法？跟我聊聊吧

陈邹心怡

何起良