10月10日,青岛保时捷销售中心牟女士自称,近期发现由AI恶意合成的虚假视频和不良视频,对其进行诽谤和侮辱,“这些视频是百分之百伪造的”,并表示“对造谣者宣战”。10月11日,牟女士已在当地派出所报警。
早在今年2月,牟女士就发文称,自己的照片遭盗用并被恶意剪辑拼接成不雅视频发在外网。但她向媒体表示“这次不太一样”,此次造谣视频可能有900多万浏览量,甚至在澄清后,依旧骚扰电话不断。
无独有偶,今年8月台球运动员王思诺公开发布视频,表示自己正深陷恶意AI造黄谣风波,有人利用AI伪造她的淫秽视频并肆意传播。类似的新闻层出不穷,从换“明星脸”直播带货,再到换脸诈骗、造黄谣,“AI换脸”功能被滥用、乱用,甚至衍生出毫无底线的“一键脱衣”功能,严重突破法律和伦理界限。
AI造黄谣的成本极低,与之相比,其造成的损害、辟谣的代价却非常大。不少人停留在“有图有真相”的认知中,而“AI换脸”“AI脱衣”以假乱真,进一步提高了黄谣的“可信度”和传播力。饱受AI黄谣侵扰的,往往多是深陷刻板印象的职业女性。比如牟女士,身上叠加着“销冠”“美女”“豪车”三个标签,在一些人的观念里,从认为销售没有专业门槛,再到用外貌恶意揣测他人的成功,恐怕早就形成了偏见。不同的是,带着偏见的中伤往往口说无凭,而AI黄谣的传播力和杀伤力却很大,且更容易让受害者掉进“说有易说无难”的自证陷阱。
牟女士站出来“宣战”,无疑需要极大的勇气和决心,背后的社会舆论理应给予更多的理解和共情,警方也要对报案积极响应、有所行动,而对于这样的乱象,必须予以重视。到底谁在制造、传播AI黄谣?两年前就有媒体调查发现,相关内容制作和传播源头均来自外网,溯源和取证的困难较大。简言之,从源头治理AI黄谣恐怕没有立竿见影的办法。不过,尽管涉事平台的服务器在海外,相关内容的生成者、传播链条的组织者等不法分子却极有可能就在境内。因此,受害者报案后,立即启动调查程序、对有关线索按图索骥,将不法分子绳之以法,并非没有可能。
有关部门不妨将此次事件作为一个契机,以“拔出萝卜带出泥”为目标,积极查办、顺藤摸瓜。毕竟,面对层出不穷的AI黄谣,对每一起报案积极响应、绝不姑息,对每一条线索顺藤摸瓜、绝不放过,这样的行动和态度定然能震慑不法分子,也能打消某些人“发啥也没人管”的侥幸心理。这不只是为牟女士澄清事实、伸张正义,也是进一步对长期以来的不良网络风气亮明态度、划明底线。
编辑:何起良