视频 AI 生成技术的最新进展，已经开始产生一系列令人忧心的社会影响。不少精通这些技术的年轻人被发现，正在未经他人同意的情况下制作女性（大多是自己同龄人）的色情图像。

今年5月，首尔大学毕业生涉嫌利用深度伪造技术换脸合成色情照片和视频，在社交媒体“电报”上建立了近200个网络聊天室，共参与制作、传播约1700份非法照片和视频。3个月后，韩国仁荷大学再次发生深度伪造性犯罪的案例。超过1200名参与者在“电报”上合成深度伪造色情图像，并利用这些内容对女性进行敲诈和羞辱。

8 月 28 日，多位韩国女性在中国社交媒体平台发帖讲述“深度伪造”（Deep Fake） AI 换脸的大规模犯罪事件，引发大量关注与讨论，多个相关词条接连登上热搜。根据其描述，韩国长期发生产出和传播深度伪造色情内容的犯罪行为，而即时通讯软件 Telegram 因其加密通信和群组聊天功能受到这些犯罪者的青睐。

8月下旬，韩国媒体报道称，“电报”上出现大量与全国多地学校相关的聊天群组，用户上传他们认识女性的照片，其他用户会将这些照片转换成深度伪造色情内容，还有针对特定受害者的“羞辱房”。 有分析指出，把女性面部合成到不雅视频中并大肆传播的“深度伪造性犯罪”，已让韩国女性“陷入恐慌”，类似事件会让女性失去日常生活的安全感。

初步调查显示，受害者80%为女性，犯罪活动已经在初高中生等未成年人、大学生、教师和护士等群体中蔓延，甚至连女性军人都是受害人。

39岁的李娟枝（Lee yeonjee）是韩国一家公益组织的发起人和CEO。这样的新闻极大地冲击了李娟枝，她看到有人在社交媒体平台X上发布消息调查“羞辱房”，找人帮忙揭露内部情况。李娟枝假装自己是男性用户，潜入其中，收集信息。她发现即便是在免费的房间里，非法深度伪造色情内容的传播也已经非常严重。

李娟枝将收集到的视频和截图集中汇集给一起工作的同伴，由她统一转交给调查人员。略显安慰的是，李娟枝听说，她们提交的材料帮助在部分案件中确认了涉案人员的身份。

“羞辱房”里的内容让李娟枝十分不适，甚至一度恶心到无法入睡，但她仍在继续行动。一方面，在线上开展请愿活动，要求强化惩戒标准；另一方面，在街头举行抗议活动。“政府必须采取坚定的立场来打击犯罪，执行‘零容忍’的惩治法律。”李娟枝说。

2020年，李娟枝（图中）创建了名为“unniecar”的女性驾驶项目，提供讲座和书籍，旨在帮助初学驾驶的女性获得安全准确的信息。受访者供图。

线下的街头抗议与韩国女性在线上社交媒体的发声遥相呼应。自深度造假性犯罪的新闻报道引发韩国舆论重视以来，由于担心此次事件会被轻轻揭过，许多韩国女性在社交媒体上积极发声，使用“学校数字性犯罪”“公开深度伪造性犯罪者”“保护女性”等话题标签，推动“深度伪造性犯罪”的新闻得到全球关注，还有多名韩国女性通过中国互联网发出求助信息。

“目前来看，这次‘标签抗议’活动取得了不错的成效。9月1日，包括‘公开深度伪造性犯罪者’在内的标签在社交媒体平台X上实现了爆发，一共发布了60多万条帖子，全球实时趋势排名第二，也占据了韩国实时趋势的前两位。”李娟枝说。

线上线下联动造势外，李娟枝还开始调查研究涉及深度伪造性犯罪的处罚法案。其中，“以传播为目的”几个字尤其引起她的注意。有一篇分析文章认为，难以惩罚这些深度伪造性犯罪者的原因之一，在于很难证明他们有传播意图。

联想到此前韩国发生的“N号房”事件，除了少数关键罪犯，大部分人都没有受到惩罚。李娟枝意识到，正是现存法律体系存在漏洞，才让大规模深度伪造性犯罪成为可能。

在李娟枝潜入所谓的“羞辱房”期间，她发现尽管每个群组房间略有不同，但参与者通常需要提供一名女性的10张照片才能进入群组或合成一张照片，这为深度伪造提供了新的受害目标。部分群组房间会免费合成一次，接下来需要参与者提供“加密货币”或邀请新的男性进入房间，以继续使用该服务。还有群组房间会张贴出“需提供300张女教师的照片”“高中生优惠”等告示。

“羞辱房”也会想办法确认其参与者的性别。有的群组房间会要求想入群的人将1韩元存入某个银行账号，通过银行账户存款名确认新入群人士是否为男性。

一些参与者会被收取费用以合成深度伪造图像或视频，还有人通过销售深度伪造内容获利，“电报”本身也会在用户较多的房间里产生广告收益。“他们就像犯罪组织一样分享利润。”李娟枝说，他们是由利益驱动的组织，不存在“被动观众”的概念。

由此，她产生了向国会请愿的想法。李娟枝要求将这些群组房间中的所有参与者都视为犯罪组织成员，并受到惩罚。因为韩国的法律只允许卧底调查涉及儿童及青少年的案件，她同样希望请愿制度能够改进，允许卧底调查涉及成年人的性犯罪案件。

专注于身份盗窃保护的美国初创公司“Security Hero”在2023年发布的一份全球深度伪造报告显示，韩国是深度伪造色情内容的最主要目标，韩国歌手和女演员占此类深度伪造作品中人物的53%。

韩国的深度伪造性犯罪也日益猖獗，2021年156起，2022年160起，去年增至180起。而今年1月至7月，涉深度伪造的性犯罪案件已达297起。

观察人士认为，看似突然爆发的深度伪造丑闻，可能一直潜伏于表面之下，反映了长期存在的性别歧视问题。

在经合组织（OECD）国家中，韩国女性受教育程度最高，但劳动参与率却最低。韩国的性别工资差距在35个经合组织成员国中位列第一，差距为31.2%。

出于“只是觉得有趣”“用熟人的照片更真实”等原因，深度伪造变得像娱乐游戏一样蔓延。有分析称，无论是深度伪造性犯罪，还是韩国女性会在卫生间或更衣室遭遇微型隐藏摄像机偷拍，这些都是伴随技术发展而出现的最新形式的“厌女症”。

这与李娟枝的观察也不谋而合。

她最初关注的女性议题并不是深度伪造性犯罪，而是驾驶领域中的性别平等话题。

李娟枝发现，韩国女性在学习开车期间常会遭遇歧视问题。例如，当女性想要拿到一类驾照时（注：一种可以开大车的高级驾照），她们会被劝说改换二类驾照。即便顺利拿到驾照，女性也不容易获得处理交通事故、汽车保险、汽车修理等方面的信息。女性司机往往会因信息不足而对驾驶感到害怕，驾驶技术欠佳的女性也会被蔑称为“金女士”。

在韩国性别平等与家庭事务部的帮助下，2020年，李娟枝创建了名为“unniecar”的女性驾驶项目，提供讲座和书籍，旨在帮助初学驾驶的女性在没有“男性说教”的情况下，获得安全准确的信息。这几年来，李娟枝关注的女性社会议题外延也在不断扩大，强调保护女性权利。

李娟枝认为，从驾驶歧视，到深度伪造性犯罪。韩国社会中存在的“厌女症”一直没有得到有效解决。不仅如此，“厌女症”还被政治利用，进一步引发了男性群体的怨恨，成为政客招揽选票的一种方式，“如今，有大量十几岁和二十几岁的年轻男性在物化和疏远女性，而非建立平等自然的两性关系。正是这样的环境让‘N号房’和深度伪造性犯罪事件得以出现。”

深度伪造丑闻曝光后，84个韩国女性权利组织签署了一份声明，直指歧视才是症结所在，“造成这种现象的根本原因是结构性的性别歧视，解决办法是实现性别平等。”

面对层出不穷的案件和社会团体的呼吁，韩国总统尹锡悦出面回应称，依靠匿名恶意利用深度伪造技术是犯罪行为，希望有关部门展开彻底调查，彻底根除这种数字技术犯罪。

韩国政府也有计划加强对深度伪造性犯罪行为的处罚。韩国执政党国民力量党政策委员会主席金相勋表示，国民力量党和韩国政府计划推进立法，将散布虚假视频等犯罪行为的最高刑罚从5年提高至7年。

不过，李娟枝对韩国政府的承诺仍有疑虑，担心行动会否落到实处。

这份疑虑也并非毫无依据。2022年竞选总统期间，尹锡悦一直否认韩国存在结构性性别歧视，将低生育率现象归咎于女权主义，声称要对虚假的性侵报告给予更严厉的惩罚。尹锡悦上台后，韩国政府还推动将“性别平等”一词从学校教科书上删除，取消了反对日常性别歧视项目的经费。

“长期以来，我没有看到政府出台解决性别歧视的政策，反而他们是在破坏性别平等行动取得的进展。”李娟枝表示，韩国出生率已经降到世界最低水平之一，如果不认真解决“厌女症”，性犯罪还将继续上升，如果性犯罪不受到严厉惩罚，未来罪犯利用新技术犯下更复杂的罪行，那时韩国社会根本无法准备好。

斯鲁特表示，从根本上应对深度伪造性犯罪，各环节联动或缺一不可。政府需要将应对工作作为优先级，有明确的惩罚标准，设立标杆案件，若有必要可以专门建立一支应对深度伪造性犯罪的小队。学校和工作场所也需要展开有关“非同意网络色情”的教育。网络提供服务者需要监控平台，阻止传播任何深度伪造色情内容，警告用户一旦通过他们的服务平台传播深度伪造色情内容，他们将被永久移除。

9月7日，李娟枝告诉新京报记者，她向国会提出的请愿已获得所需的5万人同意，韩国政府有关部门有义务对请愿做出回应。

球已被踢到韩国政府一侧，“我很期待他们接下来的行动。”李娟枝说。

Deepfake技术非法合成色情视频的集体性犯罪事件接连曝光，韩国女性民友会发出了强烈呼声，表示“(韩国)女性们在失去日常生活安全感的情况下，仿佛生活在没有国家的状态中”。

民友会于8月26日发布了一份题为《群体性暴力参与者达到22万人，社会崩溃要继续被放任到何时》的声明，表达了上述观点。民友会指出，“在一个Telegram聊天群中，只需上传熟人的照片，付费后5秒钟内就能生成裸体合成图，这个聊天群的参与人数高达22.7万。这一数字充分表明这一问题不仅仅局限于那些直接参与Telegram聊天群、制作和消费非法内容的个别个人”。

此外，民友会还表示，“(韩国)女性们生活在一个无法有效惩罚或预防针对女性犯罪和暴力的社会中，失去了日常生活的安全感，仿佛生活在一个没有国家的状态中”。民友会质问道，“当社会中无数成员的日常安全受到威胁，一个容忍和学习对他人的集体侮辱和蔑视的社会还能继续存在吗？更进一步，这样的社会应当存在吗？”她们强调，“这已经是国家危机了”。

民友会呼吁人们反思，“如今韩国社会所培养出的‘普通男性’的最低标准究竟在哪里？”并指出，“女性们在与男性同学、前辈、同事以及上司的关系中，甚至在与非常亲近的熟人交往中，都会被当作‘评头论足’的对象，甚至被看作可以‘剥光后玩弄’的‘女人’。对‘女性熟人’的性物化、蔑视和侮辱，已经成为一种娱乐”。

民友会还批评了一直强调“没有结构性性别歧视”的尹锡悦政府。民友会认为，这次集体性犯罪是厌女和性别歧视的延长线，“尹锡悦政府顽固地坚持‘没有结构性性别歧视’这一毫无根据的主张，并且试图废除现有的女性家族部，漠视了无数女性的社会痛苦。这显然是渎职行为”。她们呼吁，“政府应加强性别平等专门部门，并制定跨部门的综合性长短期对策，以解决结构性性别歧视和女性暴力问题”。

最后，民友会指出，“作为社会的一员，每个公民都卷入了这种令人恐惧的‘正常化’性暴力文化中。无关性别，应该坚决要求彼此尊重他人的伦理”。

苹果应用商店截图。

Telegram（非正式简称TG或电报、纸飞机），是跨平台的即时通讯软件，支持用户相互交换加密与自毁消息，发送照片、影片等所有类型文件。

2013年，尼古莱和帕维尔·杜罗夫创立Telegram。

2024年3月12日，帕韦尔·杜罗夫表示，这款app拥有9亿用户，已接近盈利，并有可能上市。

2024年4月9日，Telegram以2100亿人民币的企业估值入选《2024·胡润全球独角兽榜》，排名11名。

2024年9月2日，韩国警方宣布已针对Telegram公司涉嫌放任Deepfake（深度伪造）的性犯罪行为展开立案前调查。

整合来源：新京报、微博

编辑：叶敏坚

本文作者

叶敏坚

174W

南方都市报编辑