日前，据江苏卫视报道，一名女子疑似遭遇了换脸诈骗。警方怀疑不法分子通过AI换脸等技术让李雪相信，和她视频通话的是大学同学小王，从而骗走了她3000元。

此前，李雪正和妈妈一起在南京旅游，她的大学同学小王通过QQ联系李雪称，其表姐生病住院急需用钱。小王自称其银行卡被冻结，需要先将钱转入李雪账户，再托李雪将钱转给小王生病的表姐。但李雪迟迟没有收到小王的汇款，于是决定先自行垫付部分医疗费给小王救急。 

在转账汇款前，为了确认小王的身份，李雪和小王进行了4-5秒的视频通话。在视频中，李雪确认了对方就是自己隔壁寝室的同学小王，而且小王本人正坐在医院，“我看到有个人，她转了一下头，我们还跟她挥手打了招呼。所以如果我们没有打这个视频电话，我是不会给她转钱的。”李雪向警方描述道。

不过，在短短几秒的视频通话中，小王没有说话。而李雪通过视频通话确认了对方的长相后，便打消了疑虑，随即将3000元汇入了小王的账户。“她要3800，我卡里没那么多钱，就先转了3000，再尝试汇入剩下的800就转不过去了，然后就觉得我们好像被骗了。”李雪的母亲宋女士称。当李雪再次跟小王本人取得联系后，才得知她的QQ号已经被盗了。

警方随即联系了小王，小王告诉警方自己的QQ这段时间频繁被踢出登录。“她也尝试过修改密码，但一直没有太大效果，QQ一直处于自己和其他人交替登录的状态，因此她的个人信息可能也是在这种状态下被泄露。”南京市公安局秦淮分局五老村派出所民警张子旭称，“犯罪分子很有可能得到了小王的面部照片等个人信息，通过AI换脸技术找了一个身处医院的人，将小王的脸切到真正被拍摄者脸上进行了替换。” 张子旭同时还表示，视频中的“小王”只是轻微转了一下头部，来证明自己不是静止的状态来获取李雪的信任。

目前该案件已经由南京市秦淮警方立案处理。警方提醒，当遇到以紧急情况为由通过网络转账向自己借钱时，一定要打电话核实对方身份，不能轻易转账。

而在此之前，除了用照片活化、AI换脸技术等欺骗真人，在全国范围内已经发生了多起不法分子利这类技术“骗过”人脸核验机制的案例。

南都此前曾报道，在2019年8月，深圳一市民准备在某机构网站办理业务时，却发现自己被他人冒用身份注册并成功办理了业务，而该网站的注册要求其中之一是必须进行人脸识别认证。 

那么，不法分子究竟是如何冒用他人身份成功通过人脸识别认证？

办案民警介绍，犯罪分子首先利用非法途径获取包括照片、手机号码以及身份证号码在内的公民信息。接着，再使用特殊软件进行“照片活化”，生成一个3D人脸，并且在脚本的加持下，这一“活化”后的照片还可以配合做出点头、眨眼等等动作。

进入到人脸认证阶段，正常情况下，这一环节是通过手机摄像头完成人脸及面部动作的捕捉。然而，不法分子利用上述经“照片活化”软件生成的动态视频，加上一些技术手段，就可以骗过人脸核验机制，再搭配其他公民信息，不法分子就可以轻易地冒用他人身份完成软件的实名注册。

在“净网2020”行动中，深圳龙岗警方经多方侦查发现，不法分子利用“照片活化”等技术绕过人脸识别认证，除了为违法犯罪团伙提供虚假注册、刷脸支付等黑产服务外，还可能去注册各类社交平台的账号，并通过贩卖账号获利，而这些实名注册的账户，可能被用来实施“杀猪盘”等电信诈骗、在各平台上发放广告或者是办理各项业务。

截至“净网2020”行动结束，龙岗警方共抓获涉案犯罪嫌疑人13名，地跨广东、河南和山东等省市。 

此外，在2020年年初，浙江衢州也破获了一起盗用公民个人信息案，犯罪嫌疑人同样使用盗取的个人信息，利用AI换脸技术和“照片活化”技术生成动态视频，注册了某金融平台账号，非法获利数万元。

 （李雪、小王均为化名。）

综合：南都人工智能伦理课题组研究员石悦欣 潘颖欣 马思捷

编辑：冯群星