变脸软件解封上万账号诈骗 人脸识别能作为决定性验证手段吗

南方都市报APP • AI前哨站
原创2021-10-19 22:13

10月18日,据江苏网警官方消息,江苏警方破获了一起“团伙用变脸App解封上万被限微信号”的案件。犯罪团伙使用多款手机软件伪造人脸,通过了微信的识别认证解除机制,“复活”了多个因违规被限制登录的微信账号,帮助诈骗团伙利用这些微信账号实施诈骗

诈骗.jpg

该案件引发了一些网友对人脸识别技术安全性的质疑。中国电子技术标准化研究院网络安全研究中心测评实验室副主任何延哲告诉南都记者,使用技术破解人脸识别的案件会发生,事实上并不是因为人脸识别这项技术做不到足够安全,而是要在准确度和易用性上做平衡,所以可能会适当降低安全校验的要素。他还提醒,人脸识别本来应该是一种辅助手段,如果将其作为一种决定性的验证办法,那就很可能出问题。


犯罪团伙用变脸App解封上万被限微信

据@江苏网警 微博,警方在侦办案件时发现,涉案人员使用的是一个因存在诈骗活动已经被停用的微信号。经民警调查,注册这些微信账号的人都来自偏远地区,他们注册微信账号后把账号卖给了别人。而买家用这些微信号来做什么,注册者并不清楚。

民警发现,被重启的微信均被境外诈骗分子所使用,而解除限制登录的关键是人脸核验。最终,警方挖出一条重新启用被限制账号的黑色产业链,成功打掉了这个涉嫌非法获取公民个人信息、伪造人脸识别认证的违法犯罪团伙。

办案民警介绍,嫌疑人使用了九款软件,将图片放到软件中进行一系列操作之后,就会形成一个动态的视频图片。嫌疑人正是利用这样的视频图片来进行人脸核验,解除限制登录,帮助诈骗团伙实施犯罪。

据犯罪嫌疑人供,帮诈骗团伙解除一个微信账号限制,能够获得100元,经审查,这个诈骗团伙重启的微信账号达1万多个,非法获利100多万元。

在接受江苏公共·新闻频道采访时,破获该案的南通如皋市公安局网络安全保卫大队副大队长王强伟说:“要求软件商对算法不断优化,提升软件自身的安全能力。”


人脸识别技术究竟安全吗?专家:不应作为决定性验证办法

从办案人员透露“利用软件将图片生成视频”这一细节来看,嫌疑人使用的技术并不稀奇,而是已经比较成熟的深度伪造技术。深度伪造是一种人工智能技术,它借助神经网络技术进行大样本学习,能将已有的图像和视频合成到目标图像或视频上。目前,深度伪造技术常被用于AI换脸,此外也包括语音模拟、视频生成等。

面部的深度伪造技术最早出现于2016年,这项技术开始于神奇新鲜的AI换脸特效,但到2017年,深度伪造技术合成的色情视频已经出现在互联网上,此后,深度伪造作品被国外一些社交网站和视频网站禁止。但伪造名人色情视频逐渐发展成一条黑色产业链,屡有明星受害

人脸识别是利用深度伪造犯罪的另一个重灾区。南都记者曾调查过QQ上的“AI换脸”乱象,发现不少提供AI换脸服务的人员,同时也在做“破解人脸识别”业务。

该案中,用照片就能破解微信的人脸识别,让不少网友质疑人脸识别技术是不是真的靠得住。

何延哲告诉南都记者,人脸识别的安全性经常被大家讨论和质疑,但事实上并不是人脸识别这项技术做不到足够安全,而是要在准确度和易用性上做平衡,所以可能会适当降低安全校验的要素。

“假如人脸识别本来要检验十个点,但是现在打个折扣,只检验五个点,自然就没有检验十个点安全,但方便性会上升。”他说,“不然的话,可能你戴个帽子,或者光线变一下,就识别不了。”

一位头部人脸识别技术提供商人士同样告诉南都记者,不同应用场景下,人脸识别的安全等级不同,准确性确实会存在差异。例如,手机解锁更多追求速度与便利,识别的准确性可能会受一定影响;而金融机构大额付款场景下,一方面会有活体检测等技术加强安全性,另一方面,通常会通过设备码、手机尾号、密码等其他信息交叉验证

何延哲认为,人脸识别本来应该是一种辅助手段,如果将其作为一种决定性的验证办法,那就很可能出问题。

另外,面对网友对人脸识别安全性的质疑,他提出,讨论人脸识别的安全性时,应该考虑一个问题——有人脸识别,和没有人脸识别,哪个更安全?在他看来,在密码作为验证方式的时代,社交账号被盗的现象同样存在。而人脸识别在大多数时候,还是制造了一定的门槛。“不能说因为有了人脸识别,我的账号被盗了。这不是一个完备的逻辑。”他说。


采写:南都记者李娅宁

编辑:蒋琳

1
对这篇文章有想法?跟我聊聊吧
蒋琳4.31亿
南方都市报记者
南都新闻,未经授权不得转载。授权联系方式:
banquan@nandu.cc,020-87006626。