担心你的自拍照被抓取滥用吗?AI工具帮你“骗”过人脸识别算法

南方都市报APP • AI前哨站
原创2020-08-07 21:15

在人脸照片也能作为“料子”贩卖的今天,你是否有过这样的顾虑:我们还能在社交平台愉快地分享自拍照吗?

日前,芝加哥大学的SAND Lab开发了一款名为Fawkes的软件,能够帮助你 “欺骗”人脸识别算法,让算法将照片中的你误识别为其他人。

queen.png

经Fawkes处理前的照片(左)和处理后的照片(右)对比。图片来源:The Verge

具体来说,Fawkes会使用公开数据集中的人脸照片,“污染”用户所上传的人脸照片,从而误导人脸识别算法,帮助照片的主人实现“隐身”。而由于Fawkes仅对照片进行像素级的修改,肉眼几乎分辨不出照片修改前后的区别。

微信图片_20200807170818.png

Fawkes“隐藏”人脸的过程。图片来源:SAND Lab

据悉,Fawkes在对抗多个人脸识别算法时,均有较高的成功率。Fawkes的开发人员称,经过Fawkes处理的照片,能100%“欺骗”微软、亚马逊和旷视等公司的最新人脸识别算法。

目前,项目研发团队已经将Fawkes的代码开源,并提供了Mac和Windows系统的软件版本免费供网友下载和使用。据The Verge报道,Fawkes的下载量已经超过了十万次。

Fawkes的开发人员称,研发这个软件是为了防止第三方算法模型在未授权的情况下收集网友在网上公开发布的照片,以此保护网友的个人隐私。

在Fawkes公开发布前,美国人脸识别初创公司Clearview AI 已经在Facebook、YouTube和Venmo等网站上抓取了约30亿张面部图像,并据此开发了一款人脸识别软件。用户只要在Clearview AI 的软件中上传一张照片,便能搜索出照片主人在各个社交平台上的账号、所发布的照片等个人信息。

而Clearview AI的首席执行官Hoan Ton-That在接受《纽约时报》采访时称,互联网上有数十亿张未经修改的照片,完善并大规模部署与Fawkes相似的技术为时已晚。

不过,Fawkes的研发团队并不认同此观点。据The Verge报道,参与Fawkes研发的教授Ben Y. Zhao称,对于大部分人来说,Clearview AI目前只抓取了他们很少量的照片,如果人们未来在互联网上发布更多经过处理的照片,那么这类照片的数量将超过未经处理的照片。如此一来,Clearview AI等公司开发的人脸识别算法的准确率将会降低。

此外,他在接受《南华早报》采访时指出,使用Fawkes的理想方式是将其嵌入社交软件中,这样用户就可以在上传照片时对其进行修改,从而保护数百万用户。

他还透露,研发团队并没有将Fawkes商业化的计划,只可能在确保Fawkes不被错误的人商用的情况下,申请版权或者专利,“隐私不应该被标价”。


综合:南都记者 潘颖欣

编辑:冯群星,

南都新闻,未经授权不得转载。授权联系方式
banquan@nandu.cc. 020-87006626
1