来自小圈

人工智能讨论组

868万人关心

英国男子拒绝人脸识别当街被罚 人工智能应用再惹隐私争议

AI前哨站
原创2019-05-18 22:44

最近,人脸识别领域的话题有点多。

在太平洋彼岸的美国,旧金山成了全美首个禁止市政机关使用人脸识别的城市,理由是担心政府滥用权力。而在欧亚大陆另一端的英国伦敦,一名男子拒绝人脸识别当街被罚,消息传回国内,成了微博热门话题。

事实上,因为涉及到的数据太过特殊,人脸识别技术的发展一直伴随着担心与争议,在中国也不例外。

···
备受关注的公众隐私

据英国媒体报道,为了追捕通缉犯,伦敦警方在当地罗姆福德地区的一辆警车上安装了人脸识别摄像头。一名路过的男子不想被拍摄,就在经过摄像头时拉高衣服遮挡脸部。警察认为男子行径可疑,上前阻拦。男子因此与警察发生冲突,最终被罚款90英镑(约为人民币791元)。

警察的做法在英国激起了讨论。有民众认为,人们应该有躲避摄像头的权利。“如果我想挡住我的脸,我就挡住。我在街上走得好好的,不要来推搡我。”在接受外媒采访时,当事男子说。

屏幕快照 2019-05-18 下午10.31.00.png

拒绝人脸识别被罚款的当事男子。图自BBC新闻。

该男子并不是全世界唯一介意自己被摄像头拍摄的人。2010年,美国艺术家Adam Harvey发起CV Dazzle计划,希望用艺术的形式吸引社会关注,保护受到商业机构和政府侵蚀的公民隐私。

该计划主要是利用特殊的妆发躲避人脸识别。CV Dazzle计划官网介绍,人脸识别抓取的关键特征是鼻梁、眼睛、头型、肤色明暗、脸部对称程度等,特殊妆发恰好能改变这些关键特征。 

屏幕快照 2019-05-18 下午10.31.10.png

CV Dazzle特殊妆容示意图。图自CV Dazzle计划官网。

无独有偶,2013年,芝加哥艺术家Leo Selvaggio发起了“URME监控计划”,也试图进行保护隐私的表达。不过,他的做法更加激进:制作3D打印面具,彻底变脸——比起直接拒绝人脸识别,他更倾向于颠覆人脸识别的本意。

“以我们目前的技术发展速度来看,想改变监控状态是不可能的……我建议我们改变被监控的内容,直到我们被监控的原因不再有意义。”Leo Selvaggio在一个宣传视频中说。同时,他认为该计划能使佩戴者暂时扮演一名白人男性,体验将大多数美国人排除在外的白人男性特权。

屏幕快照 2019-05-18 下午10.31.15.png

艺术家Leo Selvaggio的3D打印面部模型佩戴示意图。图自URME监控计划官网。
···
安全问题浮出水面

不止是隐私,人脸识别的安全问题也愈发受到关注。近日,在天津举行的第三届世界智能大会上,360集团董事长周鸿祎就直言人脸识别有“先天缺陷”,需要安全人员来保驾护航。

周鸿祎谈到的“先天缺陷”,指的是人脸识别系统可能被欺骗,欺骗手段在人类看来则特别小儿科。例如,比利时鲁汶大学研究人员尝试用一张彩色纸板遮挡人的身体,发现系统无法正确识别,相当于人在摄像头前直接“隐身”。

屏幕快照 2019-05-18 下午10.31.21.png

人脸识别系统无法识别出被彩色纸板遮住的人。图自麻省理工学院科技评论网。

遮挡的方式无法欺骗红外线光人脸识别技术,比如苹果的FaceID,但研究人员也找到了相应的破解办法。复旦大学、香港中文大学、印第安纳大学和阿里巴巴组成的研究团队通过红外线灯将肉眼无法看见的红外线光打在人脸上,红外线光人脸识别技术将因此无法正确识别。在实验中,系统甚至会将普通人识别成乒乓球运动员王楠、韩国政客李会昌。

屏幕快照 2019-05-18 下午10.31.28.png

复旦大学等研究员的红外线光迷惑人脸识别技术示意图。图自论文《隐形面具:红外线对抗人脸识别》

研究人员认为,利用这种方法,不法分子不仅能成功躲避监控摄像头,还能冒充他人通过人脸识别认证。

人脸识别技术安全隐患,还体现在歧视上。源自人类思维和技术的人工智能,在识别有色人种或女性的脸部时成功率下降,甚至出现过将黑人女性识别成大猩猩的案例。

去年,麻省理工学院研究员发现,部分人脸识别软件能几近精确地识别出白人男性,但在识别深肤色女性时失败了,原因是研究员在训练人脸识别软件时,使用的数据不足,不同人种和不同性别的人脸数据不均衡。据估计,在一个被广泛使用的人脸数据库中,男性人脸占75%以上,白人占80%以上。

 

文/南都大数据研究院研究员 陈志芳

编辑:蒋琳

20
对这篇文章有想法?跟我聊聊吧
本作品著作权归南方都市报社所有,如需使用需经书面授权。授权联系方式:
banquan@nandu.cc,020-87006626。
好嘢听新闻报料去APP