来自小圈

人工智能讨论组

7110万人气

我的脸为何不由我做主?委员专家建议追究人脸识别滥用责任

南方都市报APP • AI前哨站
原创2021-03-03 21:25

1600x719_603d897d451f2.jpg

2021年全国两会即将开幕。曾饱受热议的人脸识别技术,再度成为焦点。

在3日的全国政协十三届四次会议新闻发布会上,南都记者围绕刷脸和个人信息过度收集使用进行提问。全国政协大会新闻发言人郭卫民表示,随着人工智能互联网新技术的广泛使用,隐私保护问题也日益突出,委员们对此十分关注。

规范人脸识别应用的共识正在形成,但如何将共识落实到行动中?针对公众反映强烈的人脸偷拍、强制刷脸等问题,有什么可行的治理手段?

近日,全国政协委员、广州市政协副主席于欣伟,清华大学法学院教授劳东燕,中国社科院科技和社会研究中心主任、研究员段伟文,中国信息通信研究院安全研究所研究员葛鑫,瑞莱智慧RealAI首席执行官田天等专家来到南都直播间,就此展开探讨。

两会大家谈800x450.png

直播回看地址:

https://m.mp.oeeee.com/live/4055_c27a6372c6ad7cd6.html


应用现状

人脸识别“无孔不入”频繁引发争议

近年来,人脸识别应用越来越普及了。

在工商、人社、交通、金融等政务领域,人脸识别主要被用来满足身份核验的安全管理要求。在商业领域,除了传统的身份识别与核验,人脸识别还被开发出轨迹追踪、客流统计、微表情分析等用途。

然而,随着应用场景的不断扩张,人脸识别留给公众的印象正在悄然转变。南都去年上半年发起的一项问卷调研显示,64.39%的受访者认为人脸识别技术有滥用趋势。有人感叹,人脸识别已不是“遍地开花”,而是“无孔不入”。

屏幕快照 2021-03-03 下午2.34.45.png

2020年上半年,南都曾发起问卷调查。图/AI前哨站。

过去一年,人脸识别争议频发:有地方强迫用户接受人脸识别,比如杭州野生动物世界强制年卡用户刷脸进出多地小区全面启用人脸识别门禁;有的应用导致当事人信息及财产权益受损,比如售楼处偷拍客户“杀熟”、有人戴头盔看房;有的技术过于冰冷失去了人性关怀,比如94岁老人在银行被抱起刷脸;还有些一些使用方式超出了用户的合理期待,比如垃圾房厕纸机也用上人脸识别。

与此同时,人脸识别的安全风险逐渐显现。官方数据显示,2020年全国公安机关侦办的3100多起侵犯公民个人信息刑事案件中,有22起窃取、贩卖人脸数据的案件被破获,60名犯罪嫌疑人落网

不同于手机号等个人信息,人脸数据具有唯一性,且基本上不可更改。因此,人脸数据一旦泄露,便是终身泄露。

有感于新技术的“无节制应用”以及随之而来的“丢脸”风险,全国政协委员、广州市政协副主席于欣伟今年准备了一份相关提案,呼吁政府主导、社会各界联合,共同规范人脸识别应用。(详情见南都此前报道《人脸识别无节制应用威胁信息安全!委员呼吁展开专项整治》

于欣伟直言,虽然现行法律法规中已有个人信息保护的要求,但人脸识别的管理和立法工作还稍显滞后。在数据安全保障方面,开发者和应用方缺乏主动性和责任感。

屏幕快照 2021-03-03 下午5.43.41.png

老人在银行被抱起进行人脸识别。图自网络。


症结分析

谁动了我的“脸”?信息不透明问题突出

过去,不少企业抱着“中国民众愿意用隐私换便利”的想法,在推广人脸识别时,往往以便捷、高效作为主要卖点。

“中国民众愿意用隐私换便利”的想法不成立暂且不说,技术落地的狂飙突进中,公众体验到的便利性、获得感,似乎也并没有那么突出——南都问卷调研显示,与人脸识别相比,受访者更倾向于使用指纹、短信验证码等传统方案。

屏幕快照 2021-03-03 下午2.36.51.png

问卷调研显示,受访者更愿意使用指纹、收集 验证码和密码。

宣传设想与民众感受之间的矛盾,与多重因素有关。

“目前来看,人脸识别从技术开发到落地应用,‘让民众感受到更多便利’并不是第一驱动力。实际上推广主体更多考虑的是产业盈利或是社会治理方面的需求。”清华大学法学院教授劳东燕说。

去年3月,劳东燕所在的小区也准备把门禁升级成人脸识别。但在劳东燕看来,“刷脸”不过能帮她节省几秒的出入时间,跟随之而来的隐私安全隐患相比,这样的收益微不足道。

中国信息通信研究院安全研究所研究员葛鑫有类似的观察。她指出,人脸识别的受益者主要是开发者与应用方,风险承担者却是作为个人信息主体的民众。“便利由一方享有,风险由另一方承担,这是一种失衡。”她说。

值得注意的是,大量应用方无法证明使用人脸识别确有必要,也不会主动告知人脸数据的收集使用目的与规则。信息的不透明加剧了公众的不信任感,也使得应用方的收集使用行为缺乏有效监督。

事实上,从《网络安全法》《消费者权益保护法》到今年新生效的《民法典》等相关法律,均有明确个人信息收集使用的“合法、正当、必要”原则,也要求个人信息处理者征得个人信息主体的知情同意。《民法典》还强调,对于个人信息“不得过度处理”。

然而,法律中的原则性要求,并不足以成为震慑违规应用的“牙齿”。

人脸识别应用方和被识别者之间存在着信息不对称。为什么这里会部署人脸识别设备?什么时候我会被识别?我的数据去了哪里,被如何使用?这些信息不透明,而民众连有效的了解和表达渠道都没有,他们当然会有隐私焦虑,甚至会导致‘隐私冷漠’这一不无矛盾的社会现象”,中国社科院科技和社会研究中心主任、研究员段伟文指出,这些问题与表象的背后,其实是“我的脸我不能做主”的无力感。

曾研究过多个人脸识别争议案例的葛鑫,建议应用方通过更细致的措施来提升信息透明度,降低安全风险。例如,线上应用收集使用人脸数据前,应该进行单独的告知。具体功能界面则要有明显提示,向用户说明用途。线下使用人脸识别的场所,应在采集区域设置明确标识。如果用户长时间未再使用,应用方则要及时删除其数据。

屏幕快照 2021-03-03 下午3.02.16.png

当前,在商场、景区、售楼处等场景中,应用方往往不会设置明显标识。


对策建议

知情同意只是基础 还须明确侵权责任

去年12月,全国人大常委会法工委发言人岳仲明曾在记者会上表示,人脸识别等新技术的应用和发展,给个人信息保护带来新挑战。在《个人信息保护法》的制定过程中,全国人大常委会法工委将就有关问题进一步广泛听取意见,深入研究论证。

新挑战正在使传统的个人信息保护路径表现出严重不足。劳东燕举例说,以知情同意为例,现实中,很多人都是在不知风险的情况下同意,或者由于必须使用相应服务而不得不同意。个人一旦表示同意,数据处理就交给了相关的企业或政府部门,个人再难进行后续的监督和控制。

她认为,人脸识别的规范需要更新顶层设计。一方面,需要通过事前的规范设计,限制或禁止缺乏必要性的人脸识别应用;另一方面,立法上不仅要明确个人信息主体享有的权利和个人信息处理者需要承担的责任,而且要设立切实有效的救济条款,以便通过事后追责,让违法者承担侵权责任。

“人脸识别应用前是否要进行必要性审查?哪些机构可以获得人脸识别权限?数据权属、使用、交易、共享机制怎么定?数据所有、使用与收益权限怎么明确?谁来牵头进行监管?”于欣伟也提出,有必要组织人工智能的专项立法,同时要建立相应的行政管理机制。

她认为,知情同意只是基础,民众交出个人信息后,撤回同意的权利以及数据安全的保障,才是重中之重。在现阶段,政府可考虑开展专项整治,依法打击非法滥用。

忽略了安全底线,技术发展就将迷失方向。将新技术纳入法治轨道,健全行业治理,回归科技初心,我们才能迎来人工智能的星辰大海。”于欣伟强调。

田天谈到,除了立法,一些问题还需要通过更先进的技术手段来解决。比如针对数据泄露,应用方可以把人脸数据的处理过程限制在本地终端,降低数据传输带来的泄露风险。再比如加强对AI换脸和对抗样本的研究,一方面可对人脸信息数据实现匿名化处理,另一方面防止人工智能系统被破解。

屏幕快照 2021-03-03 下午5.49.26.png

最近因“蚂蚁呀嘿”魔性视频爆火的AI换脸软件Avatarify已被下架。


嘉宾期待

与其无奈接受隐私焦虑 不如积极表达推动改变

各类政府机构对个人信息保护越来越重视,但单独的个体想要通过民事手段维权仍然不容易。

在去年备受关注的“中国人脸识别第一案”中,浙江某大学特聘副教授郭兵起诉了强制刷脸的杭州野生动物世界,一审法院虽然支持了郭兵的部分诉讼请求,所依据的却不是现行法律中有关个人信息保护的规定,而是合同法相关条款。

劳东燕去年也差点经历小区的强制刷脸。当物业通知将安装与启用人脸识别门禁时,她把法律函寄到了物业和居委会。“个人想要为自己的权利作斗争,是要付出很大代价的。这种代价并非我们普通人所能承受,因为它会严重干扰原有的生活。”劳东燕坦言,她也只是“稍微挣扎了一下”。

有着法律专业背景的郭兵和劳东燕尚且如此,其他人想要保护自己的个人信息权益可能更难。

正如段伟文所说,“我的脸我不能做主”的无力感,导致了“隐私冷漠”这一不无矛盾的社会现象。在南都记者的街采和调研中,很多网友甚至无奈表示,反正个人信息此前已经泄露过,再加个人脸也无妨。

屏幕快照 2021-03-03 下午7.46.30 1.png

接受采访的先生对南都记者说“躲避不了那就只能上(人脸识别)了”。图/AI前哨站

但在多位嘉宾看来,与其无奈地接受隐私焦虑,不如“较真”一点,通过积极的关注和表达推动改变。

“如果不积极推动改变,按照我们以往的经验,人脸识别的问题就会通过一些突发性或恶性社会事件来引起公众的关注”,段伟文说,“那时候我们再推动改变,可能会付出更多的社会代价。

如果用户自己都放弃了,那么企业就更不会把隐私保护、系统保障等安全性工作放在一个更高的优先级上。”田天觉得,用户的主动选择,可以倒逼企业加强在AI安全方面的投入。行业有了良性的竞争,就更有希望向好的方向去发展。

劳东燕坦言,对于那些比较消极的态度,很多时候她也感同身受。关注、发声,问题不一定能得到解决;但不关注、不发声,问题一定不会被解决。个体还是要积极发声,哪怕是在网上发个评论或者点个赞,都比成为“沉默的大多数”要好。

“立法和司法机关,对于民意其实是非常关注的。所以我们要相信,积极的努力,总能使境况变得好一点。每个人的努力可能很微小,但一群人的努力形成合力,就可能影响到法治的进程。”她说。


采写:南都记者冯群星 潘颖欣 实习生 樊文扬

编辑:李玲

更多报道请看专题:2021年全国两会人工智能报道合集
2021全国两会
聚焦2021全国两会

3
对这篇文章有想法?跟我聊聊吧
李玲2.5亿
南方都市报记者
南都新闻,未经授权不得转载。授权联系方式:
banquan@nandu.cc,020-87006626。