来自小圈

人工智能讨论组

5320万人气

专家:人脸识别安全标准滞后于技术应用,标准化建设亟待规范

南方都市报 • AI前哨站
原创2020-09-16 22:05

南都讯 记者冯群星 2020年国家网络安全宣传周正在进行中。在9月16日的“网络安全标准主题论坛”,中国电子标准化研究院和腾讯的专家介绍了人工智能方面的安全标准编制情况。

2019年11月,全国信息安全标准化技术委员会(以下简称“信安标委”)发布《人工智能安全标准化白皮书》。《白皮书》显示,目前国内人工智能安全标准主要是生物特征识别、自动驾驶、智能家居等具体应用领域的标准,或者是大数据安全、个人信息保护等支撑性的标准,与人工智能自身安全/基础共性直接相关的还比较少。

如今,这一局面有望被打破。中国电子技术标准化研究院博士胡影在主题发言中介绍,不久前,《信息安全技术 机器学习算法安全评估规范》(以下简称“《规范》”)的编制工作已在信安标委立项,这是第一项有关人工智能自身安全/基础共性的标准。

《规范》具体要解决什么问题?胡影说,首先是分析人工智能系统各阶段的安全风险。从最开始的设计开发阶段、验证测试,再到系统的部署运行、维护升级,最后到废弃销毁,人工智能系统其实也有一个完整的“生命周期”,其中涉及到数据、模型等多方面的安全问题。

屏幕快照 2020-09-16 下午8.48.13.png

人工智能系统的生命周期。

此外,《规范》还要研究人工智能的安全属性,以及机器学习算法的安全评估模型、流程与示例。

胡影解释说,人工智能安全不同于传统的信息安全,相关的概念和属性有待进一步明确。传统信息安全强调保密性、完整性、可用性和可控性,人工智能安全则还要兼顾鲁棒性、透明性、公平性、隐私保护。

在当前的AI应用中,人脸识别的落地态势最为迅猛,社会关注度相对更高,但相关的安全标准体系也尚未完全建成。

与之相对的是,近年来,出现了越来越多的人脸识别安全事故:浙江嘉兴的小学生用家长照片刷开了人脸识别快递柜;深圳一家人脸识别公司泄露了数百万人的个人信息;有不法分子使用AI换脸技术绕开多家平台的人脸认证机制,实施虚假注册、刷脸支付等违法犯罪行为。

腾讯标准专家蒋增增介绍,现阶段的人脸识别应用其实还存在诸多安全短板。特别是在数据采集和保护环节,很多应用在广泛地采集用户的人脸数据,它们是否取得用户授权?提供人脸识别服务的机构众多,技术水平参差不齐,是否都具备足够的安全保障能力?这些问题其实都要“打个问号”。

他认为,人脸识别安全标准化建设已经滞后于技术应用,亟待规范。具体而言,标准化建设需要覆盖四个方面:数据和算法标准,包括数据质量、数据生命周期、隐私保护、算法模型安全等;技术安全标准,包括机器学习软件框架、网络安全、终端设备安全等;管理和服务标准,包括供应链安全、风险模型等;测试评估标准,包括活体检测、系统测评等。

他同时指出,人脸识别涉及人工智能、生物识别等共性技术,在制定标准的过程中,有关机构还需要注意横向打通,避免工作交叉重复。 

编辑:李玲

对这篇文章有想法?跟我聊聊吧
南都新闻,未经授权不得转载。授权联系方式:
banquan@nandu.cc,020-87006626。