1月12日，人民智库与旷视AI治理研究院联合发布“2021年度全球十大人工智能治理事件”（下称“AI治理十大事件”），涵盖了过去一年国内外在人工智能领域的重大立法实践、伦理规范制定和前沿场景落地。

无论是人脑芯片有望于今年落地、自动驾驶或将在英国合法化，还是国内“人脸识别第一案”终审宣判、联合国通过首份AI伦理问题全球性协议，无不彰显着人们对AI技术既渴望又警惕的矛盾心理。AI治理的紧迫性不言而喻。

有专家对南都记者表示，国内外对AI积极立法意味着AI应用已进入到普及阶段，制定相关制度规范迫在眉睫。还有专家提醒，AI既是创造美好生活的重要手段，也是需要进行妥善治理的对象。

南都记者了解到，“AI治理十大事件”由人民智库与旷视AI治理研究院成立联合课题组，邀请中国人工智能产业发展联盟（AIIA）为课题支持单位，组织相关领域权威专家学者、人工智能产业领域从业者等共同评选得出。

AI的应用与大数据密不可分，保障数据安全才能更好地进行AI治理。因此，十大事件中首当其冲的，就是国内数据安全相关立法的陆续发布和实施。

2021年8月1日，国内首个针对人脸识别的司法解释——《最高人民法院关于审理使用人脸识别技术处理个人信息相关民事案件适用法律若干问题的规定》正式实施。一个月后，《中华人民共和国数据安全法》实施。同年11月1日，《中华人民共和国个人信息保护法》正式实施；同月，《网络数据安全管理条例（征求意见稿）》发布。

中国信息通信研究院云计算与大数据研究所副所长魏凯指出，数据安全法、个人信息保护法与网络安全法共同形成了数据治理法律领域的“三架马车”，标志着我国数据安全法律架构已初步搭建完成。

此外，2021年还被称为“中国算法治理元年”。去年8月，国家网信办就《互联网信息服务算法推荐管理规定（征求意见稿）》向社会公开征求意见，提出应当向用户提供不针对其个人特征的选项，或向用户提供便捷的关闭方式。随后国家网信办等九部委印发《关于加强互联网信息服务算法综合治理的指导意见》，宣布我国将在三年内建立起算法综合治理体系。2022年伊始，《互联网信息服务算法推荐管理规定》发布，3月起施行。

“2021年的算法综合治理活动与相关立法，使得我国率先建立了世界上最为完备的囊括数据安全、个人信息保护和算法安全的互联网治理体系。”北京科技大学法学院副教授张凌寒如是说。

司法实践方面，2021年4月，“人脸识别第一案”迎来终审宣判。原告郭兵认为杭州野生动物园强制年卡用户刷脸入园侵害消费者权益，将其告上法庭。最终，杭州野生动物世界被判删除原告办理指纹年卡时提交的包括照片在内的面部特征信息，以及指纹识别信息。

北京邮电大学人机交互与认知工程实验室主任刘伟分析，“人脸识别第一案”之所以备受关注，是因为它体现了社会公众对于人脸识别信息的重视度日益增加；也体现了司法层面对于个人信息的保护，已充分关注到企业收集使用个人信息必须遵守“合法、正当、必要”三原则；同时也为企业敲响了警钟，提醒企业在收集使用个人信息的业务中应当更加注重合法合规。

监管趋严、立法加快，已成为AI治理的全球趋势。2021年4月21日，欧盟首次发布针对人工智能技术的监管法规草案，该草案被视作目前世界范围内目前最严格的人工智能技术全面监管法规。2021年10月6日，欧盟通过禁止警方在公共场所使用面部识别技术的决议，并对其使用AI进行预测性警务活动实施严格限制措施。

“人工智能治理已经成为全球共识，且已从理念层面进入到建章立制、落地实施的阶段。”清华大学公共管理学院教授、人工智能国际治理研究院副院长梁正表示，国内外对AI积极立法意味着AI应用已进入到普及阶段，制定相关制度规范迫在眉睫，此外还需要更多针对细分场景的细则和指引标准，推动法律法规的实施。

在AI治理中，刚性的法律制约和柔性的伦理规范通常是并行的。自AI技术诞生之日起，其蕴含的复杂伦理问题一直备受各界高度关注，且争议不断。从“AI治理十大事件”来看，除法律外，伦理也成为2021年度AI治理的关键词。

2021年9月25日，国家新一代人工智能治理专业委员会发布了《新一代人工智能伦理规范》，提出增进人类福祉、促进公平公正、保护隐私安全、确保可控可信、强化责任担当、提升伦理素养等6项基本伦理要求，旨在将伦理道德融入人工智能全生命周期，为从事人工智能相关活动的自然人、法人和其他相关机构等提供伦理指引。

放眼世界，2021年6月28日，世界卫生组织正式发布《卫生健康领域人工智能伦理与治理指南》。2021年11月25日，联合国教科文组织举行新闻发布会，宣布正式通过《人工智能伦理建议书》，这也是首份AI伦理问题全球性协议。

《人工智能伦理建议书》提出，发展和应用AI首先要体现出四大价值，即尊重、保护和提升人权及人类尊严，促进环境与生态系统的发展，保证多样性和包容性，构建和平、公正与相互依存的人类社会。

与法律法规相比，伦理规范更多体现出一种大方向上的、普遍性的指引。而企业则是实施伦理规范的主角——近年来，成立伦理相关部门成为企业自律的重要表现。

例如，2017年，微软在内部成立了人工智能伦理委员会（AETHER）；发起本次评选的旷视在2019年成立了“人工智能道德委员会”，并在2020年初建立“旷视AI治理研究院”。近几年，关于加强AI伦理的呼吁也越来越多地从企业发出。

2019年全国两会上，百度创始人李彦宏提议加快AI伦理研究，鼓励企业在产品设计和业务运营中贯彻AI伦理原则。2020年世界人工智能大会上，旷视联合创始人兼CEO印奇提出企业践行AI治理时要秉持的三条原则：不缺席——深度参与其中；不对立——技术的发展、商业的应用、规则的制定应该是相辅相成的；行胜于言——AI治理的每一步都要反映到日常工作中。2021年世界人工智能大会上，京东探索研究院院长陶大程表示，AI在落地应用时面临的选择问题，主要表现为大众对AI技术的信任的危机和伦理焦虑。

在中国社会科学院工业经济研究所资源与环境研究室主任杨丹辉看来，目前AI技术仍处在产业化应用的初期阶段，很多深层次的伦理问题及其影响尚未充分显现。因此，有关部门应密切追踪技术前沿，广泛吸纳不同学科、各个领域的专家学者以及企业和消费者的意见和建议，对伦理规范进行科学、动态调整。

此外，AI治理应“多方共治”成为广泛共识。梁正分析“AI治理十大事件”表示，在AI的治理当中，除了自上而下的建章立制，自下而上的基于应用主体和用户选择的参与，也成为AI治理的一个重要特点。

“如这次我们看到此次AI治理十大事件中，一些公司在其产品应用上，是否提供一些自动化决策和和信息选择权利，将其交还给了消费者个人。当然这方面也会带来一些争议，但是它体现出了我们在AI治理上‘多方参与、协同治理’的理念。”他说。

过去一年，与监管落地相对应的，是技术给世界带来的关于未来的想象。

“AI治理十大事件”中，自动驾驶汽车短期内或将在英国合法化、人脑芯片或将在2022年投入使用等事件让人们看到了技术高歌猛进的一面。不过，专家们普遍认为，对于这些前沿技术，需要更加谨慎看待。

以自动驾驶合法化为例，华北电力大学教授宁阳表示：“这一方面标志着自动驾驶技术越来越走向成熟，它可能使未来出行变得更加绿色、便捷和可靠，并将促使道路交通和商业保险等相关法规的重新修订。但另一方面，也会带来人们对于自动驾驶安全性的担忧和丧失驾驶体验感的顾虑。这无疑是一项崭新的技术革命。”

事实上，技术进步究竟将为人类带来更多福祉还是更多危害，也是人们普遍关注和担忧的问题。

对于更具科幻性的人脑芯片议题，中国社会科学院政治学所研究员唐磊认为，这是科幻小说、电影中被反复设想的场景，是突破人的极限的关键一步。“医疗健康领域是脑机接口最初、最直接和最主要的应用领域，这将为人类带来巨大福祉。但是，脑机接口在军事领域如果被用于替代、增强方向，就有可能给人类带来巨大灾难。”

“AI治理十大事件”也关注了AI落地场景的进一步延伸。过去一年，中科院心理所研究员朱廷劭通过AI算法开发了自杀意念识别模型，并组织志愿者团队给予干预和救助。央视新闻联合百度智能云打造的总台首个AI手语主播正式亮相；科大讯飞、爱奇艺等也先后推出善用手语表达的仿真AI主播。世界地球日当天，阿里巴巴达摩院与南京信息工程大学、国家气候中心等联合举办业界首个AI气候预测大赛，首次预测未来两年气候。

“AI技术的不断发展启发着不同行业，为很多之前难以解决的问题提供新的思路，科学合理使用AI能力可以为人类社会造福。”招商银行人工智能实验室主任李金龙说。不过他也提醒，在使用的时候也需要考虑AI本身的局限性——“如今的AI技术底层仍是统计思维，在实际使用中一定要注意AI系统偏见的问题”。

中国信息通信研究院副总工程师、中国人工智能产业发展联盟副秘书长王爱华认为，十大事件表明了AI治理正在“趋严、趋实、趋细”，国内外立法进程说明AI治理正在迎来实质性的监管落地，而且治理的工作重点细化于典型场景中，例如自动驾驶、智慧医疗等。

从2019年第一次评选全球十大AI治理事件起，印奇参与了每一年的评选工作。在他看来，今年一个显著趋势是与AI治理、算法治理、数据治理相关的法律法规更加完善，对AI技术和应用的细分场景给出了更精细的标准和引导。

“作为全球科技竞争的关键领域，AI不仅需要在技术创新和应用落地上下工夫，也需要在治理上使力气。人工智能既是我们创造美好生活的重要手段，也是需要进行妥善治理的对象。”他说。

采写：南都记者李娅宁

编辑：蒋琳