来自小圈

人工智能讨论组

1895万人气

美国等42个国家签署政府间合作文件 预防人工智能不道德滥用

AI前哨站
原创2019-05-24 21:16

5月22日,经济合作与发展组织(以下简称经合组织)推出了首个政府间的《人工智能建议》(The Recommendation on Artificial Intelligence),共有42个国家签署了这一建议,包括美国。

按照这一建议,公司将不得建立黑匣子AI算法,并将其应用在任何可能影响人类权益的决策中。黑匣子AI算法,指的是供应商通常不会公布AI的运作方式,AI 算法宛如藏在黑匣子中。因此,当传统的AI算法产生决策时,外界无法了解结果是怎么诞生的。

经合组织的科学技术和创新司司长表示,建议的提出者们希望能够帮助塑造一个稳定的监管环境,促进技术的正面使用,抵挡不道德的滥用。建议文件则指出,文件旨在通过对人工智能的可靠管理,促进人工智能的创新和对人工智能的信任,同时确保尊重人权和民主价值观。

该建议共有两部分。第一个部分是,基于价值观的准则,对值得信赖的人工智能进行可靠管理。该部分有以下五项准则:

·人工智能应通过促进包容性增长、可持续发展和福祉,使人类和地球受益。

·人工智能系统的设计应尊重法治、人权、民主价值观和多样性,并实施适当的保障措施,例如在必要时进行人为干预,以确保一个公平和公正的社会。

·人工智能系统需有透明、可靠的信息披露,确保人们了解基于人工智能的运行结果,并且能对结果提出质疑。

·人工智能系统必须在其整个生命周期内,以稳健、安全和可靠的方式运行,且需受到不断的评估和管理。

·开发、部署或运营人工智能系统的组织和个人应按照上述准则,对其正常运作负责。

第二个部分,经合组织提出了国家政策和国际合作的建议,建议政府投资以科技为主的研发,为人工智能建设数字生态系统,为人工智能塑造有利的政策环境,培养人才并做好因科技导致的劳动力市场转型准备,且与其他国家合作。

欧盟也在今年4月发布了人工智能伦理准则,准则对未来的人工智能系统在7个方面提出要求,包括人类监督管理、技术稳健性和安全性、隐私和数据管理、透明度、多元化、环境和社会福祉、可靠性。

近年,人工智能发展迅猛,人脸识别、无人驾驶等相关应用广泛渗透到社会各方各面,但相关准则、法律、法规仍尚未确定。日前,因担忧隐私安全,旧金山通过了首例人脸识别禁令。英国出现首个针对警方使用人脸识别技术提起的法律诉讼,英国人爱德·布里奇斯(Ed Bridges)认为警方对他使用人脸识别技术是非法侵犯他的隐私权。

中国政府也正着手准备人工智能的治理。此前,在第三届世界智能大会上,中国科技部部长王志刚透露,有关单位正在加紧研究、起草人工智能治理准则,近期将向全社会发布。


文/南都大数据研究院研究员 陈志芳

编辑:蒋琳

1
对这篇文章有想法?跟我聊聊吧
蒋琳1.73亿
南方都市报记者
本作品著作权归南方都市报社所有,如需使用需经书面授权。授权联系方式:
banquan@nandu.cc,020-87006626。
好嘢听新闻报料去APP