当地时间11月1日，首届全球AI安全峰会在英国布莱切利公园举行——这里曾是二战期间盟军破译密码的主要地点，也是“现代计算机科学与人工智能之父”阿兰·图灵发明第一代图灵计算机的地方。

AI峰会上，来自28个国家和欧盟的代表以及联合国、经合组织、国际电信联盟等国际组织的代表，签署了《布莱切利宣言》（下文简称《宣言》），这是第一个关于人工智能的国际性声明。《宣言》旨在应对未来强大的AI模型可能带来的潜在威胁，以及当前AI放大有害或有偏见信息的风险。中国科学院、微软、腾讯、阿里巴巴等多家企业及机构，OpenAl首席执行官Sam Altman、谷歌DeepMind首席执行官Demis Hassabis，还有马斯克等科技界知名人士都出席了会议。

《宣言》指出，“AI应该以人类的利益和价值为导向，尊重人类的尊严、自主性和多样性，保护人类的权利、自由和安全，促进人类的福祉和社会正义，以及保护地球的生态系统和生物多样性。”

此外，《宣言》还提出了一系列的原则和建议，包括为了所有人的利益，人工智能应该以安全、以人为中心、值得信赖和负责任的方式设计、开发、部署和使用，并特别呼吁人们关注OpenAI、Meta和谷歌等公司正在开发的大型语言模型，以及它们可能因滥用而造成的具体威胁。

“人工智能的‘前沿’出现了特殊的安全风险，那些能力强大的通用人工智能模型，包括基础模型，它们可以执行各种各样的任务，以及相关的特定狭义人工智能，它们可以表现出以下能力：造成伤害——其能力达到或超过当今最先进模型的能力。”《宣言》写道。

英国科学、创新和技术大臣米歇尔·唐兰在发布《宣言》时表示，各国现在第一次一致认为他们不仅需要各自面对，而且需要共同审视前沿人工智能的风险。

《宣言》特别指出了“前沿”AI可能带来的风险，如ChatGPT、Bard、Midiournev等大语言模型以及其他“超”能力的狭义AI。《宣言》认为，这类系统的能力难以预测，可能被误用或失控。

此外，《宣言》也建议，应当重视AI在不同领域的应用及其可能造成的后果，尤其是关注网络安全和生物技术等领域。“Al系统已经被部署到日常生活的许多领域,包括住房、就业、交通、教育、健康、无障碍环境和司法等，其使用还在不断增加。其中包括公共服务领域如健康和教育，粮食安全学、清洁能源、生物多样性和气候等，AI的使用能够加强人权保障，并助力实现联合国可持续发展的目标。然而同时,AI也带来重大风险，包括日常生活领域的风险。”

为此，《宣言》指出，他们欢迎相关国际力量通过现有论坛和其他相关倡议，审视和应对A系统潜在的影响。

此外，在峰会上，美国商务部长吉娜·雷蒙多宣布成立一个新的人工智能安全研究所，该研究所将设在美国商务部内，具体隶属于该部的国家标准与技术研究院（NIST）。雷蒙多说，该组织的目标是与其他政府设立的其他人工智能安全组织密切合作，并透露英国也计划建立安全研究所。“我们必须开始工作，机构之间也必须开始努力，以在全球范围内实现政策一致。”她说。

据新华社报道，中国科技部副部长吴朝晖率团出席了此次峰会，参与人工智能安全等问题讨论，积极宣介中方提出的《全球人工智能治理倡议》。该倡议围绕人工智能发展、安全、治理三方面系统阐述了人工智能治理中国方案。

采写 南都记者胡耕硕

编辑：李玲

本文作者

李玲

3.66亿

南方都市报记者