“在安全治理侧，应对技术进步保持耐心，防止过度超前的监管措施压制行业发展预期……”7月4日下午，在2024世界人工智能大会暨人工智能全球治理高级别会议的一场分论坛上，清华大学文科资深教授、人工智能国际治理研究院院长薛澜发布了一项研究成果。

薛澜发布报告。南都记者李玲/摄

这份名为《全球人工智能治理与中国方案（征求意见稿）》的报告，由薛澜所在的清华大学人工智能国际治理研究院与阿里巴巴共同打造。报告指出，以ChatGPT 4.0和Sora发布为节点，人们两次感受到“大模型+生成式”的冲击，至今不过1年。

人工智能技术的突飞猛进，让“发展治理”成为核心共识。比如，美国、中国、欧洲、中东、东南亚等国家和地区相继发布国家基础设施及AI投资计划，聚焦可持续算力、高质量数据集等大模型研发的核心生产要素补齐，同时围绕人才、资本、监管等制度要素进行合理配置，逐步形成了“发展型治理”体系。

梳理人工智能全球治理进展，薛澜还提到“安全治理”受到高度关注。2023年11月1日，首届全球人工智能安全峰会在英国举行，欧盟和中国等28个国家共同签署了《布莱切利宣言》，旨在促进全球在人工智能安全方面的合作。今年5月21日，第二届人工智能安全峰会在韩国首尔举行，此次峰会由韩国与英国共同主办，以“安全、创新、包容”为主题。

人工智能治理应当重点关注的风险挑战是什么？薛澜认为，不可忽视的是技术挑战。前沿人工智能可能带来功能障碍和失控风险、技术滥用恶意风险，以及经济、社会、政治的系统性风险。

这种风险的不可控性、不确定性，让人工智能治理本身也成为一项难题。其中较为明显的表现就包括，治理机制变革与技术发展缺乏同步性，发达国家和发展中国家技术鸿沟难以解决。

值得一提的是，为弥合数字鸿沟，推动全球共享AI发展成果，第78届联合国大会7月1日协商一致通过中国主提的加强人工智能能力建设国际合作决议。该决议鼓励通过国际合作和实际行动帮助各方，特别是发展中国家加强AI能力建设，增强发展中国家在人工智能全球治理的代表性和发言权。

如何更好地推进人工智能全球治理？报告认为，人工智能涉及全人类，应由人类公平公正参与，同时全球各方应共同防范、应对人工智能技术可能面临的失控、恶用和滥用风险，倡导负责任地使用人工智能，确保人工智能技术的安全、可靠和可信。

此外报告建议，构建符合发展规律，有利产业繁荣的人工智能国际治理体系。具体而言，在发展治理侧，对技术应用保持耐心，更多由市场力量推动；在安全治理侧，同样应对技术进步保持耐心，防止过度超前的监管措施压制行业发展预期。

为构建开放包容的全球人工智能治理体系，报告认为应平衡存量与新增治理机构之间的关系，确保最大多数利益相关方能公平参与治理，且有足够的资源确保治理落地有效。报告还关注联合国的作用，强调在联合国框架下建立不同利益方都能有效参与的开放性对话平台和包容性治理机制。

毫无疑问，人工智能治理是个复杂的问题，为此报告建议做好四个方面的统筹——包括发展与安全，伦理、立法、标准、测评等核心治理板块，国内治理与国际治理，以及既有治理经验、治理资源与人工智能发展面临的实际问题。

为了让人工智能发展成果惠及更多人，报告强调，要加强算力和数据要素共享整合，降低重复建设成本，确保所有国家和地区都有机会参与人工智能发展、享受技术红利。同时保障不同AI治理框架和生态系统间的互操作性，倡导开放的标准和开源技术。

采写：南都记者李玲 发自上海

编辑：李玲

更多报道请看专题：直击2024世界人工智能大会

对这篇文章有想法？跟我聊聊吧

李玲3.46亿

南方都市报记者