边发展边治理！权威解读三中全会为何部署AI安全监管制度
党的二十届三中全会通过《中共中央关于进一步全面深化改革、推进中国式现代化的决定》（下称《决定》），人工智能是其中的关键词之一。《决定》提到，“完善生成式人工智能发展和管理机制”“建立人工智能安全监管制度”。
为何需要建立人工智能安全监管制度？由党建读物出版社和学习出版社联合出版的《党的二十届三中全会〈决定〉学习辅导百问》（下称《辅导百问》）给出了权威解释。
OpenAI2022年底发布的ChatGPT，掀起全球生成式人工智能浪潮。《辅导百问》对此分析说，建立人工智能安全监管制度，是应对人工智能快速发展的必然要求。人工智能作为影响面广的颠覆性技术，可能带来改变就业结构、冲击法律与社会伦理、侵犯个人隐私、挑战国际关系准则等问题，将对政府管理、经济安全和社会稳定乃至全球治理产生深远影响。必须高度重视人工智能可能带来的安全风险挑战，通过加强监管进行前瞻预防与约束引导，最大限度降低风险。
在7月初的2024世界人工智能大会上，上海人工智能实验室主任兼首席科学家周伯文便表示，当前业界对AI安全的投入远远落后于AI能力提升，资源投入上，世界上99%的算力用于模型的预训练，只有不到1%用于AI对齐，导致AI的发展是不均衡的。“为确保智能向善，统筹发展与安全是紧迫任务。”
《辅导百问》也解读称，以人工智能推进高质量发展，要吸取人类历史上“先发展、后治理”的深刻教训，充分认识和评估人工智能这一颠覆性技术可能存在的难以预料的安全风险，摒弃以牺牲安全为代价的粗放增长，通过加强人工智能安全监管，实现“边发展、边治理”，加强对人工智能战略研究、前瞻预防和约束引导，准确把握技术和产业发展趋势，充分认识和评估每一项 “颠覆性创新”可能存在的漏洞或盲点并及时加以处置，确保人工智能安全、可靠、可控。
“建立人工智能安全监管制度，是参与和引领人工智能全球治理的必然要求。”《辅导百问》进一步指出，人工智能攸关人类命运，各国普遍重视人工智能安全监管。美国制定人工智能安全标准，欧洲制定人工智能安全监管法规，英国举行全球首届人工智能安全峰会，呼吁通过国际合作解决人工智能风险。中国作为人工智能大国，不断颁布政策法规和国际立场文件。
2023年8月，《生成式人工智能服务管理暂行办法》正式施行，凸显“小快灵”的立法特征。同年10月，中国提出《全球人工智能治理倡议》，倡导各国应在人工智能治理中加强信息交流和技术合作，共同做好风险防范，形成具有广泛共识的人工智能治理框架和标准规范，不断提升人工智能技术的安全性、可靠性、可控性、公平性。今年7月1日，第78届联合国大会协商一致通过中国主提的加强人工智能能力建设国际合作决议，140多国参与联署。这是联合国通过的首份聚焦人工智能能力建设国际合作的决议。
《辅导百问》写到，中国要继续发挥负责任大国积极作用，加强引领，不断为保障人工智能健康发展提供中国方案，反对在人工智能上搞“小院高墙”，促进各方加强技术共享，努力弥合智能鸿沟，共同促进全球人工智能有序安全发展。
采写：南都见习记者 杨柳
编辑：李玲
更多报道请看专题：学习贯彻党的二十届三中全会精神
banquan@nandu.cc，020-87006626。