当前，世界主要国家都在加紧人工智能产业的发展。技术的进步会带来哪些难题？又会给国际治理带来哪些挑战？7月9日，清华大学苏世民书院院长薛澜在2021世界人工智能大会法治论坛上指出，应对人工智能的积累性风险进行前瞻治理，人工智能技术在军事上的应用也应该引起重视。

通用人工智能是否会发展出人类无法驾驭的智能系统？许多技术专家表示，发展出成熟的通用人工智能还需要很长的时间，但薛澜提示到，是否要走发展通用人工智能的道路，也可以先进行一些讨论。

此外，人工智能技术在军事上的应用也应该引起重视。比如，人工智能是否会引起新一轮的军备竞赛？人工智能技术能力的差别是否会导致国家之间或者国家内不同群体之间的福利差距？如果能够制造大规模杀伤性武器的人工智能技术被恐怖组织掌握，该如何应对？这些都需要深入探讨。

“人工智能的风险有些是即时性的，比如自动驾驶出了事故，很快就能知道问题出在哪里；但有些是积累性的，短时间内体会不到，人们只看到它可以给公司带来很好的经济效益，但等问题出现的时候，社会影响已经造成了。”薛澜举例道，在工业时代，化石燃料大大提高了人类的生产效率，大家都觉得是好事情；然而几百年来的二氧化碳排放，累积到今天就产生了气候变化的问题，甚至威胁到人类生存。但此时人类已经适应了化石燃料的使用，想要改变就很困难。因此，积累性的风险更需要未雨绸缪去关注，需要前瞻治理，“等真正意识到需要去改变的时候，可能已经非常困难了。”

人工智能的治理不是法律问题，但法律是一个重要工具。薛澜认为，法律制定需要做非常仔细的权衡，但同时技术在飞速提升，这使得法律监管常常有滞后性。在这种情况下，要形成治理框架，首先要有价值导向。

不同国家在不同时期都有不用的治理导向。在我国，早期对人工智能的发展采取的是创新发展导向，许多技术企业现在生机勃勃。在发展过程中出现了一系列新问题，到了今天就需要在技术创新与风险规制中取得平衡。在这样的治理体系中，主体是国家，但政策制定中也要倾听企业和社会各方面的意见，形成多元协调的机制。

人工智能国际合作的重要性已经不言而喻，如何实现？薛澜认为，首先是各国学者将不同政见放在一边，加强学术交流，寻找共同价值观念，形成国际治理体系的一些标准。此外，人工智能治理也可以从互联网、核技术、气候变化等其他全球治理问题中学习经验，吸取教训。

采写：南都记者马嘉璐  见习记者李娅宁

编辑：蒋琳

对这篇文章有想法？跟我聊聊吧

马嘉璐

蒋琳