韩国首尔大学教授:AI“奇点”或在5年后出现,风险需管控

南方都市报APP • AI前哨站
综合2024-03-27 09:01

人工智能在何时会超越人类智能的水平?这一颠覆性时刻的到来,被称为“奇点”(Singularity)。如果放在几年前,多数人会认为“奇点”时刻还很遥远,但今天再问人工智能领域的科学家,可能会有不同答案。

3月26日,博鳌亚洲论坛2024年年会在海南博鳌正式开启。在当天下午举行的一场专门探讨科技“奇点”的论坛上,韩国首尔大学电子与计算机工程系教授、《IEEE模式分析与机器智能汇刊》主编Kyoung Mu Lee大胆预言,“奇点”有可能在5年后就出现。

图片

图据博鳌亚洲论坛官网。

Kyoung Mu Lee主攻计算机视觉、机器学习等方向,拥有40多年人工智能领域研究的经验。他在会上提到,2017年一项面向人工智能领域科学家的问卷显示,多数人预测科技“奇点”将会出现在2045年到2090年之间,最有可能是2060年。但现在很多人认为,“奇点”到来的速度会远早于预期。

当前,人工智能正在以前所未有的速度发展,并不断地刷新人们对科技的想象。即便是从事人工智能领域研究的专家,Kyoung Mu Lee表示,每天也会被各式各样的新结果所震惊。特别是深度学习,在短短十年内发生了巨大的变化,“这是我们完全没有预料到的。”

最近两年来,以ChatGPT、Sora为代表的大模型技术取得重要突破,掀起了新一轮的人工智能热潮。Kyoung Mu Lee提到,ChatGPT不仅仅是聊天机器人,它还可与汽车或者其他机器人结合,实现更大的技术创新与变革。

据南都记者了解,人工智能正在迈向多智能融合的新阶段。多模态大模型成为当前模型研究的主攻方向,多技术路径的交叉融合,正在加速通用人工智能(AGI)的到来。

在人工智能之外,Kyoung Mu Lee还关注到量子计算、核聚变等颠覆性技术。他认为这些技术的组合将产生很强的协同效应,带来真正爆炸式的发展。目前机器学习仍受大量的数据、算力和能源限制,但量子计算或核聚变的研究突破,有可能帮助人们利用有限的资源开发更强大的人工智能。

事实上,人工智能“奇点”何时到来,没有人能给出准确的答案。但可以看到的是,当前很多国家、企业都将发展人工智能摆在重要位置,并在政策扶持、资源投入和人才培养等方面有所倾斜。

“在人类历史中,似乎找不出这样一个技术——能吸引如此多的资金和资源,并获得政府和民众如此高的关注。”Kyoung Mu Lee说,在这样背景下,“奇点”到来的时间会比预期更早、更快。

需要警惕的是,技术快速发展的同时,也会带来安全伦理的挑战。南都记者关注到,近期利用AI复活逝者的话题在网上引发热议,还有不法分子通过AI换脸、拟声技术冒充他人实施诈骗。如何规制这类AI造假行为?当天论坛上,Kyoung Mu Lee也分享了他的看法。

他认为,通过技术来解决AI造假问题,目前看来效果并不是特别乐观。其中反映出的一种尴尬是:“AI拟声、换脸技术发展得比相关检测技术还快——我们好像是在追着兔子跑,而它总是跑得比我们快一步,所以要技术上解决这种(AI造假)问题很难。”

为此,Kyoung Mu Lee建议先从法规着手。对于那些正在被广泛商业应用的人工智能产品,有必要加强法律管控。整个研发和产出的过程,具体到从测试训练开始到对外销售、面向公众提供服务等环节,应当是可监测且符合相关标准和规范的。特别是,由AI生成的内容必须标注水印,以更好地帮助人们辨别真伪。

采写:南都记者 李玲  黄莉玲 发自海南博鳌

编辑:李玲

更多报道请看专题:博鳌亚洲论坛2024年年会现场直击

对这篇文章有想法?跟我聊聊吧
李玲3.44亿
南方都市报记者
南都新闻,未经授权不得转载。授权联系方式:
banquan@nandu.cc,020-87006626。