港科大校董会主席沈向洋:10年后对算力需求会涨100万倍

南方都市报APP • 南都科创
原创2024-11-18 17:05
图片

11月17日,2024大湾区科学论坛在广州南沙开幕。香港科技大学校董会主席、美国国家工程院外籍院士、英国皇家工程院外籍院士沈向洋在主论坛上发表《智能时代的机遇与挑战》主题演讲,分享了他在人工智能领域工作中积累的思考与体会。

算力是人工智能的关键。沈向洋表示,最近几年,大模型蓬勃发展,目前已进展至万亿参数大模型,对算力需求非常大。每年对于算力规模的需求会上涨4倍左右,10年之后,对算力规模的需求会涨100万倍。“所以最近我一直讲的一句话叫做,讲卡伤感情,没卡没感情。”沈向洋说道。

沈向洋表示,除了算力,数据也极其重要。他预计GPT-4训练所用的数据量是20T,这相当于把互联网上可以公开搜到的数据都拿来使用。“我相信,目前GPT-5很难推进的其中一个原因,就是如何寻找更多更有效的数据,来训练更大的模型。”他预测,GPT-5至少需要200T数据量,并且会加入大量多模态数据。

中国发展大模型会走什么道路?沈向洋表示,未来可能将由几家大公司做底层的基座大模型,具备通用大模型后,行业大模型将是发展重点,每个企业都可以做一个企业大模型。再接下来,就是个人大模型,AIPC正成为越来越重要的概念。

图片

香港科技大学校董会主席、美国国家工程院外籍院士、英国皇家工程院外籍院士沈向洋。

“到今年7月底,国内大概有200个大模型,其中1/3的是通用大模型,2/3是行业大模型。我预测未来通用大模型占比会越来越小,行业大模型占比则会越来越大。”沈向洋说。

人工智能将给人类社会GDP带来巨大增长。沈向洋表示,农业革命以后,GDP每年的增长大概是0.1%-0.2%;工业革命后,每年GDP的增长就到了1%-2%;进入信息社会,每年GDP增长则到了3%-4%。许多经济学家预测,人工智能时代以后,AI智能体将给社会GDP带来10%-20%的增长。

随着人工智能发展,人工智能治理也成为关键问题。“AI未来一定是经济最大的增长点,但AI是否会成为人类最大的福祉还不肯定。未来大家要思考,人工智能对整个社会是一个非常大的冲击。”沈向洋表示。

沈向洋认为,虽然人工智能前景向好,但人们对人工智能的理解还远远不够。“模型虽然做出来,但是不可解释,也不鲁棒(稳定),就会出很多问题。很多人也怀疑,现在这样的体系是不是真的可以走很远。”他表示,去年他曾在香港科技大学组织了一批科学家,一起探讨人工智能涌现背后的数学原理。

出品:南都科创工作室

采写:南都·湾财社记者 彭乐怡

更多报道请看专题:湾财聚焦·2024大湾区科学论坛

对这篇文章有想法?跟我聊聊吧
彭乐怡2213W
南方都市报记者
南都新闻,未经授权不得转载。授权联系方式:
banquan@nandu.cc,020-87006626。