信心2024│鲲云科技牛昕宇:人工智能时代“算力为王”

南方都市报APP • 湾财社
原创2024-02-02 12:35
图片

2024年中国经济大方向确立,高层会议确定了三个关键词:稳中求进、以进促稳、先立后破。展望2024年,遵循市场、提振信心成为民众的未来预期,延续经济修复、缓解多重风险是经济政策主调。

岁末年初,展望新局。南都湾财社近期推出《信心2024·湾区企业家看开年》,深入千行百业,遍访湾区企业家,解锁湾区新质生产力,共探经济高质量发展之道。

随着人工智能时代的到来,数据、算力和算法构成了人工智能发展的三要素,成为各方深耕发力的方向。深圳鲲云信息科技有限公司(简称“鲲云科技”)创始人、CEO牛昕宇在接受南都·湾财社记者专访时表示:“得算力者得天下,人工智能时代 ‘算力为王’ 。作为社会经济发展的重要生产力,可以说算力决定着我们的智能化程度。”

图片

鲲云科技创始人、CEO牛昕宇。

鲲云科技是一家领先的人工智能算力供应商,其AI芯片突破传统的摩尔定律,采用自主研发的数据流架构,实现了更高性能、更高利用率。目前已落地应用上千家企业的数智化转型项目,部署成本优化30%以上,利用率最高可达95.4%。

展望未来,如何将AI算力更好地转化为新质生产力,为经济发展注入新动能。为此,南都湾财社专访鲲云科技创始人、CEO牛昕宇,探讨AI芯片的新发展、新应用。

以下是专访内容:

AI芯片另辟蹊径,突破传统摩尔定律限制

南都·湾财社:作为一家领先的人工智能算力供应商,鲲云科技的AI芯片另辟蹊径,突破传统的摩尔定律,采用自主研发的数据流架构。这一架构的颠覆性体现在哪些方面?能否举几个实践中的案例,加以介绍。

牛昕宇:做AI芯片有两个方向。一个是基于传统的指令集架构优化创新,这条路相对容易,但是在芯片性能上很难拉开差距。另一个是从芯片的底层架构创新出发,这条路荆棘丛生困难很多,但是鲲云走通了。

基于团队三十余年的定制计算技术积累,我们从架构侧创新实现芯片性能突破,并推出了全球首款可重构数据流架构AI芯片CAISA,走出了一条AI芯片的全新技术路线。

相较于传统指令集架构,可重构数据流架构不存在指令依赖,依托数据的流动次序控制运算执行次序,数据运算与数据流动重叠,突破冯诺依曼内存墙瓶颈及制程工艺逐步放缓的制约,实现芯片实测性能和运算效率的突破。简单来说,数据流架构为AI运算组合了一条条的生产流水线,数据会被源源不断地吸入流水线中进行计算,节省了指令搬运和数据读写带来的计算资源闲置。当前已量产产品的芯片利用率最高可达95.4%。对标国际同类产品,CAISA芯片在芯片成本仅为1/3的情况下,可提供最高4.12倍的实测性能,延时低至3ms。

目前CAISA芯片已经进入了规模化的商业落地应用,我们陆续推出了基于CAISA芯片的星空X3加速卡、星空X6A边缘小站、智能服务器等,满足不同行业领域的实际落地需求。在加油站场景,一款支持8路高清视频实时分析的星空X6A边缘小站就可以满足全域的实时监测分析预警需求;而在大型矿山场景,则可以灵活搭配32路、64路服务器来满足算力需求,在城市消防场景,鲲云产品的低延时特性让其在及时发现险情,快速预警方面表现优异。

南都·湾财社:鲲云科技推出了全球首款数据流AI芯片CAISA,目前该款芯片的商业化进程如何?您如何看待这款国产AI芯片的发展前景?

牛昕宇:我们一直从行业场景需求出发,与行业客户一起深入合作,发挥技术优势,提供算力、算法、平台一体化的AI视频分析解决方案,深耕垂直行业领域,支持合作伙伴持续推出极具竞争力的人工智能解决方案。

凭借创新架构带来的性能与成本优势,我们的系列算力产品已服务 700 多家信息化企业,支撑客户在石化、矿山、电力、城市生命线等 20 多个行业、数千个数字化项目稳定交付,获得越来越多客户的认可与支持,在全球范围内率先实现了可重构数据流架构的规模化商业落地。

除鲲云外,全球研发数据流 AI 芯片的团队还有脱胎于斯坦福大学的 SambaNova、前谷歌 TPU 核心团队创办的 Groq,目前仍处于小规模应用阶段。同时,国际主流指令集架构芯片企业也在其架构内部部分采用了数据流架构,比如 TPU 的 Systolic Array,GPU 里的 Tensor Core 等,以提升芯片利用率。可重构数据流架构已成为国际AI芯片公司的主流选择路线,证明了这是一条能够为客户提供更高性能、更低成本、创造价值的可行道路,鲲云科技在这条路上,有先发优势,我们也将继续投入研发,持续为客户提供有价值的产品和方案。

得算力者得天下,人工智能时代“算力为王”

南都·湾财社:数据、算力和算法是发展人工智能的三要素,贵公司如何在其中抢位布局?公司未来的战略方向聚焦哪些方面?

牛昕宇:得算力者得天下,我认为,人工智能时代“算力为王”。作为社会经济发展的重要生产力,可以说算力决定着我们的智能化程度。对于相同的人工智能应用,同等成本下更强的算力意味着更快的训练速度;同等算力下更低的成本意味着更低的算法部署成本,从而更好支持人工智能应用的大规模落地。这也是鲲云一直以来坚守的方向,我们通过架构创新提升芯片利用率,达到数倍的实测性能增长,为客户供应更高算力、更低成本的AI芯片。

未来,鲲云将继续深耕可重构数据流领域,不断迭代CAISA系列产品,为社会提供更便宜、好用的算力,支撑人工智能在更多应用场景落地。

南都·湾财社:随着人工智能的发展已经进入AI大模型时代,您如何看待其中发展的机遇和挑战?鲲云科技面对大模型浪潮的一些考量和布局是什么?

牛昕宇:百模大战之下,真正能够落地发挥价值的大模型还需要时间的沉淀,在训练数据方面,各个行业领域和企业机构之间的数据隔阂短时间内难以打破。大家或许需要再多花一些时间来观察这个行业的发展。作为算力企业,我认为细分的垂直行业领域,可能会更快出现可以解决行业实际问题的大模型。

在此轮的大模型浪潮中,我们还是关注大模型赖以发展的最核心、最基础的部分——高性能算力。大模型带来了海量的算力需求,当前的大模型算力需求主要是训练,但是业界普遍认为2024年应该是大模型商业化应用元年,推理的算力需求也会快速增长。目前的算力供需矛盾导致AI芯片企业从芯片架构、封装技术等方面不断探索创新,寻求新的突破点。鲲云的CAISA芯片从底层架构创新,实现了芯片利用率的指数级突破,在大模型时代算力需求爆发的当下,能够基于底层算力技术积累,来支撑大模型产业的发展。

建设“数字湾区”,助力经济高质量发展

南都·湾财社:新质生产力成为各行各业讨论的热点。在您看来,AI作为一种新质生产力,如何释放新动能?

牛昕宇:人工智能作为我国经济高质量发展的重要驱动力,一直备受国家政府重视。2023年10月,多部门联合发布了《算力基础设施高质量发展行动计划》,要求到2025年国内算力达到300EFLOPS。其中,不仅包括云端算力,也强调了边缘算力的协同发展。这对于国产AI芯片企业来说是一个积极的信号,意味着存在巨大的市场和丰富的应用场景。

AI赋能企业数字化转型,实现提质增效降本,助力各行业焕发新动能。在化工场景中,传统的安防监控系统已经比较成熟,摄像头监控系统基本部署完成,但视频结构化利用率较低,单纯依靠人工巡检不现实。通过鲲云的边缘计算盒子,对现场接入的百余路视频进行视频处理,实现全厂区24小时实时监控,及时发现火情、安全防护着装违规、作业场所违规操作等风险事件并报警,帮助安全管理中心及时做出反应。此外,我们的AI解决方案在制造、城市、教育、交通等垂直行业领域都已经有了较为成熟的应用,赋能数字经济高质量发展。

南都·湾财社:作为一家扎根大湾区的企业,展望2024,鲲云科技感受到怎样的发展机遇?能否谈谈企业发展的信心和忧虑?

牛昕宇:大湾区具有得天独厚的优势和条件,在人工智能领域的发展和应用方面走在全国前列。2017年,鲲云落地深圳河套,正是看中了深圳地区完备的上下游产业链、广泛的应用场景及河套区天然的地理位置优势。

近年来,深圳将人工智能产业作为经济高质量发展的重要驱动力量,凭借人才、技术积累和强大的生产制造配套能力,逐步形成了覆盖硬件制造、软件技术、终端产品等环节的全链条人工智能产业系统,为鲲云人工智能解决方案落地提供丰富的应用场景与机会。另一方面,鲲云所在的河套深港科技创新合作区是粤港澳大湾区建设的重点项目,为鲲云与香港高校之间交流合作、聚拢AI人才提供更多机会,更好地融合学术、产业和资本力量,加快产业落地,培养生态。

2023年底,广东省人民政府发布了“数字湾区”建设三年行动方案,明确数字化将成为大湾区建设的重要工作方向,不断完善智慧城市场景,这让我们切实感受到从政府到产业对AI的迫切需求。

作为领先的算力供应商,鲲云已在前期验证了可重构数据流架构技术的先进性和可行性,并在规模化落地方面积累了许多实践经验与认可。未来,我们将脚踏实地,充分发挥自身技术优势,迅速响应数字化建设需求,推动AI解决方案在城市各场景落地,为建设“数字湾区”、助力经济高质量发展作出贡献。

采写:南都·湾财社记者 程洋

编辑:程洋

南都新闻,未经授权不得转载。授权联系方式
banquan@nandu.cc. 020-87006626
1