AI算力狂飙,应用能力如何跟上?Token效率成为新课题

南都N视频APP · 湾财社
原创2026-11-03 21:38

“算力可以一夜建成,能力不能。”11月3日,中孚恒升科技在深圳举行战略发布会,公司创始人丁艳在会上表示。当天,该公司正式发布“AI能力基建者”战略,并推出“中升智学·全民AI应用能力提升智能体平台”,试图解决AI算力快速扩张与产业应用能力不足之间的矛盾。

图片

这一判断的背景,是AI基础设施建设正在发生的变化。10月21日,英伟达在柏林GTC大会上推出模块化AI工厂参考设计DSX POD,通过预装计算、网络、供电及液冷等系统,可在场地配套设施就绪后,将现场部署周期从约6个月缩短至最快14天。

当AI工厂能够以更快速度部署,算力和模型持续迭代,海量Token开始进入产业应用,新的问题随之而来:谁来使用这些算力?如何让Token转化为真实生产力?

“当下,有多少人能接住Token洪流?”丁艳指出,AI产业不能只关注算力建设,更需要解决技术与实际应用之间的能力断层。

算力狂飙之后,AI产业面临能力断层

过去两年,全球AI产业持续加大基础设施投入,从算力芯片、智算中心到大模型,技术供给能力不断提升。然而,与算力扩张相比,企业和个人的AI应用能力仍有待提高。

英伟达将AI产业划分为能源、算力、基础设施、模型和应用五个层次。从产业链看,AI基础设施建设的模块化、标准化趋势正在加快,算力资源的部署效率不断提升,模型能力也在持续迭代。但底层技术供给的增长,并不意味着上层应用能够同步释放价值。

现实中,不少企业已经开始使用AI工具,但应用仍集中于文案生成、办公辅助等环节。如何将AI深入生产、研发、营销及管理流程,仍面临业务适配、数据治理和人才能力等多重挑战。

这种变化也在重塑企业的人才需求。过去,人工智能人才主要集中在算法研发、模型训练和软件开发等领域。随着大模型应用普及,既懂行业业务,又能理解模型能力和应用场景的复合型人才,正成为推动AI落地的重要力量。

丁艳在接受采访时指出,前端部署工程师(FDE)这一岗位受到关注,正反映出企业对复合型人才的需求。这类人才需要深入业务现场,将AI技术转化为具体工作流程和实际成果。

与之相对应,企业的AI转型也正在从“工具赋能”向“AI原生构建”演进。前者是利用AI完成文档撰写、数据整理、PPT制作等具体任务,主要提升个人工作效率;后者则是将AI嵌入业务流程,通过人机协同改变传统组织分工和生产方式。

两者最大的区别,在于AI究竟只是员工手中的工具,还是能够成为企业持续运行的生产能力。

这也对传统人才培养模式提出挑战。面对快速迭代的大模型和智能体技术,单纯围绕某款工具开展短期培训,难以满足长期需求。企业需要培养的,不只是熟练操作AI的员工,更是能够独立判断、拆解任务、持续学习和优化工作流程的人才。

针对这一变化,中孚恒升科技提出“AI能力基建者”战略,将算力部署、能力培养和效能优化作为三个主要方向,探索技术基础设施与实际应用之间的衔接路径。

从产业发展来看,AI竞争正在从算力规模、模型性能,逐步延伸至应用场景、组织效率和人才能力。算力可以通过标准化工程快速部署,但产业经验、业务理解和组织能力的积累,仍需要长期投入。

从工具使用到价值创造,Token效率成为新课题

随着AI从简单问答走向复杂任务,Token正在成为衡量模型调用成本和资源消耗的重要单位。

在传统信息化建设中,企业通常以软硬件采购成本、系统建设费用等衡量投入。而在大模型时代,模型调用频次、Token消耗、推理效率和任务完成质量,正成为企业评估AI应用成本的新变量。

这意味着,AI应用不能只看模型是否足够强大,还要衡量实际业务是否真正受益。例如,同样是文本处理、程序开发、图片生成或数据分析,不同模型的性能、使用成本和适用场景存在明显差异。如果不考虑任务需求,盲目使用高性能模型,可能造成算力和Token资源浪费。

丁艳将这种现象形容为“高射炮打蚊子”。她指出,对于大量企业和院校而言,当前更常见的需求并非从零训练大模型,而是基于通用大模型开展推理和垂直场景应用。因此,如何选择合适的模型与算力,比单纯追求硬件性能更重要。

围绕这一问题,中孚恒升科技提出“调TOKEN”方法论,将模型选择、任务规划、提示词设计和工作流优化等环节纳入效率管理体系。

其核心思路是,将AI应用能力从单纯的工具操作,延伸至资源配置和投入产出管理。不过,Token使用效率并非简单追求消耗越少越好。在实际业务中,模型回答的准确性、任务完成质量、人工复核成本及最终商业价值,同样需要纳入评价。

尤其当AI智能体开始承担多步骤任务,模型调用可能涉及复杂推理、工具调用和反复验证。如何在成本、性能与结果质量之间取得平衡,将成为企业规模化部署AI的重要课题。

人才培养也需要适应这种变化。过去,AI培训更多围绕工具介绍、提示词技巧和基础应用展开。随着企业对AI应用效果的要求提高,培训正在向实际任务、业务流程及应用效果评价延伸。

在谈到深圳等地推出的AI夜校时,丁艳认为,这类培训有助于更多人接触新技术,但课程设计还应注重系统性和连续性,让学习者能够将所学知识持续应用于实际工作。

图片

当天,中孚恒升科技上线的“中升智学·全民AI应用能力提升智能体平台”,正是其探索AI能力培养的一项实践。平台通过岗位场景、智能体引导和实操训练,尝试帮助学习者从被动获取答案,转向主动发现和解决问题。

当AI工厂的部署周期被压缩至14天,AI产业需要回答的问题,已经不只是如何生产更多Token,更是如何让这些Token真正转化为生产力。

采写:南都·湾财社记者 程洋

南都N视频,未经授权不得转载、授权联系方式
banquan@nandu.cc. 020-87006626