大模型价格战开打?字节跳动豆包自研大模型比行业便宜99%

南方都市报APP • 政商数据
原创2024-05-16 13:29

“豆包主力模型在企业市场的定价只有0.0008元/千Tokens,0.8厘就能处理1500多个汉字,比行业便宜99.3%。”5月15日,在火山引擎FORCE原动力大会上,火山引擎总裁谭待宣布,字节跳动自主研发的豆包大模型将通过火山引擎正式对外提供服务。

谭待认为,降低成本是推动大模型快进到“价值创造阶段”的一个关键因素,“对企业来说在AI转型上充满不确定性,我们必须让试错成本尽量低。”大模型从以分计价到以厘计价,将助力企业以更低成本加速业务创新。 

图片

火山引擎总裁谭待公布豆包大模型定价。


豆包大模型每天Tokens用量高达1200亿

谭待在大会上透露,一年前,字节跳动就完成了自主研发大模型“豆包”,豆包也是国内首批通过算法备案的大模型之一。在过去一年里,字节内部50多个业务已经大量使用豆包进行AI创新,包括抖音、头条、番茄小说等多个产品。截至目前,字节豆包大模型每天Tokens的用量已经高达1200亿,每天生成的图片超过3000万张。

据悉,字节跳动基于豆包大模型打造了AI对话助手“豆包”、AI应用开发平台“扣子”、互动娱乐应用“猫箱”,以及星绘、即梦等AI创作工具。字节跳动产品和战略副总裁朱骏认为,在智能体世界里,未来用户大概率会有一个主要的智能体做最高频的互动,解决很多任务;但是也会因为个性化、多样化的需要,和很多其他的智能体互动。

豆包是字节跳动重点投入的大模型应用。朱骏透露,字节跳动内部为豆包这类产品定义了三个产品设计原则,第一条就是“拟人化”;第二条是需要离用户很近,随时伴随用户,嵌入用户的不同使用环境;第三条设计原则是“个性化”。

在苹果APP Store和各大安卓应用市场,豆包APP的下载量在AIGC类应用中排名第一。据朱骏透露,豆包上已有超过800万个智能体被创建,月度活跃用户达到2600万。

豆包大模型在服务字节内部的同时,也在与火山引擎的众多企业客户合作共创。谭待认为,企业在不同业务场景中,需要不同特点的模型,从而实现最佳效果和性价比。为此,豆包大模型提供的是一个有多模态能力的模型家族,目前主要包括通用模型pro、通用模型lite、语音识别模型、语音合成模型、文生图模型等九款模型。

谭待介绍称,相较于通用模型Pro,豆包Lite模型在保障基础质量的条件上,千Tokens成本会下降84%,延迟则降低了50%以上,“比如说,汽车的智能座舱的交互,这是一个非常适合lite模型的应用场景。通过豆包lite,汽车厂商可以在低延迟下实现对话,支持闲聊、搜索、娱乐、导航、车控等多个座舱智能助手场景,效果要比传统语音处理高达50%以上”。

谭待还在大会上演示了豆包语音识别模型、豆包语音合成模型和豆包声音复刻模型,通过豆包语音识别模型和语音合成模型,人和AI可以实现流畅地对话,并通过对音色、语气和语调的学习,让大模型表达出真实的感情。

在接受采访时,谭待也提到了中国和海外企业大模型的差距,“实事求是地讲,Open AI肯定还是全球第一,包括 anthropic、Gemini 也都做得非常好,这个差距首先是要承认的。但是我们的模型在不断的进化,一旦进化到某一个层次的时候,在上面去做应用就有可能性了;虽然有差距,但我们追的速度还是可以的。”


一元钱就能买到豆包主力模型的125万Tokens

在大会上,谭待也公布了豆包大模型的定价。其中豆包Pro-32k模型的推理输入定价是0.0008元/千Tokens,与之对比的GPT4-32k定价为0.42元/千Tokens;而豆包长文本128k的定价,为0.005元/千Tokens,与之对比的GPT4-Turbo 128k的定价是0.07元/千Tokens。

根据火山引擎公布的价格计算,一元钱就能买到豆包主力模型的125万Tokens,大约是200万个汉字,相当于三本《三国演义》。

“豆包大模型让AI使用成本正式从以1分钱为单位进入到以1厘钱为单位的时刻,” 谭待表示,“这也是豆包大模型的理念,好的模型一定要让每一个人、每一家企业都用得起来。”

谭待认为,降低成本是推动大模型快进到“价值创造阶段”的一个关键因素,“对企业来说在AI转型上充满不太不确定性,我们必须让试错成本尽量低。”

对于如何降低价格,谭待告诉南都记者,在技术上有非常多的优化的手段能把成本降低、效果做好,“比如说我们的模型结构可以做一些优化的调整;第二就是在工程上,以前都是单机推理,现在用分布式推理,能把各种各样的底层的算力用得更好,大大降低成本;我们日均处理1200亿Tokens文本,生成3000万张图片,可以把不同的负载作为混合的调度,让成本大幅下降。”谭待强调,豆包大模型的定价来源于对技术的信心,从长期来看并不会持续亏损。

此外,谭待表示,大模型降价,不能只提供低价的轻量化版本,主力模型和最先进的模型也要够便宜,才能真正满足企业的复杂业务场景需求,充分验证大模型的应用价值,从而催化出超越现有产品和组织模式的创新。

发布会当天,火山引擎联合中国电动汽车百人会,与吉利汽车、长城汽车、捷途汽车、赛力斯、智己汽车等20余家厂商,宣布成立汽车大模型生态联盟,致力于为消费者带来汽车全场景AI新体验。同时,火山引擎与OPPO、vivo、荣耀、小米、三星、华硕宣布成立智能终端大模型联盟。OPPO小布助手、荣耀MagicBook的YOYO助理、小米“小爱同学”,以及华硕笔记本电脑的豆叮AI助手等应用,均已接入火山引擎的大模型服务。

对于和手机厂商、汽车厂商的合作,谭待告诉南都记者,“火山引擎对智能终端大模型联盟还是有一个愿景,今年是AI手机的元年,理论上通过AI的应用应该让手机交互达到更好的体验,这需要云厂商、模型厂商和手机厂商共创,做好深度的合作,这也是我们建立这个联盟的原因。汽车联盟也是一样的,AI能对人车交互有更多的理解,我们带着这个愿景做事情。”

据了解,已经有多家车企、手机企业和火山引擎开启合作,其中捷途汽车基于豆包大模型打造了智能客服“AI小捷”,对用户的问题做到24小时人性化的回复,还能智能整理和发掘用户问题关联的技术信息,让捷途的用户服务更有温度;OPPO的小布助手与豆包大模型在通用问答、定制化聊天人设智能体和定制化职场人设智能体上展开合作,丰富了知识储备,提升了实时检索能力和安全合规保障。


采写:南都记者 汪陈晨

编辑:田爱丽

对这篇文章有想法?跟我聊聊吧
南都新闻,未经授权不得转载。授权联系方式:
banquan@nandu.cc,020-87006626。