豆包大模型公布价格清单 支持国内最高并发标准

来源: 气象小秘书
2024-05-21 10:56:32

近期,火山引擎官网更新了豆包大模型的定价详情,全面展示豆包通用模型不同版本、不同规格的价格信息。在模型推理定价大幅低于行业价格的基础上,豆包通用模型的 TPM(每分钟Tokens)、RPM(每分钟请求数)均达到国内最高标准。以豆包主力模型 pro-32k 为例,价格比行业低99%,TPM限额则高达同规格模型的2.7倍到8倍。

官方信息显示:在按照 Tokens 实际使用量计算费用的“后付费”模式下,豆包通用模型-pro、豆包通用模型-lite的 32k 及以下窗口版本,模型限流为 10K RPM 和 800K TPM(以 RPM 和 TPM 其中之一到达上限为准)。国内其他主流模型的 TPM 限额大多在 100K 到 300K 之间,RPM则是在60到120区间,轻量级模型的RPM限额相对较高,但仅仅在300到500之间。

按照 10K RPM 限额计算,企业客户平均每秒可以同时调用167次豆包通用模型,从而 满足绝大多数业务场景在生产系统的大模型应用需求。这一标准,已经达到 OpenAI 为高级别客户( Tier4 及 Tier5 等级客户)提供的 RPM 上

在算力挑战更大的长文本模型上,豆包通用模型 pro 和 lite 的 128k 版本,模型限流为 1K RPM 和 400K TPM,同样大幅高于国内其他的128k长文本模型。

此外,豆包大模型公布了最新的“预付费”模型单元价格。“预付费”是以调用某个特定模型的 TPM 配额,企业购买后无需再为 Tokens 消耗付费,提前为可以预见的流量波动规划好算力 。

以豆包通用模型 pro-32k为例:

按照 “预付费”模型单元价格计算,10K TPM 的包月价格为2000元。10K*60*24*30=43200K。即 432000K Tokens的价格为2000元,平均价格为 0.0046元/千Tokens。

按照“后付费”模式计算:在模型推理的计算成本中,推理输入通常占绝大部分比例,业界一般认为推理输入是输出的5倍。根据豆包通用模型 pro-32k 推理输入 0.0008元/千Tokens、推理输出 0.002元/千Tokens 计算,模型推理的综合价格为 0.001元/千Tokens。

火山引擎方面表示,豆包大模型为客户提供了灵活、经济的付费模式,“后付费”即可满足绝大多数企业客户的业务需求,助力企业以极低成本使用大模型、加速大模型的应用落地。

“豆包模型的超低定价,来源于我们有信心用技术手段优化成本,而不是补贴或是打价格战争夺市场份额。”火山引擎总裁谭待认为,“羊毛出在猪身上”在企业市场行不通,技术驱动的极致性价比才能真正创造价值。火山引擎与字节跳动豆包大模型团队正在密切合作,将持续优化模型效果和推理成本,为企业和开发者提供更好模型、更低成本和更易落地的平台支持。

附:火山引擎官网的模型服务价格文档https://www.volcengine.com/docs/82379/1099320

  多位专家建议,应以阳性检出率为核心指标,从国家层面划出一条防疫预警线,当检出率超过某个特定数值时,就应在社会面采取一些压峰措施,暂时控制一下社会流动,或准备重开部分方舱,医院也要增加ICU备用床位、药物储备等。“公卫措施必须根据数据科学合理地动态调整,不应一下子全部放开,现在社会面感染人数激增,但很多措施还放得过开,这是不合适的。”前述公卫专家说。“最关键的是,必须要及时告知公众疫情传播的真实情况,形势到底是向好还是向坏,以便人们可以自己采取更多预防措施保护家人。”

  贺炜说:“一个真正的强者,在面对非常严峻的形势、面对命运的折磨时,他们能够挽救自己。对德国足球来讲,胜利早已成为了一种习惯,而如今证明,没有任何事情是理所应当的,每个人都必须为自己想要达到的目标拼尽全力。”

  方舱医院的陆续取消,让新冠治疗的压力转移到了基层社区医院,“政策调整以后,我们基层的工作压力越来越大,”邓天说,他感受到的首要问题就是居民比较恐慌,他的手机24小时不间断地接到抗原阳性的居民电话,即使没有症状大家也想求助社区医院,大部分电话打来都要求做单管核酸,总想证明自己还是“阴性”。

  “《阿凡达:水之道》很长,超过了3小时,而且还是3D影片,所以票价会相对贵些。已经有不少人买票了,但目前还有余票。来看电影只查验健康宝绿码。”北京朝阳一家影院的工作人员告诉中新经纬。

  不过,想要完善风险处置机制,达到提升风险识控前瞻性效果,日常监督和强制措施远远不够,要在早期干预、接管和破产清算等方面均作出制度安排。

  2018年9月,殷良平调任眉山天府新区投资集团有限公司担任董事长。随着职务的不断变化,殷良平身边的老板也越聚越多。殷良平回忆到:想和天投公司合作的企业越来越多,这些商人都会带着不同的目的、不同的方式来揣摩和钻营你,我自己取得了一定成绩,也沾沾自喜。

陈弘隆

声明:该文观点仅代表作者本人,搜狐号系信息发布平台,搜狐仅提供信息存储空间服务。
用户反馈 合作

Copyright © 2023 Sohu All Rights Reserved

搜狐公司 版权所有