火山引擎谭待:大模型的超低定价,来自对技术的信心

来源: 人民资讯
2024-05-17 13:41:05

  “降价的基本逻辑是,我们有信心用技术手段降低成本,市场也需要更低价的大模型。”

  5月15日,字节跳动豆包大模型在火山引擎原动力大会上正式发布。火山引擎总裁谭待在接受媒体采访时,谈到了大模型的定价策略。

  豆包大模型的超低价格引发行业震动。据悉,豆包主力模型的推理输入价格只有0.0008元/千Tokens,比行业便宜99.3%。对此,谭待坦言,“降价是用技术优化成本来实现的。如果只是补贴,用亏损换收入是不可持续的,火山引擎不会走这条路。”

  其次是工程上的优化。大模型的调用量越大,优化推理成本的空间也越大。以前的模型都是单机推理,大模 型用的是分布式推理。所以如果能把各种各样的底层算力用得更好,推理成本就会大

  谭待进一步解释说,豆包大模型平均每天处理1200亿Tokens文本、生成3000万张图片,这里有不同的负载,可以把不同任务混合在一起,互相错峰,通过智能调度把它们的利用率都跑得很高,就能极大地提升资源利用率,实现整体成本的优化。

  另外以字节内部业务为例,飞书的主要流量高峰在工作时间,抖音在下班后休闲时间的流量更高,这些不同业务的大模型推理,也能根据业务特点错峰使用,就可以降低成本。

  对于“大模型开始价格战”的说法,谭待认为,大模型市场仍在发展初期,远远没到激烈竞争的阶段。“池塘有多大,鱼就有多大,现在整个池塘还在培养的过程。”

  去年底召开的中央经济工作会议提出,支持平台企业在引领发展、创造就业、国际竞争中大显身手。今年2月10日,杭州市召开平台经济健康高质量发展座谈会,全市60家平台企业参会,释放支持平台经济发展的信号。对杭州市、余杭区来说,要打赢经济翻身仗,已离不开平台经济的健康发展。

  作为创业孵化器,梦想小镇在启用后,对于创业者前三年提供免费的150平方米精装办公空间、100兆宽带免费接到办公桌面,水电费、物业费打6折。对于优秀项目,还有最高20万元的创业梦想金支持。

  “这是继2022年10月,绵竹市公路路政管理所工作人员苏立接受纪律审查和监察调查以来,我市查处的第二起路政执法人员违纪违法案件。”绵竹市纪委监委相关负责人介绍,近年来,绵竹市深入开展卫健、人社、交通等重点行业领域系统治理,持续做深做实案件查办后半篇文章,推进办理一起案件、整治一个行业、净化一片领域,同时将进一步从领域治理向全域治理拓展,做到一个领域一个领域治理,一个行业一个行业规范,推动全市政治生态更加清朗。

  邓帅认为,监管态度会作为链条传递下去,“监管部门对平台的态度会传导到平台对商家的态度,在依法依规的范畴内,完善对平台治理的包容审慎监管,对一时看不准的新业态,设置一定的‘观察期’,分类采取行政指导、行政约谈、警示告诫等柔性执法方式,激活平台经济的消费活力。”

  据台湾“中央社”报道,当地时间3月1日,美国国务院批准新一轮对台军售案,其中包括F-16战斗机机载导弹及相关设备,总价值高达6.19亿美元。目前该案已进行“知会国会程序”,有望在1个月后正式生效。

  美国出台的所谓“维吾尔强迫劳动预防法”(UFLPA)于2022年6月21日正式生效。由于该法案采用“可反驳的事实推定”机制,执行必须依赖相关操作指南指引。为保证该法案的实施,美国海关与边境保护局发布了操作指南。值得注意的是,操作指南的制定具有较大的灵活性,可根据“美国优先”原则随时随意进行调整,从而服务于美国政府的战略需要。毫无疑问,美国政府企图将该法案变为操控全球价值链的“指挥棒”。

刘佑泰

声明:该文观点仅代表作者本人,搜狐号系信息发布平台,搜狐仅提供信息存储空间服务。
用户反馈 合作

Copyright © 2023 Sohu All Rights Reserved

搜狐公司 版权所有