火山引擎谭待:大模型的超低定价,来自对技术的信心

来源: 安徽网
2024-05-17 02:07:26

  “降价的基本逻辑是,我们有信心用技术手段降低成本,市场也需要更低价的大模型。”

  5月15日,字节跳动豆包大模型在火山引擎原动力大会上正式发布。火山引擎总裁谭待在接受媒体采访时,谈到了大模型 的定价策略。

  豆包大模型的超低价格引发行业震动。据悉,豆包主力模型的推理输入价格只有0.0008元/千Tokens,比行业便宜99.3%。对此,谭待坦言,“降价是用技术优化成本来实现的。如果只是补贴,用亏损换收入是不可持续的,火山引擎不会走这条路。”

  其次是工程上的优化。大模型的调用量越大,优化推理成本的空间也越大。以前的模型都是单机推理,大模型用的是分布式推理。所以如果能把各种各样的底层算力用得更好,推理成本就会大大降低。

  谭待进一步解释说,豆包大模型平均每天处理1200亿Tokens文本、生成3000万张图片,这里有不同的负载,可以把不同任务混合在一起,互相错峰,通过智能调度把它们的利用率都跑得很高,就能极大地提升资源利用率,实现整体成本的优化。

  另外以字节内部业务为例,飞书的主要流量高峰在工作时间,抖音在下班后休闲时间的流量更高,这些不同业务的大模型推理,也能根据业务特点错峰使用,就可以降低成本。

  对于“大模型开始价格战”的说法,谭待认为,大模型市场仍在发展初期,远远没到激烈竞争的阶段。“池塘有多大,鱼就有多大,现在整个池塘还在培养的过程。”

  四是恪尽职守、担当作为。全面贯彻新发展理念,着力推动高质量发展,主动构建新发展格局,调动各方面积极性,结合实际创造性工作。解决好两难、多难问题,多做为民造福的实事。当前要继续抓好稳经济一揽子政策和接续措施落实,保持政策稳定性,大力推进改革开放,着力稳增长稳就业稳物价,保持经济运行在合理区间。抓实抓细重要民生商品、药品、能源等保供,做好困难人员救助帮扶、安全生产等工作。

  1997年,刚上初二的苏明娟,主动将资助得来的600元钱汇给了宁夏的一位回族小姑娘,帮她圆了求学梦;2002年,考上安徽大学后,她坚持勤工俭学,把每学期900元生活补贴全部转给其他贫困学生;参加工作后,苏明娟把第一笔工资全部捐给了希望工程,此后每月她都会捐出收入的一部分;每年,她都会拿出1000元资助贫困生,从未间断……

  一入大学,吴茂林便跟随侍锦参与创办云贵印染工作室。连续保持全系双第一成绩的同时,他在百余项大赛中取得优异成绩,是一个勤奋的非遗推广志愿者。

  当前已进入电力保供关键时期,电力企业正通过统筹机组检修和新机投产、强化跨流域联合调度、做好特高压工程启动送电、完善分级用电负荷管理等多种举措,全力以赴保安全、保供电、保民生、保重点、保稳定,积极建设输电通道、保障电力供应,打赢迎峰度冬电力保供攻坚战。

  “公司将借助佛山大力推动数字化智能化转型的东风,筹划推动纺织印染行业产业集群数字化转型,推动产业链协同发展。”佛山技研智联科技有限公司技术负责人韦帅介绍,他们正与佛山市禅城区的三技精密技术(广东)股份有限公司共建禅城“三技智能装备产业园”,打造专业的印染整体设备智能装备制造基地,推动纺织工业转型升级。

  报告指出,中共二十大明确提出了新时代新征程中国共产党的中心任务,发出了为全面建设社会主义现代化国家、全面推进中华民族伟大复兴而团结奋斗的动员令。人民政协因团结而生、依团结而存、靠团结而兴,团结是人民政协的永恒主题。要全面学习、全面把握、全面落实中共二十大精神,深入理解和领会中国式现代化的本质要求,紧紧围绕新时代新征程中国共产党的中心任务,充分发挥人民政协专门协商机构作用,以协商聚共识、以共识固团结,努力把人民政协制度优势转化为治理效能,画出团结奋斗的最大同心圆。

赖雅岚

声明:该文观点仅代表作者本人,搜狐号系信息发布平台,搜狐仅提供信息存储空间服务。
用户反馈 合作

Copyright © 2023 Sohu All Rights Reserved

搜狐公司 版权所有