火山引擎谭待:大模型的超低定价,来自对技术的信心

来源: 证券时报
2024-05-17 12:33:38

  “降价的基本逻辑是,我们有信心用技术手段降低成本,市场也需要更低价的大模型。”

  5月15日,字节跳动豆包大模型在火山引擎原动力大会上正式发布。火山引擎总裁谭待在接受媒体采访时,谈到了大模型的 定价策略。

  豆包大模型的超低价格引发行业震动。据悉,豆包主力模型的推理输入价格只有0.0008元/千Tokens,比行业便宜99.3%。对此,谭待坦言,“降价是用技术优化成本来实现的。如果只是补贴,用亏损换收入是不可持续的,火山引擎不会走这条路。”

  其次是工程上的优化。大模型的调用量越大,优化推理成本的空间也越大。以前的模型都是单机推理,大模型用的是分布式推理。所以如果能把各种各样的底层算力用得更好,推理成本就会大大降低。

  谭待进一步解释说,豆包大模型平均每天处理1200亿Tokens文本、生成3000万张图片,这里有不同的负载,可以把不同任务混合在一起,互相错峰,通过智能调度把它们的利用率都跑得很高,就能极大地提升资源利用率,实现整体成本的优化。

  另外以字节内部业务为例,飞书的主要流量高峰在工作时间,抖音在下班后休闲时间的流量更高,这些不同业务的大模型推理,也能根据业务特点错峰使用,就可以降低成本。

  对于“大模型开始价格战”的说法,谭待认为,大模型市场仍在发展初期,远远没到激烈竞争的阶段。“池塘有多大,鱼就有多大,现在整个池塘还在培养的过程。”

  家住橡树湾小区的业主也收到消息:“接社区通知,橡树湾26栋有一名确诊阳性,现已对确诊本层及上下三层进行临时封控三天,请大家做好自我防护,带好口罩,不要惊慌,不信谣不传谣,减少外出。有需要帮助的及时联系物业服务人员,我们一起携手战胜疫情!”

  11月12日下午,长期关注中国足球的澳洲资深体育媒体人李平康发微博爆料称,李铁被有关部门带走调查,被带走时他正在接受培训。

  新京报此前报道,发生火灾的工地为一处新建厂房,隶属于一家新材料产业公司。记者查询资料发现,该产业一体化项目一期一批次建筑面积近10万平方米,从动工到投产预计总工期90天。

  但从去年下半年开始,他的棋牌室生意出现80%左右的下滑,酒店营收更是断崖式下跌。为此,酒店清洁员数量从此前的5人降低为3人。今年春节后,出于节省成本考量,她试着将工资从2600元/月调低到了2400元/月,即便如此,两天内依旧招满了员工。

  河南财经政法大学教授高更和表示,疫情以来,由于封控和交通管制,以及部分企业减产或者倒闭,农民工省外务工受到较大影响,省内就业也受到影响,但其程度较低。在疫情严重情况下,一些农民工回村“避疫”,疫情好转后,在附近或省内务工。应该说,疫情加剧了农民工回流就业。“由于不能正常工作,工资性收入骤减,寻找新的工作也需要一个过程,因此农民工收入减少是必然现象。同时由于就业市场竞争激烈,企业效益下滑,就业后的福利待遇也有所减少”。

  北京地坛医院医院感染管理处处长、主任医师卢联合表示,出现咽干、咽痛等不适症状时,要考虑有没有感染的风险。尤其是小区里有病例时要高度防范,在家里做到自我隔离,尽量自己待在一个房间、避免跟家人接触;最重要的仍然是戴好口罩;去过卫生间后,要通风、消毒;此外,还需要去检测排除。卢联合建议,去核酸采样点检测时,一定要远离他人,做好防护,避免传播。

吴信宏

声明:该文观点仅代表作者本人,搜狐号系信息发布平台,搜狐仅提供信息存储空间服务。
用户反馈 合作

Copyright © 2023 Sohu All Rights Reserved

搜狐公司 版权所有