火山引擎谭待:大模型的超低定价,来自对技术的信心

来源: 红星新闻
2024-05-26 16:34:48

本土自拍「まず無理じゃないかなcそりゃ」と僕は言った。  曾晓芃有深厚的专业背景。据北京市疾控中心公布的简历,曾晓芃为博士、主任技师。曾参与奥运会等重大公共卫生保障,兼任健康中国行动推进委员会专家咨询委员会委员、健康北京行动专家咨询委员会副主任委员等十余项职务。vIw9-fSL98EHAOwU6zmyiQdvS-火山引擎谭待:大模型的超低定价,来自对技术的信心

  “降价的基本逻辑是, 我们有信心用技术手段降低成本,市场也需要更低价的大模型。”

  5月15日,字节跳动豆包大模型在火山引擎原动力大会上正式发布。火山引擎总裁谭待在接受媒体采访时,谈到了大模型的定价策略。

  豆包大模型的超低价格引发行业震动。据悉,豆包主力模型的推理输入价格只有0.0008元/千Tokens,比行业便宜99.3%。对此,谭待坦言,“降价是用技术优化成本来实现的。如果只是补贴,用亏损换收入是不可持续的,火山引擎不会走这条路。”

  其次是工程上的优化。大模型的调用量越大,优化推理成本的空间也越大。以前的模型都是单机推理,大模型用的是分布式推理。所以如果能把各种各样的底层算力用得更好,推理成本就会大大降低。

  谭待进一步解释说,豆包大模型平均每天处理1200亿Tokens文本、生成3000万张图片,这里有不同的负载,可以把不同任务混合在一起,互相错峰,通过智能调度把它们的利用率都跑得很高,就能极大地提升资源利用率,实现整体成本的优化。

  另外以字节内部业务为例,飞书的主要流量高峰在工作时间,抖音在下班后休闲时间的流量更高,这些不同业务的大模型推理,也能根据业务特点错峰使用,就可以降低成本。

  对于“大模型开始价格战”的说法,谭待认为,大模型市场仍在发展初期,远远没到激烈竞争的阶段。“池塘有多大,鱼就有多大,现在整个池塘还在培养的过程。”

  关于导致癌症的原因,美国国家癌症研究所指出,癌症是一种基因疾病——它是由控制我们细胞功能的基因发生变异引起的。导致癌症的基因变异会出现的原因有多种,例如细胞分裂时发生错误、有害环境条件如烟草中的化学物质或者太阳紫外线导致脱氧核糖核酸(DNA)破坏,以及父母遗传等。身体通常会在细胞癌变之前自动清除受损细胞,但随着年龄增长,这种能力会下降,这就是晚年患癌风险更高的部分原因。

  中共中央的文件也体现出对政协界别调整和优化的重视。2006年,中共中央发布的《关于加强人民政协工作的意见》第一次将突出界别特色明确为政协自身建设的特有内涵。2015年,中共中央《关于加强社会主义协商民主建设的意见》提出,“在条件成熟时对政协界别适当进行调整”。2019年,中共中央《关于新时代加强和改进人民政协工作的意见》再次提出,要“优化界别设置,增强界别代表性,更好反映各界各方面愿望诉求”。

  “2022年之前没有过这么多人提前还贷,2021年下半年银行的贷款额度甚至还不够用呢。”一位商业银行贷款部门人士对记者说,这两年“房住不炒”的属性愈发明显,房子增值慢了、少了,提前还贷成为了一种减少利息的理财办法。

声明:该文观点仅代表作者本人,搜狐号系信息发布平台,搜狐仅提供信息存储空间服务。
用户反馈 合作

Copyright © 2023 Sohu All Rights Reserved

搜狐公司 版权所有