火山引擎谭待:大模型的超低定价,来自对技术的信心

来源: 新浪新闻
2024-05-17 03:18:42

  “降价的基本逻辑 是,我们有信心用技术手段降低成本,市场也需要更低价的大模型

  5月15日,字节跳动豆包大模型在火山引擎原动力大会上正式发布。火山引擎总裁谭待在接受媒体采访时,谈到了大模型的定价策略。

  豆包大模型的超低价格引发行业震动。据悉,豆包主力模型的推理输入价格只有0.0008元/千Tokens,比行业便宜99.3%。对此,谭待坦言,“降价是用技术优化成本来实现的。如果只是补贴,用亏损换收入是不可持续的,火山引擎不会走这条路。”

  其次是工程上的优化。大模型的调用量越大,优化推理成本的空间也越大。以前的模型都是单机推理,大模型用的是分布式推理。所以如果能把各种各样的底层算力用得更好,推理成本就会大大降低。

  谭待进一步解释说,豆包大模型平均每天处理1200亿Tokens文本、生成3000万张图片,这里有不同的负载,可以把不同任务混合在一起,互相错峰,通过智能调度把它们的利用率都跑得很高,就能极大地提升资源利用率,实现整体成本的优化。

  另外以字节内部业务为例,飞书的主要流量高峰在工作时间,抖音在下班后休闲时间的流量更高,这些不同业务的大模型推理,也能根据业务特点错峰使用,就可以降低成本。

  对于“大模型开始价格战”的说法,谭待认为,大模型市场仍在发展初期,远远没到激烈竞争的阶段。“池塘有多大,鱼就有多大,现在整个池塘还在培养的过程。”

  事实四:“电幕行动”。由美国国家安全局(NSA)运营的黑客组织“方程式”,对全球45个国家和地区展开长达十几年的网络攻击。

  歼-35的亮相和交付,对于中国航母战斗力提升有着重大意义。参考美国海军的使用经验,F-35C隐形战斗机是全球目前唯一的隐形舰载战斗机,对其他国家的舰载战斗机构成代差的技术优势,但它的内部弹舱容量有限,仅能携带JSM 这类小尺寸反舰导弹,射程和威力都相对有限;而F/A-18E/F“超级大黄蜂”战斗机虽然没有隐形能力,但外挂性能出色,可以携带LRASM这样的大型反舰导弹执行远程攻击任务。因此它们成为美国航母打击群当前最有力的组合——F-35借助隐形优势负责前沿情报收集、争夺制空权乃至初步,“超级大黄蜂”押后提供火力支援和发射大型反舰导弹负责“最后一击”。

  除明显的跨校联动外,本校履新者也不在少数。比如东北师范大学党委书记、校长双双更换,该校党委副书记、纪委书记兰恒斌任校党委书记,副校长徐海阳任校长。武汉大学党委常务副书记黄泰岩任校党委书记,复旦大学党委常务副书记裘新任校党委书记,上海交通大学党委常委、常务副校长丁奎岭任校长等。

  UFLPA虽然旨在服务“美国优先”战略,然而“损人”未必“利己”,阻碍我国发展的同时,也将对美国自身及其盟友产生负面影响。当前,美国通货膨胀严重,国内矛盾日益激化,政府财政赤字严重,难以有效保障该法案的长期实施。中国市场前景广阔,已进入消费升级窗口期。该法案短期可能对我国外贸出口行业产生影响,长期来看对我国的影响势必会弱化,涉疆法案终难以达到其目的。在利益驱使之下,美西方国家一些智库、媒体和相关机构对炮制“新疆问题”乐此不疲,导致越来越多的行业和企业被卷入UFLPA,也必然会导致相关机构的执法难度不断加大,执法成本不断上升。因此,从长期来看,UFLPA注定徒劳无功。

  除了在乌克兰问题上栽赃中国,美方还翻炒起“新冠病毒溯源”问题的“冷饭”。据《华尔街日报》26日报道,根据最近提供给白宫和国会的一份机密情报报告,美国能源部已得出结论,认为新冠病毒“最有可能是意外从中国实验室外泄的”。报道称,此前能源部对此的结论是“不确定”。不过,美国官员未透露导致能源部改变立场的新情报和分析的细节。

  兰恒斌长期在吉林大学工作,2016年1月跨校到东北师范大学任党委副书记、纪委书记,今年2月履新东北师范大学党委书记;裘新毕业于复旦大学新闻系,曾任解放日报报业集团党委副书记、副社长,解放日报党委书记、总编辑等职,还曾任上海市委宣传部副部长、上海广播电视台台长,上海报业集团党委书记、社长等职。2021年11月,裘新转战高校,任复旦大学党委常务副书记,今年2月执掌复旦大学,任学校党委书记。

姜贤喜

声明:该文观点仅代表作者本人,搜狐号系信息发布平台,搜狐仅提供信息存储空间服务。
用户反馈 合作

Copyright © 2023 Sohu All Rights Reserved

搜狐公司 版权所有