随着计算需求的增加，训练它们所需的计算能力的费用也在飙升。为此，AI公司正在重新考虑如何训练这些生成式AI系统。在许多情况下，这些策略包括在当前的增长轨迹下降低计算成本。
训练成本是如何确定的？
斯坦福大学与研究公司Epoch AI合作，根据云计算租金估算了AI模型的训练成本。双方所分析的关键因素包括模型的训练时长、硬件的利用率和训练硬件的价值。
尽管许多人猜测，训练AI模型的成本变得越来越高，但缺乏全面的数据来支持这些说法。而斯坦福大学发布的《2024年AI指数报告》正是支持这些说法的罕见来源之一。
不断膨胀的训练成本
下表展示了自2017年以来，经通胀调整后的主要AI模型的培训成本：
去年，OpenAI的GPT-4培训成本估计为7840万美元，远高于谷歌PaLM （540B） 的训练成本。谷歌PaLM较GPT-4仅早一年推出，但训练成本为1240万美元。
相比之下，2017年开发的早期AI模型Transformer的训练成本为930美元。该模型在塑造当前所使用的许多大型语言模型的体系结构方面起着基础性作用。
谷歌的AI模型Gemini Ultra的训练成更高，达到了惊人的1.91亿美元。截至2024年初，该模型在几个指标上都超过了GPT-4，最引人注目的是在“大规模多任务语言理解”（MMLU）基准测试中胜出。这一基准是衡量大型语言模型能力的重要标尺。例如，它以评估57个学科领域的知识和解决问题的熟练程度而闻名。
训练未来的AI模型
鉴于这些挑战，AI公司正在寻找新的解决方案来训练语言模型，以应对不断上涨的成本。
其中的方法有多种，比如创建用于执行特定任务的较小模型，而其他一些公司正在试验创建自家的合成数据来“投喂”AI系统。但到目前为止，这方面还没有取得明确的突破。
例如，使用合成数据的AI模型有时会“胡言乱语”，引发所谓的“模型崩溃”。
责任编辑 ：刘明亮
“目前每周四上午开诊，前来就诊的患者主要存在持续猛烈咳嗽后的肋骨及胸部疼痛、新冠病毒感染后出现的颈腰部疼痛和术后关节疼痛加重等情况，此外还有新冠康复期内虚弱、易疲劳、心肺功能下降等问题的患者。”据华山医院运动医学科副主任李云霞介绍，开设该门诊就是针对新冠感染康复期人群存在的肌骨系统疼痛、体力活动能力不足、恢复运动困难等问题，希望通过系统的运动能力评估、肌骨疼痛评估等手段，了解患者的身体功能状态，同时结合系统科学的运动处方指导和康复治疗手段，帮助大家安全地重返生活及运动。
瞄准当前基层卫生防疫存在的薄弱环节，国家卫生健康委医政司司长焦雅辉表示：“我们建立了监测和调度机制，目前看，乡镇卫生院药品配备紧张的情况得到很大程度缓解。正在研究加强基层卫生机构小分子抗病毒药物配备，进一步提升基层卫生机构的医疗救治能力。”
中国人民大学中国资本市场研究院联席院长赵锡军对<a target='_blank' href='/'>中新社</a>国是直通车表示，金融对支持稳住经济大盘发挥了重要作用。去年的流动性、社融和贷款等数据都证明了这一点。
万达酒店发展2022年半年报数据显示，2022年上半年，万达酒店发展实现收益3.55亿港元，同比下降14.4%；毛利约为1.68亿元，同比减少约32.27%；毛利率由59.8%下降至47.3%；实现母公司拥有人应占净利润6374.5万港元，同比下降33.2%。公司总资产52.55亿元，同比下降23.84%。对于毛利率下降的原因，万达酒店发展在半年报中称，毛利及毛利率下降主要是由于本期间内有关珠海万达向桂林项目提供委托管理服务约1270万港元的管理费。
王沪宁充分肯定各宗教团体2022年的工作，对2023年工作提出殷切希望。他表示，各全国性宗教团体要认真贯彻落实党的二十大精神，把思想和行动统一到党的二十大精神上来，统一到党中央关于宗教工作的决策部署上来。要充分发挥宗教界主体作用，把推进我国宗教中国化做深做细做实。要防范化解宗教领域风险隐患，坚持独立自主自办原则不动摇，维护宗教领域正常秩序和社会和谐稳定。要坚持全面从严治教，完善宗教团体的内部规章制度，改进宗教组织体制和管理模式，持续开展崇俭戒奢教育活动。
17日，跨境电商平台速卖通公布海外消费者最爱买的十大年货，红红火火的兔年摆件、“新年战袍”晚礼服、“神秘东方力量”保温杯、“保暖神器”滑雪内衣、仪式感拉满的智能氛围灯等国货强势增长，成为春节爆款。
黄琬学
声明：该文观点仅代表作者本人，搜狐号系信息发布平台，搜狐仅提供信息存储空间服务。