院士谈大模型:训练花钱少,性能会打折扣

来源: 学习网
2024-06-07 11:00:36

  中新网6月6日电(中新财经记者 吴涛)针对目前市场上沸沸扬扬的大模型价格战,在6月5日举行的2024北京网络安全大会期间,有专家指出,训练大模型很费钱,任何说花很少一点钱就能做的,性能上肯定打了折扣。在大会上,很多院士还讨论了AI安全以及算力网络该如何更好地建设问题。

  谈训练:少花钱的性能会打折扣

  “任何说花很少一点钱就能训练大模型的,肯定是里面做了很多简化,性能会打折扣。”中国工程院院士、鹏城实验室主任、北京大学博雅讲席教授高文在大会上谈到大模型训练成本问题。

  高文称,训练模型很花钱,我们自己算了一下,2000亿参数的模型大约要花5亿元,如果是万亿模型,肯定要接近10亿元,或者更多才能训练好一个模型。

  近一段时间,不少大模型平台纷纷宣布对面向企业市场的API(应用程序编程接口)价格下调,动辄下调90%以上,甚至直接宣布免费。不少企业解释原因称,使用了更好的手段把成本降下来。

  高文称,现在国外有一个流派,叫做规模法则,要想做一个好的模型,机器的规模要够大,数据的规模也要大,只有规模到了才能做出好模型,所以现在要想训练一个好的模型,这是非常费钱的。

  不过在大模型的大小上,中国新一代人工智能发展战略研究院执行院长龚克称,“脑的规模、神经元的规模确实不能小,但是不是一直大就可以比人更聪明呢?也不是,如非洲大象,他们的脑子比人脑还发达,但并不比人聪明,说明光靠大也不能解决所有问题。”

  谈安全:协调推进发展和治理,不 要妖化AI

  随着AI的发展,其安全越发引起重视。中国工程院院士、同济大学讲席教授蒋昌俊在大会上表示,安全性是不可忽视的,目前的现状是被动式攻击、孤立式安防。如何改变?必须通过一体化算网体系,以及专业化、多模态化和大规模形式,形成安全有效的算力方式。

  龚克认为,从现在的实践来看,如果大家真正使用AI,风险并不是来自于技术太强,而是技术并不够强,存在自己各方面的技术瓶颈,从而引发很多社会焦虑。

  “人工智能必须大力发展,不发展是最大的不安全;对于人工智能风险要实事求是具体分析,协调推进发展和治理,不要妖化和神化人工智能;人工智能和网络安全本身是密切相关的,应该全力推动人工智能和网络安全的融合创新。”龚克称。

  在具体实际操作层面,高文表示,在安全方面,有些用户希望他们的数据是别人看不见的,我们专门做了一个技术,使得数据可用不可见,只有数据应用者能看得见自己的数据,其他人都看不见,但可以用,在训练的时候就可以做到相对比较安全。

  谈算力:数据价值还没完全显现出来

  大模型的发展离不开算力。蒋昌俊表示,目前算力专用定价体系尚未建立,算力服务企业各自为战,算力数据相对比较孤立。要解决这些问题,要通过算力网络的一些新型需求来拓展它的业务。

  据了解,目前国内数据交易中心有十几家。蒋昌俊认为,目前来看,数据交易效果还不是很好,因为没有经过算力的加工,数据的价值没有完全显现出来。

  蒋昌俊支招,算网运营可以采取一些市场行为,为各行各业提供服务,这才形成了我们算力优配的价值所在,“未来算网重点将从建设逐步转向调度应用。”

  中国信息通信研究院院长余晓晖此前发文指出,算力开始赋能千行百业离不开多方合力。需要各级政府以及基础电信运营商、第三方数据中心服务商、互联网企业等各类经营主体在算力基础设施建设运营中发挥各自优势,互促互补、形成合力。(完)

这座球场的设计灵感来自沙丘和伊斯兰建筑,传递着阿拉伯人的信仰和根。这座体育场的主色调是赖扬队的红黑色,观众席座椅布置成了赖扬队的雄狮队徽状,表达着卡塔尔人对本土俱乐部的热爱。世界杯之后这座体育场将归还赖扬队,在卡塔尔当地联赛中还能继续目睹它的壮丽。

不过,这次世界杯法国队严重的伤病危机,对他们而言或许是个转机。恩昆库、本泽马先后退赛,4231阵型的右路恐缺。德尚需要一位得力的边锋打开进攻空间,给姆巴佩足够的发挥机会。这是解决法国队进攻近期凝滞的最有效办法,此前德尚宁可在欧国联让中锋恩昆库拉边,也要保证本泽马的中锋地位。这种无可奈何的纠结,现在彻底可以由登贝莱和科曼结束。

如今世界杯已经开幕,各球队也在紧锣密鼓备战接下来的比赛,而在世界杯开赛前,C罗个人专访曝出对曼联的种种评论,都让人看起来C罗大概率在世界杯结束之后不会回归曼联了。那么问题来了,大概率C罗不会回归曼联(即使留队也不可能再有一线队出战资格)的情况下,C罗该如何是好呢?

解说詹俊直言:卡塔尔队没有任何一次中目标的射门,最后两脚射门也是打高了,所以在进攻方面没有什么亮点,防守又漏洞百出,卡塔尔想要出线,是难上加难啊!接下来,英格兰队要对阵另外一支亚洲劲旅伊朗队,第一次揭幕战卡塔尔有点丢亚洲球队的脸,第二天的伊朗队能不能把这个脸挣回来?

携程数据显示,11月20日至12月18日期间,携程影音房产品预订量相比去年同期增长超1倍。相比2022年1至10月的产品预订增速高出六成,影音房整体预订均价同比去年微降,四成用户提前1个月预订心仪的影音房。

优点:1.抖音和今日头条是一个老板,用的人实在太多了,习惯很重要。

宗敬先

声明:该文观点仅代表作者本人,搜狐号系信息发布平台,搜狐仅提供信息存储空间服务。
用户反馈 合作

Copyright © 2023 Sohu All Rights Reserved

搜狐公司 版权所有