3分钟速览黄仁勋GTC演讲:最强AI芯片、NIM微服务等

来源: 气象小秘书
2024-06-03 23:52:11

财联社3月19日讯(编辑 史正丞)北京时间周二清晨,英伟达GTC 2024会议中最重要的一项日程——创始人兼CEO黄仁勋的主题演讲刚刚结束。如同市场预期的那样,全球资本市场刚刚见到了新的算力芯片/服务器,以及一堆AI软件层面的应用。

与过往一样,截至发稿,从黄仁勋开始讲话起,英伟达已经洋洋洒洒发布了40篇新闻稿,本文将着重概述一些今天早晨的重点进展,供投资者参考。

更大的GPU——Blackwell架构如期登场

虽然事前全市场都知道今天会有一款新旗舰算力GPU登场,但黄仁勋在演讲中并没有把名字讲清楚——仅表示推出了一款更大、更强的Blackwell架构GPU,一度引发媒体的混乱。但从官网的数据来看,今天老黄手里拿的应该是B200芯片,官网上也列出Blackwell架构存在B100芯片。英伟达并没有披露售价,仅表示将在年内向合作伙伴发货

英伟达披露,新的B200芯片拥有2080亿个晶体管,采用台积电定制的4NP工艺制造。值得一提的是,这次的芯片将两个die连接成一个统一的GPU,die 之间的通信速度可以达到10TB/秒。不出意外,这款芯片使用是192GB的HBM3E内存。

而GB200 Grace Blackwell超级芯片,是由2个B200芯片(4个die)和Grace CPU组合而来。相较于H100,大语言模型性能提升30倍,同时能耗只有25分之一。

老黄在演讲中举例称,如果要训练一个1.8万亿参数量的GPT模型,需要8000张Hopper GPU,消耗15兆瓦的电力,连续跑上90天。但如果使用GB200 Blackwell GPU,只需要2000张,同样跑90天只消耗四分之一的电力。不只是训练,生成Token的成本也会随之显著降低。

配合这一套新芯片,英伟达还推出了第五代新NVLink芯片,以及GB200 NVL72服务器、X800系列网络交换机、下一代人工智能超级计算机NVIDIA DGX SuperPOD等一系列产品。

开发软件新方式:NIM微服务

讲完硬件更新后,黄仁勋也将剩下的时间投入软件生态。除了地球气候数字孪生、医药开发AI外,英伟达也在AI Enterprise 5.0中推出了一系列“微服务”,包括简化企业将AI模型部署到生产环境中的NIM。

黄仁勋说到:“以后公司将不再需要编写软件,而是组装AI模型,给它们提出任务,还有工作产品的示例,审查计划和中间结果。

英伟达介绍称,NIM微服务通过打包算法、系统和运行优化,并添加行业标准的API,简化了AI模型部署过程。这使得开发人员可以将NIM集成到现有的应用程序和基础设施中,而无需进行大量定制或专业知识

数字孪生支持Vision Pro

英伟达也在周一宣布,Omniverse云现在允许开发者将他们的工业场景,从内容创作应用程序发送到英伟达的Graphics Delivery Network(GDN),借此可以将先进的3D体验流式传输到Apple Vision Pro

这种新工作流将苹果Vision Pro的高分辨率显示与英伟达的云渲染相结合,只需设备和互联网连接即可提供空间计算体验。

还有许许多多零碎的官宣

半导体领域,英伟达宣布,台积电和Synopsys将英伟达计算光刻平台CuLitho投入先进芯片的生产

在电信领域,黄仁勋宣布名为NVIDIA 6G的研究云,这是一个由生成式人工智能和Omniverse技术驱动的平台,旨在推动下一代通信时代的发展。

机器人也是整个演讲的最后一个环节。黄仁勋宣布了多项助力机器人技术开发的软件。其中包括Isaac Perceptor软件开发工具包,涉及多摄像头视觉里程测量、三维重建以及深度感知等。还有Isaac Manipulator——机器人手臂感知、路径规划和运动学控制库。最后他还宣布了一个名为GR00T的项目,这是一个面向人型机器人的通用基础模型,旨在推动公司在机器人技术和具身智能方面的突破。

在一对使用英伟达Jetson芯片的迪士尼机器人orange和green陪伴下,整场发布会至此落下帷幕。

  刚刚过去的涿州洪灾救援中,一则新闻刺痛了大家的心,某工厂二楼21名女工被困,斑马应急救援队前去救援途中,被一男子拦住要求救援队另救他人,由于是夜间,救援地点水域不明,加之救援人员已连续作业3天,已是精疲力尽,队长含泪恳请对方理解却遭到打骂。

  “救援船只是队员集资买的,一般来说,损毁的船只需要带回去维修,费用由救援队一起承担。”张成林说。除了设备损耗,所有救援活动中,花销都是队员自已承担。在涿州救援中,丰宁蓝天救援队出去16名队员,人员花费在1万元左右,需要队员“AA制”承担。

  克拉克森研究公司研究人员表示,自2015年以来,在干散货船和集装箱船投资的支持下,中国船队经历了强劲增长,使其在全球排名中处于领先地位。数据显示,中国船东的干散货船队总吨占比为24%,集装箱船队的总吨占比为16%。不过,数据显示,按照载重吨计算,希腊仍占据着最大份额(18%)。

  据“北京门头沟”微信公众号消息,为保障门头沟区抗洪抢险施工工作顺利开展,尽快恢复生产生活秩序,根据道路交通安全法律法规有关规定,决定自2023年8月17日起,门头沟区109国道下苇甸路口至市界之间路段,除持有“抗洪抢险”专用证件的车辆及执行任务的军队、武警车辆、警车、消防车、救护车、人员转运车辆、工程抢险车、运输物资的车辆外,禁止其他车辆通行。根据施工进展需要,适时对109国道军庄路口至下苇甸路口、南雁路、G234、斋幽路、张马路采取交通管制。

  通报称,2013年,时任巩义市北山口农信社主任王某范为感谢杨红伟对其农信社完成揽储任务等提供的帮助,与杨红伟商定以其哥哥杨某军的名义通过签订虚假合同在北山口农信社贷款200万元,并由王某范进行转贷给某置业公司,获取的102万余元高额利息由杨红伟占有支配。

  诚然,中国出席此次会议,对乌克兰来说当然是值得期待的事。但提到“历史性的胜利”,难道不更该在俄乌和谈成功,达成和平协议的时刻吗?

蔡登木

声明:该文观点仅代表作者本人,搜狐号系信息发布平台,搜狐仅提供信息存储空间服务。
用户反馈 合作

Copyright © 2023 Sohu All Rights Reserved

搜狐公司 版权所有