关闭广告

公布未来三年路线图,黄仁勋把英伟达「逼到」极限

雷峰网2452人阅读


NVIDIA 创始人兼首席执行官黄仁勋在COMPUTEX 2024开幕前,面向现场6500多名观众的演讲,最引人注意的就是最新的产品路线图。

黄仁勋展示了未来三年的产品路线图,并首次公布下一代平台Rubin。

看起来,黄仁勋将英伟产品的更新节奏推向了技术的极限,近些年有类似节奏的公司是以消费市场为主的苹果,这表达了NVIDIA“加速一切”决心的同时,也预示着AI应用蓬勃发展的阶段即将到来。

GPU架构、网络平台Spectrum-X每年更新的同时,NVIDIA也在推动加速计算成本的降低、有降低AI应用嫩看的NIM推理微服务,以及推动AI新一波浪潮的机器人等。

可以越来越清晰的看到,NVIDIA要成为AI世界里的基石。

黄仁勋海给出预测,AI新一波浪潮是物理AI。

GPU、以太网网络平台每年更新

黄仁勋COMPUTEX 2024开幕前的演讲,首次披露今年发布的Blackwell架构的继任平台Rubin。


Rubin平台将配备新 GPU、基于 Arm 的新 CPU — Vera,以及采用 NVLink 6、CX9 SuperNIC 和 X1600、并融合 InfiniBand/以太网交换机的高级网络平台。

根据NVIDIA的路线图,2025年推出Blackwell Ultra GPU(8S HBM3e 12H);2026年推出Rubin GPU(8S HBM4);2027年推出Rubin Ultra GPU(12S HBM4)。

Rubin和Vera的命名均源自美国天文学家Vera Rubin。

“我展示的所有芯片都在百分之百在开发中。”黄仁勋说,“NVIDIA的更新节奏以年为单位,所有架构都是兼容的,以一年为周期,我们把所有东西推向技术极限。”

黄仁勋称以年为单位更新的基本理念非常简单,打造数据中心规模,以每年的节奏分步骤实现、并向客户交付产品,在各个领域实现技术突破。

同样计划每年推出新产品的还有Spectrum-X产品。NVIDIA Spectrum-X 是全球首款专为 AI 打造的以太网网络平台,可将网络性能较传统以太网网络平台提升1.6倍。


Spectrum-X 为客户提供更高的带宽、更多的端口、更加强大的软件功能集与可编程能力,不断提高领先的AI以太网网络性能。

网络和存储越来越成为限制AI发展的瓶颈。

NVIDIA网络高级副总裁Gilad Shainer说:“生成式 AI 等开创性技术的飞速发展,使每家企业都必须把网络创新放在第一位,从而获得竞争优势。

Spectrum-X配备NVIDIA Spectrum SN5600以太网交换机和NVIDIA BlueField -3 SuperNIC,是一个兼顾了生成式 AI 云所需高性能和各种云功能的端到端平台。

雷峰网了解到,率先采用NVIDIA Spectrum-X的AI云服务提供商有CoreWeave、GMO Internet Group、Lambda、Scaleway、STPX Global 和 Yotta 等。

另外,戴尔科技、慧与、联想和超微等之后,又有多家NVIDIA 合作伙伴也发布了基于 Spectrum 的产品,包括永擎电子(ASRock Rack)、华硕(ASUS)、技嘉科技(GIGABYTE)、鸿佰科技(Ingrasys)、英业达(Inventec)、和硕(Pegatron)、云达科技(QCT)、纬创(Wistron)和纬颖科技(Wiwynn)等。

MGX和NIM降AI应用的软硬件门槛

身处2024年更应该意识到,AI的发展不仅需要GPU、CPU、网络等关键组件,更需要一个易用且低成本的AI系统。

NVIDIA 正在降低将数据转化为智能的成本。


“买的越多,省的越多。”黄仁勋说,CPU的性能扩展已经大大放缓,NVIDIA通过GPU+CPU组合,实现了高达100倍的加速,同时功耗仅增加到3倍,成本仅增加到1.5倍,每瓦性能比单独使用CPU提高25倍。

有更加直观的数据,8年内NVIDIA AI算力增加了1000倍,带来的显著收益是,比如训练1.8万亿参数、8万亿token的GPT-4,所需能耗从8年前Pascal架构的1000GWh减少到Blackwell的3GWh,能耗仅为8年前的1/350。


生成Token的能耗,Blackwell架构降至8年前Pascal架构的1/45000。

用Pascal产生1 Token的能耗相当于2个200W灯泡运行2天,而现在1 Token只用0.4J能耗。

MGX降低AI工厂建立成本和时间

架构演进带来的优势最终还是需要以系统应用的方式呈现,并且要以足够低的软硬件门槛。

为了加快不同规模和配置的系统开发,NVIDIA推出了MGX模块化参考设计平台,以便计算机制造商能够以快速且低成本的方式构建超过 100 种的系统设计配置。

制造商首先可根据其服务器机箱选择一种基本的系统架构,然后再根据不同的工作负载选择 GPU、DPU 和 CPU。通过采用 MGX,开发成本大幅降低,较之前最多降低了四分之三,开发时间缩短到仅六个月,较之前减少了三分之二。

目前,已有超过 25 家合作伙伴的 90 多套已发布或正在开发中的系统使用了 MGX 参考架构。AMD和英特尔也都支持MGX 架构,并首次计划打造基于他们自己 CPU 主机处理器的模块设计。


“新一轮工业革命已经开始。众多企业和地区正在与 NVIDIA 合作推动价值万亿美元的传统数据中心向加速计算转型,并建造一种新型数据中心——AI 工厂来生产新的商品:人工智能。“黄仁勋宣布,NVIDIA MGX模块化参考设计平台加入了对 NVIDIA Blackwell 产品的支持,包括全新 NVIDIA GB200 NVL2 平台,这些系统搭载 Grace CPU 以及 NVIDIA 网络和基础设施,将帮助企业建立 AI 工厂和数据中心。

NIM让2800万开发者轻松创建AI应用

有了AI工厂和数据中心,就拥有了激发AI创新的硬件基础。

每个企业都希望在其运营中融入生成式 AI,但并非每个企业都拥有专门的 AI 研究团队。

NVIDIA给出的解决方案是NIM,这是一种推理微服务,通过经优化的容器的形式提供模型——以部署在云、数据中心或工作站上。


借助 NVIDIA NIM,开发者能够轻松地为 Copilots、聊天机器人等构建生成式 AI 应用,所需时间从数周缩短至几分钟,NVIDIA宣布全球2,800 万开发者已经可以下载 NVIDIA NIM。

NIM能帮助企业实现基础设施投资的效果最大化。例如,与未使用 NIM 的情况相比,在NIM中运行Meta Llama 3-8B所能生成的加速基础设施AI Token可以提升3倍。

据悉,从Meta Llama 3开始,在Hugging Fac上现已开始提供 NIM,NVIDIA已经在 Hugging Face上发布了全面优化的Llama 3。

通过基于 NVIDIA GPU 的 Hugging Face 推理端点,只需点击几下,开发者就能在其选择的云平台上轻松地访问和运行 Llama 3 NIM,能有效降低开发AI应用的门槛。

企业可以使用 NIM 来运行用于生成文本、图像和视频、语音以及数字人的应用。借助面向数字生物学的 NVIDIA BioNeMo NIM 微服务,研究人员可以构建新的蛋白质结构,加速药物研发。

目前Cadence、Cloudera、Cohesity、DataStax、NetApp、Scale AI 和新思科技等近 200 家NVIDIA的技术合作伙伴正将NIM集成到他们的平台中,加快生成式AI部署到特定领域应用中的速度,例如Copilots、代码助手、数字人虚拟形象等。

价值50万亿美元的工业数字化变革

AI将带来的变革,触手可及的是AI PC。

搭载RTX技术的NVIDIA RTX AI PC将通过200多款RTX AI笔记本电脑和500多款采用 AI 技术的应用和游戏改变消费者的体验。


NVIDIA还发布了搭载RTX的AI助手技术演示G-Assist 项目,展示了针对PC游戏和应用的上下文感知辅助功能。

除了消费级市场,NVIDIA也将目光放到了价值 50 万亿美元的工业数字化变革。

面对各行各业采用自主运营和数字孪生,通过虚拟模型提高效率并降低成本对需求。NVIDIA 通过其开发者计划提供对 NIM 的访问权限,以促进 AI 创新。

黄仁勋展示了Foxconn利用NVIDIA Omniverse、Isaac 和 Metropolis 创建数字孪生,通过结合视觉AI与机器人开发工具来实现增强的机器人设施。

AI新一波浪潮是物理AI。AI能够理解物理定律,并与人类并肩作战,”黄仁勋他强调了机器人和人工智能在未来发展中的重要性。

如今大多数AI并不理解物理定律,不以物质世界为基础。而生成图像、视频、3D图形和许多物理现象,需要基于物理并理解物理定律的AI。


“机器人和物理 AI 正在成为现实,而不仅是出现在科幻小说。这真的令人兴奋,”黄仁勋补充。

NVIDIA Isaac平台为开发者构建 AI 机器人提供强大的套件,包括由AI模型以及Jetson Orin、Thor 等超级计算机驱动的AMR、工业机械臂和人形机器人。

“机器人将遍布所有工厂。工厂将实现对机器人的统筹,而这些机器人将制造新的机器人产品,”黄仁勋同时强调NVIDIA Isaac 在提高工厂和仓库效率方面的作用,比亚迪电子、西门子、泰瑞达、Intrinsic 等全球领先企业都在使用 NVIDIA Isaac 的高级程序库和 AI 模型。

从核心组件到整个AI系统,NVIDIA已经成为加速AI发展的基石。

同时,NVIDIA给出了AI新一波浪潮是物理AI也传递出NVIDIA对于未来的判断与引领。雷峰网

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

全国人大代表、58同城董事长姚劲波:上门经济需跨越数字鸿沟

经济观察报 浏览 3585

综合续航超1400公里 奇瑞风云T9是你的菜吗?

汽车经纬网 浏览 4057

王军:如何让“长钱”愿意“长投”“长留”并获得长期稳定收益

首席经济学家 浏览 2623

好消息,此前因膝盖小伤缺阵的热苏斯已回归阿森纳训练

懂球帝 浏览 4238

沈飞官宣歼-31B新型隐身战机 披露关乎空战的重要细节

政知新媒体 浏览 17335

美英打击胡塞武装 行动规模或限定在“小范围”

澎湃新闻 浏览 4097

最高法披露案例:交管未合理设置标志致5814辆车次违法

上游新闻 浏览 23055

中方决定对5家美国军工企业实施制裁

外交部 浏览 4146

生涯首次!利拉德最后时刻“绝杀”队友布朗,荣膺全明星MVP

懂球帝 浏览 3937

外观更战斗,ARIYA艾睿雅 Nismo正式首发

天天汽车 浏览 3943

韩庚曝回国真相:每天做噩梦,重度抑郁想自杀,曾多次被网暴!

缘木不求娱 浏览 4086

最有机会扳倒特朗普的麦康奈尔退了 泽连斯基成受害者

中国新闻周刊 浏览 34687

不在状态!小萨博尼斯半场10中3得到11分6板3助 出现5次失误

直播吧 浏览 778

宝能姚振华入主众泰汽车? 内部人士称是战略合作关系

道哥说车 浏览 2112

注册资本145亿!合肥跑出一家“核聚变”独角兽

科创板日报 浏览 2045

全明星正赛创7大神迹:东部队狂轰211分+42记三分均创历史!

Emily说个球 浏览 3915

国羽3冠收官!石宇奇2-0横扫泰国世界冠军 夺法国赛男单冠军

醉卧浮生 浏览 3405

币圈的关键时刻来临:比特币现货ETF本周能否获批?

财联社 浏览 4027

刚呼吁中菲对话,菲律宾又出“幺蛾子”

浏览 1956

售13.99-16.29万元 哪吒L纯电版正式上市

网易汽车 浏览 1988

老去的冯小刚,「爹」不过陈思诚

她刊 浏览 4059
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备2023013132号-1