0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

赢麻了!英伟达发布史上最强“巨型GPU”,黄仁勋:CPU扩张时代结束了

Hobby观察 来源:电子发烧友网 作者:梁浩斌 2023-05-31 09:08 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

电子发烧友网报道(文/梁浩斌)今年英伟达可谓风生水起,过去五个月市值增长近三倍,自上周四公布今年一季度财报以来,截至5月30日股价也飙涨27%,市值9632亿美元,有望进入万亿美元俱乐部。作为在这一轮生成式AI浪潮中的核心算力硬件供应商,已经“赢麻了”的英伟达并未有因此停下脚步,而是趁热打铁继续推出惊人的算力硬件。

wKgaomR2nkKAC4AGAAYE7vCm_W4996.jpg
图源:英伟达中国


英伟达CEO黄仁勋在周一的台北Computex展上带来了2小时的激情演讲,发布上推出了GH200 Grace Hopper超级芯片,以及将多达256块GH200超级芯片整合到一起的DGX GH200“巨型GPU”,同时还展示了一系列AI相关的应用和产品。

黄仁勋表示:CPU扩张的时代已经结束了。

新计算时代:GPU买得越多,省得越多!

在这场2小时的演讲开场,黄仁勋就提出了一个“暴论”,他表示“CPU扩张的时代已经结束了”。

加速计算和AI重塑计算机行业的当下,从需要持续提升算力的数据中心可以看到,CPU的需求越来越少,而GPU的需求则不断增长。黄仁勋认为,如今的计算机是指数据中心、是指云服务,与此同时可以为未来“计算机”编写程序的程序员,如今将面临行业的变革。

“我们已经到达生成式AI的爆点,从此世界的每一个角落,都会有计算需求。”在这样的计算需求背景下,计算的性价比也非常重要。黄仁勋举了两个例子证明GPU比CPU在AI计算时代更有优势:

在1000万美元的成本下,可以用于建设一个有960颗CPU的数据中心,其中可以处理1X LLM(大语言模型)的数据量,同时需要消耗11GWh的能耗;同样成本下,如果用于建设一个有48颗GPU的数据中心,不仅可以处理的LLM数据量是同成本CPU数据中心44倍,在功耗方面还能大幅降低至3.2GWh。

所以,黄仁勋不禁喊出了“The more you buy,The more you save”的口号,买GPU越多,你省下的钱也就越多。

强到离谱的GH200和DGX GH200

这次发布会上最重磅的产品无疑是GH200 Grace Hopper超级芯片,在发布会上,黄仁勋也公布了该款芯片的细节。GH200是基于NVIDIA NVLink-C2C互连技术,将Arm架构的NVIDIA Grace CPU和Hopper架构的 GPU实现互联整合,最终实现高达900GB/s的总带宽,这相比传统的PCIe 5.0通道带宽要高出7倍,可以满足需求最严苛的AI 和HPC应用。

去年三月,英伟达在GTC大会上发布了基于Arm架构的Grace CPU,这款CPU专为计算加速平台设计,拥有多达72个Armv9 CPU核心,缓存容量高达198MB,支持LPDDR5X ECC内存,带宽高达1TB/s,并支持NVLink-C2C和PCIe 5.0两种互连协议。

同样是在去年的GTC大会上,英伟达发布了基于Hopper架构的全新H100 GPU,截至目前,H100依然是英伟达用于AI加速、HPC和数据分析等处理的最强GPU。

H100采用台积电4nm定制工艺,拥有多达800亿个晶体管,集成了18432个CUDA核心、576个Tenor核心、60MB二级缓存,并支持6144-bit位宽的HBM3/2e高带宽内存。

而GH200 Grace Hopper,就是将72核的Grace CPU和当今世上最强的GPU H100,加上96GB的HBM3显存、512GB的LPDDR5X内存封装在一起,集成到一片“超级芯片”上。

wKgZomR2nk6ABzyrAAnYC8xJtq4959.jpg
图源:英伟达中国


黄仁勋将GH200 Grace Hopper形容为“这是一台计算机,而不是芯片”。同时他透露,GH200 Grace Hopper目前已经全面投产。

如果GH200 Grace Hopper还不能满足你的需求,英伟达还提供了一个由256个GH200 Grace Hopper组成的超级计算机系统——DGX GH200,而上一代的系统在不影响性能的前提下只能通过NVLink将8个GPU整合成一个系统。

那么DGX GH200是如何做到将256个GH200 Grace Hopper连接成一个系统?GH200 Grace Hopper和NVLink4.0、NVLink Switch System(交换机系统)是组建DGX GH200的重点。NVLink交换机系统形成了一个两级、无阻塞、胖树NVLink结构,结合新的NVLink 4.0和第三代NV SWitch,英伟达可以用一个前所未有的高带宽水平来构建大规模NVLink交换机系统。通过计算节点外的交换机模块,将最高256个计算节点,也就是GPU连接为一个整体。

最终这个拥有256个GH200 Grace Hopper超级芯片的DGX GH200超级计算机能够提供高达能够提供1 Exaflop(百亿亿次)级别的性能、并具有144TB的共享内存,内容容量几乎是上一代的500倍。

黄仁勋称DGX GH200是“巨型GPU”,并预计DGX GH200将在今年年底开始供货并投入使用,Google Cloud、Meta与微软将会是首批能够使用DGX GH200的公司。

除此之外,英伟达还在使用DGX GH200打造一个更大规模的超级计算机,这款被称为NVIDIA Helios的超级计算机将配备4个DGX GH200,通过英伟达的Quantum-2 InfiniBand交换机进行互连。那么NVIDIA Helios将成为一个由1024个GH200 Grace Hopper超级芯片构成的巨型AI计算系统,这套系统也将会在今年年底启用。

AI应用遍地开花

发布会上,黄仁勋还宣布推出一种名为Avatar Cloud Engine(ACE)的AI模型代工服务,这种模型主要应用在游戏领域,可以为游戏开发人员提供训练模型,通过简单的操作定制想要的游戏AI模型。

wKgaomR2nluATyrWAAFrbWnAHyU904.jpg
图源:英伟达中国


在演示中,游戏玩家可以用自己的声音与NPC角色进行对话,由生成式AI加持的NPC,可以根据玩家的语音实时生成不同的回答,增强游戏的沉浸体验。

在内容方面,英伟达目前正在与全球最大的广告集团WPP合作,开发一款利用NVIDIA Omniverse和AI的内容引擎,以更高效地帮助创意团队制作高质量商业内容,并针对客户的品牌产出不同的针对性内容,这或许是AI颠覆广告行业的一个尝试。

除此之外,在工业领域,英伟达也正在用AI来帮助工业生产提高效率,比如用于模拟和测试机器人的英伟达Isaac Sim;用于自动光学检测的英伟达Metropolis视觉AI框架;用于3D设计协作的英伟达Omniverse等。

黄仁勋表示,目前富士康工业互联网、宜鼎国际、和硕、广达、纬创等制造业巨头都在使用英伟达的参考工作流程,比如构建数字孪生、模拟协作机器人、检测自动化等。

小结:

今年AIGC发展速度超出所有人想象,近期甚至有调研机构在一个半月之内将今年AI服务器出货量增长预期从15.4%提升至38.4%。毫无疑问,黄仁勋和他的英伟达是在这新一轮AI革命中最大的赢家。

截至5月30日18时,英伟达盘前涨近4%,市值突破万亿美元,英伟达成为全球第一家市值破万亿美元的芯片公司。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • cpu
    cpu
    +关注

    关注

    68

    文章

    11216

    浏览量

    222895
  • 英伟达
    +关注

    关注

    23

    文章

    4039

    浏览量

    97646
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    中国行的背后,AI芯片暗战与英伟达生存博弈

    电子发烧友网报道(文/黄山明)4月17日,英伟创始人再次来到了中国,这也并非是他今年第一次来中国。早在1月下旬,
    的头像 发表于 04-19 00:44 3169次阅读

    英伟:我们要做巨型芯片!最强显卡RTX 5090发布,汽车芯片Thor算力翻20倍

    电子发烧友网报道(文/莫婷婷)北京时间1月7日10:30,英伟在CES 2025上举办主题演讲,英伟CEO
    的头像 发表于 01-08 08:59 4870次阅读
    <b class='flag-5'>英伟</b><b class='flag-5'>达</b><b class='flag-5'>黄</b><b class='flag-5'>仁</b><b class='flag-5'>勋</b>:我们要做<b class='flag-5'>巨型</b>芯片!<b class='flag-5'>最强</b>显卡RTX 5090<b class='flag-5'>发布</b>,汽车芯片Thor算力翻20倍

    NVIDIA CEO畅谈AI时代最新蓝图

    在主题演讲中,NVIDIA 创始人兼首席执行官勾勒出了 AI 时代的最新蓝图。从大规模 GPU 部署和量子技术突破,到 AI 工厂、机
    的头像 发表于 11-03 14:45 492次阅读

    央视专访英伟创始人 :总感觉公司快倒闭

    伟大的公司都会有自己独到的地方;在央视专访英伟创始人让我们看到
    的头像 发表于 07-21 11:24 996次阅读

    英伟:将向中国市场销售H20芯片 中国市场至关重要

    英伟CEO在北京访问期间发表声明称,将恢复在中国销售其H20 GPU芯片,并根据美国出
    的头像 发表于 07-15 14:32 1078次阅读

    :不再将中国市场纳入业绩预测

    据外媒报道,在一次采访时英伟表示,由于美国芯片管制措施,英伟
    的头像 发表于 06-13 14:29 1268次阅读

    :人工智能将提高全球GDP 谈中国AI市场未来规模可达500亿美元

    的一举一动都牵动着很多人的关注,比较英伟在AI领域的号召力还是有目共睹的;我们来看看英伟
    的头像 发表于 05-07 14:05 857次阅读

    会见DeepSeek创始人梁文锋

    4月17日英伟公司首席执行官应中国贸促会的邀请抵达北京。这是
    的头像 发表于 04-18 11:56 2321次阅读

    时隔3个月再次到访北京 :中国是英伟非常重要的市场

    今天 (4月17日)英伟公司首席执行官应中国贸促会的邀请抵达北京。这是
    的头像 发表于 04-17 19:26 943次阅读

    英伟中国员工近4000人,离职率极低

    办公室为公司的全球业务提供强有力的支持。近年来,英伟在中国招募大量优秀的研究人员,他们在公司的创新和发展中发挥了重要作用。 值得一提的是,
    的头像 发表于 01-20 14:56 1098次阅读

    英伟CoWoS产能将大幅增加

    近日,英伟公司CEO亲临硅品精密台中潭子新厂,并发表一系列重要言论。
    的头像 发表于 01-17 10:33 865次阅读

    看点:英伟CEO本周访华 俄罗斯再罚谷歌80亿卢布 寒武纪发布业绩预告

    给大家带来一些行业资讯: 英伟CEO本周访华  据彭博社报道,英伟
    的头像 发表于 01-15 11:52 1787次阅读

    宣布:丰田与英伟携手打造下一代自动驾驶汽车

    自动驾驶技术的研发上注入了新的活力。 表示,英伟与丰田的合作将充分利用双方在各自领域的优势,共同推动自动驾驶汽车技术的发展。
    的头像 发表于 01-09 10:25 914次阅读

    :英伟正发起芯片革命 RTX5090售价1999美元

      英伟创始人、CEO在2025国际消费电子展(CES)上发表开幕主题演讲。英伟
    的头像 发表于 01-07 17:56 1603次阅读

    2025年CES展:英伟CEO将发表演讲并可能进行HBM对谈

    2025年美国消费性电子展(CES)将于1月7日盛大开幕,全球图形处理器(GPU)巨头英伟的首席执行官
    的头像 发表于 01-06 13:54 5940次阅读