0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

英伟达推出GB200 NVL4平台:整合了两个GB200芯片

RISCV国际人才培养认证中心 2024-11-21 01:06 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

11月19日消息,人工智能AI)芯片大厂英伟达(NVIDIA)正式推出了两个全新的AI解决方案硬件平台,一个是Blackwell GB200 NVL4,一个是Hopper H200 NVL。

据介绍,英伟达GB200 NVL4是一个全新的模块,是基于原有的GB200 Grace Blackwell Superchip AI解决方案的更大扩展。GB200 NVL4模块是在更大的主板上配置两个Blackwell GB200 GPU,即拥有两个Grace CPU和4个Blackwell B200 GPU。该模块被设计为具有4-GPU NVLINK域和1.3T相干内存的单服务器解决方案。在性能方面,该模块将使模拟性能提高2.2倍,训练和推理性能提高1.8倍。英伟达的合作伙伴将在未来几个月内提供NVL4解决方案。

c35eceb0-a761-11ef-8084-92fbcf53809c.jpg

此外,基于 PCIe 的Hopper H200 NVL已全面上市,这些卡可以通过 NVLINK 域连接多达 4 个 GPU,可提供比标准 PCIe 解决方案快7倍的带宽。英伟达表示,H200 NVL 解决方案可以适应任何数据中心,并提供一系列针对混合 HPC 和 AI 工作负载优化的灵活服务器配置。

c365b680-a761-11ef-8084-92fbcf53809c.jpg

在规格方面,Hopper H200 NVL解决方案提供了1.5倍的HBM内存、1.7倍的LLM推理性能和1.3倍的HPC性能。您将获得114个SM,总共14592个CUDA内核、456个张量内核和最多3个FP8 TFLOP(FP16累积)性能。GPU具有跨5120位接口配置的80 Gb HBM2e内存,TDP为350瓦。

c36d96fc-a761-11ef-8084-92fbcf53809c.jpg

至于 TDP,由于 Superchip 模块的功率约为 2700W,预计更大的 GB200 NVL4 解决方案的功耗接近 6000W 的功率。人们可以很容易地看到英伟达 为加速 AI 计算领域所做的努力。

英伟达最近在MLPerf v4.1中发布了训练和推理方面的世界纪录,不仅最新的Blackwell平台令人惊叹,而且上一代的Hopper通过持续优化也变得越来越好。该公司还将其人工智能路线图加速到一年的节奏,并计划在未来几年推出几个新的基础设施,如Blackwell Ultra和Rubin。

编辑:芯智讯-浪客剑

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 芯片
    +关注

    关注

    463

    文章

    54428

    浏览量

    469341
  • 人工智能
    +关注

    关注

    1820

    文章

    50325

    浏览量

    266957
  • 英伟达
    +关注

    关注

    23

    文章

    4115

    浏览量

    99624
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    首家市值冲破4万亿美元!英伟登顶,GB200出货量预计超200

    电子发烧友原创 章鹰 7月9日,特朗普对全球多个地区发出了关税的威胁,但是全球AI芯片龙头企业英伟周三股价上涨,得益于人工智能的强劲需求,英伟
    的头像 发表于 07-11 01:24 1.1w次阅读
    首家市值冲破<b class='flag-5'>4</b>万亿美元!<b class='flag-5'>英伟</b><b class='flag-5'>达</b>登顶,<b class='flag-5'>GB200</b>出货量预计超<b class='flag-5'>200</b>万

    市值近4万亿美元!英伟GB300服务器正式出货

    突破 4 万亿美元市值,但 3.92 万亿美元已是有史以来全球科技公司的最高市值。有分析人士认为,英伟必将正式加冕为历史上市值最高的公司。   除了股市表现亮眼,英伟
    的头像 发表于 07-06 05:28 7431次阅读
    市值近<b class='flag-5'>4</b>万亿美元!<b class='flag-5'>英伟</b><b class='flag-5'>达</b><b class='flag-5'>GB</b>300服务器正式出货

    性能狂飙!AMD新品叫板英伟GB200,角逐5000亿AI加速器赛道

    电子发烧友原创 章鹰 当地时间6月12日,在美国旧金山圣何塞举办的“AMD Advancing AI 2025”大会上,AMD董事长兼首席执行官苏姿丰正式发布开放式的AI平台,并且推出横跨
    的头像 发表于 06-14 00:44 6611次阅读
    性能狂飙!AMD新品叫板<b class='flag-5'>英伟</b><b class='flag-5'>达</b><b class='flag-5'>GB200</b>,角逐5000亿AI加速器赛道

    面向 GB200 NVL72 的液冷 PSU 设计:在极小空间内实现 15kW+ 功率输出的拓扑优化

    模型(LLM)参数规模向万亿级别跨越,数据中心基础设施的计算密度和能源消耗正经历前所未有的指数级增长。NVIDIA 发布的 GB200 NVL72 机架级超大规模计算平台,标志着数据中心架构从单节点
    的头像 发表于 03-27 11:31 517次阅读
    面向 <b class='flag-5'>GB200</b> <b class='flag-5'>NVL</b>72 的液冷 PSU 设计:在极小空间内实现 15kW+ 功率输出的拓扑优化

    H200解禁寂寞?2月0销售,审查层层加码!

    电子发烧友网报道(文/梁浩斌)“解禁”2月,0销量?近日美国商务部出口执法助理部长David Peters透露,目前英伟H200芯片获批
    的头像 发表于 02-26 09:24 6335次阅读

    从AI模型到智算中心视角看真正的超节点系统

    英伟凭借其 GB200、300 NVL72 机架系统,在全球多个AI技术前沿地区已实现大规模出货与应用,成为业内首家也是少数能将“超节点”概念从理论推向极致工程化实践的公司。
    的头像 发表于 02-04 14:15 757次阅读
    从AI模型到智算中心视角看真正的超节点系统

    美国政府正式批准英伟H200芯片对华出口

    1月13日,美国正式放行英伟面向中国的第二强人工智能芯片H200出口,在华盛顿对华强硬派的强烈忧虑声中,为这款芯片对华出货打开通道。
    的头像 发表于 01-16 16:11 947次阅读

    突发!特朗普批准英伟H200芯片对华出口,抽成25%

    据最新消息,美国总统特朗普已批准英伟向中国出口其H200人工智能芯片,但要求从销售额中抽取25%作为分成。这意味着英伟
    的头像 发表于 12-09 17:58 1768次阅读

    明德源能数据中心(N+1)²架构200kW一体化UPS重磅发布

    在AI大模型与智算需求爆发式增长的今天,算力正以指数级速度重塑产业格局。英伟最新推出GB200单个机柜的功率大约在 120 kW,而GB
    的头像 发表于 12-05 15:33 807次阅读

    锦富技术斩获液冷板订单

    随着AI技术的发展和应用需求激增,市场对GPU性能的要求持续攀升,推动GPU芯片加速迭代升级。当前,GPU产品正从B200向新一代B300演进,二者均基于Blackwell架构打造;GB200
    的头像 发表于 10-28 17:39 1746次阅读

    AI算力架构分化,连接器迎“光铜共生”格局

    英伟 GB200 正通过铜缆将 72 块 GPU 压缩进 3 米单柜时,华为CloudMatrix 384 超节点已用 6000 余颗光模块搭建起 12 柜集群,并承载起 1.7-2 倍于行业
    的头像 发表于 10-24 18:05 2112次阅读

    GB10超级芯片开卖!正式杀入AI PC

    上,英伟就正式发布首款个人超级电脑Project DIGITS,其搭载英伟与联发科合作
    的头像 发表于 07-09 01:21 4352次阅读

    数据中心电力架构革命!英伟强推800V HVDC,2年后量产

    来自三方面,一是空间限制。据英伟介绍,目前NVIDIA GB200 NVL72或NVIDIA GB
    的头像 发表于 05-27 00:13 1w次阅读
    数据中心电力架构革命!<b class='flag-5'>英伟</b><b class='flag-5'>达</b>强推800V HVDC,2年后量产

    英伟Q3将发布新一代人工智能系统

    5月19日消息,据外媒报道,在台北国际电脑展上;黄仁勋宣布英伟将于2025年第三季度推出下一代GB300人工智能系统。 据悉,GB300
    的头像 发表于 05-19 18:02 768次阅读