0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

NVIDIA GB200 CPU+GPU超级芯片功耗达2700W

要长高 2024-07-31 13:02 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

7月31日,集邦咨询发布的最新报告揭示了AI服务器领域的一个重要趋势:随着计算能力与功耗的同步攀升,特别是NVIDIA计划在年底推出的下一代Blackwell平台将带来显著的功耗增长,液冷散热技术正逐步成为行业标配,预计今年底其市场渗透率将达到10%。

报告进一步指出,NVIDIA的Blackwell平台预计将在2025年正式大规模部署,接替当前的Hopper平台,成为高端市场的核心力量,占据近83%的市场份额。Blackwell B200单芯片的功耗已飙升至1000W,而由一颗Grace CPU与两颗Blackwell GPU组成的GB200超级芯片更是惊人地达到了2700W,这一数字远超前辈产品。

回顾历史,Hopper家族的H100与H200 GPU功耗均为700W,而H20则相对较低,为400W。Grace+Hopper超级芯片的功耗也达到了1000W。随着NVIDIA在服务器领域的布局深化,如HGX服务器预装8颗GPU,以及NVL36、NVL72等更高密度配置的推出,整体功耗分别攀升至70千瓦与140千瓦,对散热技术提出了前所未有的挑战。

为应对这一挑战,NVL36服务器计划在2024年底率先上市,初期将采用风冷与液冷并行的散热方案。而紧随其后的NVL72服务器,则计划在2025年直接优先采用液冷技术,其整体设计与散热系统的复杂性也显著增加。

NVIDIA预计,到2025年,基于GB200的NVL36服务器出货量有望达到6万台,同时Blackwell GPU的总出货量预计将介于210万至220万颗之间。这一预测进一步凸显了液冷散热技术在未来AI服务器市场中的关键地位。

在液冷散热系统的构成中,冷却分配单元(CDU)扮演着至关重要的角色,负责调节系统内冷却液的流量,确保温度得到有效控制。目前,维谛技术(Vertiv)是NVIDIA AI服务器方案中的主要CDU供应商,同时奇鋐、双鸿、台达电、CoolIT等企业也在积极进行测试验证,以期在这一新兴市场中占据一席之地。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • cpu
    cpu
    +关注

    关注

    68

    文章

    11375

    浏览量

    226431
  • NVIDIA
    +关注

    关注

    14

    文章

    5727

    浏览量

    110299
  • gpu
    gpu
    +关注

    关注

    28

    文章

    5328

    浏览量

    136219
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    微软力推自研Maia 200芯片

    的单位算力成本相比英伟A100 GPU低约15%,相比H100 GPU低约10%。成本优势源自芯片架构对推理场景的深度定制:内存带宽提升20%,
    的头像 发表于 05-25 11:05 586次阅读

    面向 GB200 NVL72 的液冷 PSU 设计:在极小空间内实现 15kW+ 功率输出的拓扑优化

    模型(LLM)参数规模向万亿级别跨越,数据中心基础设施的计算密度和能源消耗正经历前所未有的指数级增长。NVIDIA 发布的 GB200 NVL72 机架级超大规模计算平台,标志着数据中心架构从单节点
    的头像 发表于 03-27 11:31 619次阅读
    面向 <b class='flag-5'>GB200</b> NVL72 的液冷 PSU 设计:在极小空间内实现 15kW+ 功率输出的拓扑优化

    英伟Rubin GPU采用钻石铜散热,解决芯片散热难题

    散热难题带来了新的曙光。   随着AI大模型、云计算的迭代提速,芯片算力与功耗同步飙升。英伟新一代Vera Rubin GPU堪称“算力巨兽”,它搭载第三代Transformer引擎
    的头像 发表于 02-05 13:46 5804次阅读
    英伟<b class='flag-5'>达</b>Rubin <b class='flag-5'>GPU</b>采用钻石铜散热,解决<b class='flag-5'>芯片</b>散热难题

    NVIDIA RTX PRO 5000 72GB Blackwell GPU现已全面上市

    NVIDIA RTX PRO 5000 72GB Blackwell GPU 现已全面上市,将基于 NVIDIA Blackwell 架构的强大代理式与生成式 AI 能力带到更多桌面和
    的头像 发表于 12-24 10:32 1232次阅读
    <b class='flag-5'>NVIDIA</b> RTX PRO 5000 72<b class='flag-5'>GB</b> Blackwell <b class='flag-5'>GPU</b>现已全面上市

    锦富技术斩获液冷板订单

    随着AI技术的发展和应用需求激增,市场对GPU性能的要求持续攀升,推动GPU芯片加速迭代升级。当前,GPU产品正从B200向新一代B300演
    的头像 发表于 10-28 17:39 1803次阅读

    氮化硼TIM材料解决AI数据中心的能效困境 | 晟鹏科技

    级别,NVIDIAGB200超级芯片组的峰值功耗甚至超过2700W。这种"热情"背后隐藏着严峻的挑战。据统计,全球数据中心能耗已占全球总用
    的头像 发表于 09-22 07:30 1116次阅读
    氮化硼TIM材料解决AI数据中心的能效困境 | 晟鹏科技

    氮化硼有“凉”方,解决AI数据中心的能效困境 | 晟鹏科技

    级别,NVIDIAGB200超级芯片组的峰值功耗甚至超过2700W。这种"热情"背后隐藏着严峻的挑战。据统计,全球数据中心能耗已占全球总用
    的头像 发表于 08-26 09:42 1487次阅读
    氮化硼有“凉”方,解决AI数据中心的能效困境 | 晟鹏科技

    NVIDIA桌面GPU系列扩展新产品

    NVIDIA 桌面 GPU 系列扩展,推出 NVIDIA RTX PRO 4000 SFF Edition GPU 和 RTX PRO 2000 Blackwell
    的头像 发表于 08-18 11:50 1753次阅读

    NVIDIA Jetson AGX Thor开发者套件概述

    NVIDIA Jetson AGX Thor 开发者套件为您提供出色的性能和可扩展性。它由 NVIDIA Blackwell GPU和128 GB 显存提供动力支持,提供高达 2070
    的头像 发表于 08-11 15:03 2160次阅读

    英伟:我们的芯片不存监控软件 NVIDIA官方发文 NVIDIA芯片不存在后门、终止开关和监控软件

    今天凌晨,英伟通过官微发布长文《NVIDIA 芯片不存在后门、终止开关和监控软件》。以下是全文: NVIDIA GPU 是现代计算的核心,
    的头像 发表于 08-06 12:13 2652次阅读

    GB10超级芯片开卖!正式杀入AI PC

    上,英伟就正式发布了首款个人超级电脑Project DIGITS,其搭载了由英伟与联发科合作开发的NVIDIA GB10 Grace B
    的头像 发表于 07-09 01:21 4460次阅读

    AI服务器电源技术研讨会部分演讲嘉宾确认

    AI服务器电源是2025-2026年AI硬件确定的增量,英伟超级芯片GB200功率到2700W,是传统服务器电源的5-7倍,但其面临的挑战
    的头像 发表于 06-24 10:07 1549次阅读
    AI服务器电源技术研讨会部分演讲嘉宾确认

    【「算力芯片 | 高性能 CPU/GPU/NPU 微架构分析」阅读体验】+NVlink技术从应用到原理

    。。) 原理学习 在「算力芯片 | 高性能 CPU/GPU/NPU 微架构分析」书中,作者详解了从帕斯卡架构到40系的Hopper架构的技术演变进化,按照出版时间算是囊括了NVIDIA
    发表于 06-18 19:31

    总功率超198kW,AI服务器电源对元器件提出了哪些要求?

    芯片GB200功率到2700W,是传统服务器电源的5-7倍,但其面临的挑战同样不小。 超高功率需求与空间限制。 AI服务器(如搭载英伟Blackwell B100/B
    的头像 发表于 06-17 10:36 1613次阅读
    总功率超198kW,AI服务器电源对元器件提出了哪些要求?

    借助NVIDIA技术加速半导体芯片制造

    NVIDIA Blackwell GPUNVIDIA Grace CPU、高速 NVIDIA NVLink 网络架构和交换机,以及诸如
    的头像 发表于 05-27 13:59 1359次阅读