液冷 NVIDIA A100 PCIe GPU 能够满足客户对高性能绿色数据中心的需求,在主流服务器 GPU 中尚属首例。
为了遏制气候变化,全球企业正在加快构建高性能、高能效的数据中心,Equinix 边缘基础设施主管 Zac Smith 也参与其中。
他所效力的 Equinix 是一家全球服务提供商,旗下管理的数据中心超过 240 个,致力于在业内率先实现气候中和。
“一万家客户依赖 Equinix 达成气候中和的目标。他们需要更大量的数据以及更高水平的智能,而这通常有赖于 AI,且他们希望能够以一种具有可持续性的方式来实现。”Smith 说道。2000 年代初还在茱莉亚音乐学院读研的他,为纽约的音乐家同僚们搭建了网站,由此与技术结下不解之缘。
能效稳步提升
截至 4 月,Equinix 已发行 49 亿美元的绿色债券。Equinix 将通过这些投资工具来优化电源使用效率 (PUE),以期减少对环境的影响。PUE 是一种行业指标,用于衡量数据中心使用的能源有多少直接用于计算任务。
数据中心运营商正试图将 PUE 降至接近 1.0 的理想水平。Equinix 设施目前的平均PUE为 1.48,而其旗下新数据中心的 PUE 最低可低于 1.2。
从 PUE 来看, Equinix 正在稳步提升数据中心的能效
Equinix 于 1 月新启动了一个专门用于提升能效的设施,在此方向上更进一步。其中一部分工作侧重于液冷技术。
液冷技术诞生于大型机时代,在 AI 时代日臻成熟。如今,液冷技术已经以直接芯片(Direct-to-Chip)冷却的形式广泛应用于全球高速超级计算机。
NVIDIA GPU 在 AI 推理和高性能计算方面的能效已比 CPU 高出 20 倍, 而加速计算也顺理成章地将采用液冷技术。
通过加速提高效率
如果将全球所有运行 AI 和 HPC 的 CPU 服务器切换为 GPU 加速系统,每年可节省高达 11 万亿瓦时的能源。节约的能源量可供 150 多万套房屋使用一年。
今日,NVIDIA 发布了率先采用直接芯片(Direct-to-Chip)冷却技术的数据中心 PCIe GPU,为可持续发展贡献了自己的力量。
Equinix 正在验证 A100 80GB PCIe 液冷 GPU 在其数据中心的应用,这也是该公司为实现可持续性冷却和热量捕获的综合性方案中的一部分。GPU 现已进入试用阶段,预计将于今年夏季正式发布。
节约用水和用电
“这是我们实验室中引入的首款液冷 GPU,我们倍感兴奋,因为客户迫切希望通过可持续的方式来利用 AI,” Smith 说道。
数据中心运营商旨在淘汰用于冷却数据中心内部气体的冷水机组,因其每年会蒸发数百万加仑的水量。而借助液冷技术,系统仅需对封闭系统中的少量液体进行循环利用,并能够着重于主要的发热点。
Smith说:“我们将变废为宝。”
同等性能,更少耗电
在单独的测试中,Equinix 和 NVIDIA 均发现:采用液冷技术的数据中心工作负载可与风冷设施持平,同时消耗的能源减少了约 30%。NVIDIA 估计,液冷数据中心的 PUE 可能达到 1.15,远低于风冷的 PUE 1.6。
在空间相同的条件下,液冷数据中心可以实现双倍的计算量。这是由于 A100 GPU 仅使用一个 PCIe 插槽,而风冷 A100 GPU 需使用两个 PCIe 插槽。
NVIDIA 借助液冷技术达到了节省电力和增加密度的效果
至少有十几家系统制造商计划于今年晚些时候在其产品中使用液冷 GPU,包括华硕(ASUS)、永擎电子(ASRock Rack)、富士康工业互联网(Foxconn Industrial Internet)、技嘉科技(GIGABYTE)、新华三(H3C)、浪潮(Inspur)、英业达(Inventec)、宁畅(Nettrix)、云达科技(QCT)、 超微(Supermicro)、 纬颖科技(Wiwynn)和超聚变(xFusion)。
全球趋势
在亚洲、欧洲和美国,制定能效标准的法规尚未确定。这也推动了银行和其他大型数据中心运营商纷纷加入液冷技术评估的队伍。
液冷技术的使用范围并不局限于数据中心,汽车和其他系统也需要利用该项技术来冷却封闭空间内的高性能系统。
可持续发展之路
“我们即将开启新的旅程,” Smith 谈及这一采用液冷技术的主流加速器首次亮相时如是说。
事实上, NVIDIA 计划于明年推出的一版 A100 PCIe 卡中搭载基于 NVIDIA Hopper 架构的 H100 Tensor Core GPU。近期内,NVIDIA 计划将液冷技术应用于自有高性能数据中心 GPU 和 NVIDIA HGX 平台。
为推动快速采用,今日发布的液冷 GPU 可在减少能耗的同时维持性能不变。未来,我们期望这些卡在使用同等能源的条件下,展现更出色的性能,满足用户所需。
“仅仅测量功率没有意义,降低碳排放的同时提升性能才是我们努力的方向,” Smith 说道。
原文标题:NVIDIA 推出液冷 GPU,助力实现可持续、高效计算
文章出处:【微信公众号:NVIDIA英伟达企业解决方案】欢迎添加关注!文章转载请注明出处。
审核编辑:汤梓红
-
NVIDIA +关注
关注
14文章
2589浏览量
94904 -
gpu +关注
关注
27文章
2759浏览量
114984 -
数据中心 +关注
关注
9文章
2536浏览量
63201
发布评论请先 登录
相关推荐
Think Silicon和RISC-V GPU即将爆发
算力由性能、规模和利用率三部分组成
NVIDIA Merlin GPU推荐系统加速大模型训练和推理
火山引擎机器学习平台与NVIDIA加深合作
芯动科技风华系列GPU与中望CAD Linux版软件完成兼容性认证
NVIDIA提供用于AI训练的合成数据生成工具
NVIDIA研究人员创建可以疏通计算机网络拥堵的AI模型
利用AI技术加强视频内容创作和传播
西门子和NVIDIA共同推动数字孪生的发展
英特尔IPU路线图加速数据中心发展
华为ADN多云多DC管理能力助力东风数字化转型升级
NETWORKX Python编程语言软件包概述及用途
NVIDIA NGC目录中的GPU优化容器
NVIDIA Isaac Sim 2022.1版本的亮点及功能
NVIDIA AI平台在MLPerf基准测试实现飞跃
MIT的SpAtten架构将注意力机制用于高级NLP
模型有助于实现最大的运营效率
NVIDIA Omniverse和西门子Xcelerator平台来实现全保真数字孪生
《工业能效提升行动计划》背后的“减碳”路线图
新一代旗舰!Arm Cortex-X3 + Immortalis GPU发布,Arm全面计算赋能视觉体验

Arm推出全新旗舰级GPU产品Arm Immortalis™
曙光携手佛山市政务服务数据管理局参与政务云平台建设
华为储能解决方案助力拉美建设低碳智能社会
NVIDIA DeepStream SDK是什么 有哪些特性
NVIDIA和三维家助力提升家居行业生产效率
NVIDIA助力理想汽车发布第二款电动汽车L9
NVIDIA BlueField-2 DPU上的ARIA零信任安全网关
美光科技推出最先进的数据中心SATA SSD产品
新华三IT服务能力助力数据中心实现升级再造
Arm 全面计算解决方案重新定义视觉体验 强力赋能移动游戏

可应用于网络体系结构以优化网络的技术
NVIDIA为Orin开发套件提供更加轻松的系统安装方式
改进数据中心的五个新方法
摩尔线程MTT S10产品与同方超翔TF830系列完成兼容性互认证
基于NVIDIA Triton的AI模型高效部署实践
香橙派RK3399开发板OrangePi4 LTS在linux上的GPU测试说明

评论