创作

完善资料让更多小伙伴认识你,还能领取20积分哦, 立即完善>

3天内不再提示

NVIDIA发布采用直接芯片冷却技术的数据中心PCIe GPU

t2Qj_NVIDIA_Ent 来源:NVIDIA英伟达企业解决方案 作者:NVIDIA英伟达企业解 2022-05-25 11:20 次阅读

液冷 NVIDIA A100 PCIe GPU 能够满足客户对高性能绿色数据中心的需求,在主流服务器 GPU 中尚属首例。

为了遏制气候变化,全球企业正在加快构建高性能、高能效的数据中心,Equinix 边缘基础设施主管 Zac Smith 也参与其中。

他所效力的 Equinix 是一家全球服务提供商,旗下管理的数据中心超过 240 个,致力于在业内率先实现气候中和。

“一万家客户依赖 Equinix 达成气候中和的目标。他们需要更大量的数据以及更高水平的智能,而这通常有赖于 AI,且他们希望能够以一种具有可持续性的方式来实现。”Smith 说道。2000 年代初还在茱莉亚音乐学院读研的他,为纽约的音乐家同僚们搭建了网站,由此与技术结下不解之缘。

能效稳步提升

截至 4 月,Equinix 已发行 49 亿美元的绿色债券。Equinix 将通过这些投资工具来优化电源使用效率 (PUE),以期减少对环境的影响。PUE 是一种行业指标,用于衡量数据中心使用的能源有多少直接用于计算任务。

数据中心运营商正试图将 PUE 降至接近 1.0 的理想水平。Equinix 设施目前的平均PUE为 1.48,而其旗下新数据中心的 PUE 最低可低于 1.2。

从 PUE 来看, Equinix 正在稳步提升数据中心的能效

Equinix 于 1 月新启动了一个专门用于提升能效的设施,在此方向上更进一步。其中一部分工作侧重于液冷技术。

液冷技术诞生于大型机时代,在 AI 时代日臻成熟。如今,液冷技术已经以直接芯片(Direct-to-Chip)冷却的形式广泛应用于全球高速超级计算机

NVIDIA GPU 在 AI 推理和高性能计算方面的能效已比 CPU 高出 20 倍, 而加速计算也顺理成章地将采用液冷技术。

通过加速提高效率

如果将全球所有运行 AI 和 HPC 的 CPU 服务器切换为 GPU 加速系统,每年可节省高达 11 万亿瓦时的能源。节约的能源量可供 150 多万套房屋使用一年。

今日,NVIDIA 发布了率先采用直接芯片(Direct-to-Chip)冷却技术的数据中心 PCIe GPU,为可持续发展贡献了自己的力量。

Equinix 正在验证 A100 80GB PCIe 液冷 GPU 在其数据中心的应用,这也是该公司为实现可持续性冷却和热量捕获的综合性方案中的一部分。GPU 现已进入试用阶段,预计将于今年夏季正式发布。

节约用水和用电

“这是我们实验室中引入的首款液冷 GPU,我们倍感兴奋,因为客户迫切希望通过可持续的方式来利用 AI,” Smith 说道。

数据中心运营商旨在淘汰用于冷却数据中心内部气体的冷水机组,因其每年会蒸发数百万加仑的水量。而借助液冷技术,系统仅需对封闭系统中的少量液体进行循环利用,并能够着重于主要的发热点。

Smith说:“我们将变废为宝。”

同等性能,更少耗电

在单独的测试中,Equinix 和 NVIDIA 均发现:采用液冷技术的数据中心工作负载可与风冷设施持平,同时消耗的能源减少了约 30%。NVIDIA 估计,液冷数据中心的 PUE 可能达到 1.15,远低于风冷的 PUE 1.6。

在空间相同的条件下,液冷数据中心可以实现双倍的计算量。这是由于 A100 GPU 仅使用一个 PCIe 插槽,而风冷 A100 GPU 需使用两个 PCIe 插槽。

NVIDIA 借助液冷技术达到了节省电力和增加密度的效果

至少有十几家系统制造商计划于今年晚些时候在其产品中使用液冷 GPU,包括华硕(ASUS)、永擎电子(ASRock Rack)、富士康工业互联网(Foxconn Industrial Internet)、技嘉科技(GIGABYTE)、新华三(H3C)、浪潮(Inspur)、英业达(Inventec)、宁畅(Nettrix)、云达科技(QCT)、 超微(Supermicro)、 纬颖科技(Wiwynn)和超聚变(xFusion)。

全球趋势

在亚洲、欧洲和美国,制定能效标准的法规尚未确定。这也推动了银行和其他大型数据中心运营商纷纷加入液冷技术评估的队伍。

液冷技术的使用范围并不局限于数据中心,汽车和其他系统也需要利用该项技术来冷却封闭空间内的高性能系统。

可持续发展之路

“我们即将开启新的旅程,” Smith 谈及这一采用液冷技术的主流加速器首次亮相时如是说。

事实上, NVIDIA 计划于明年推出的一版 A100 PCIe 卡中搭载基于 NVIDIA Hopper 架构的 H100 Tensor Core GPU。近期内,NVIDIA 计划将液冷技术应用于自有高性能数据中心 GPU 和 NVIDIA HGX 平台。

为推动快速采用,今日发布的液冷 GPU 可在减少能耗的同时维持性能不变。未来,我们期望这些卡在使用同等能源的条件下,展现更出色的性能,满足用户所需。

“仅仅测量功率没有意义,降低碳排放的同时提升性能才是我们努力的方向,” Smith 说道。

原文标题:NVIDIA 推出液冷 GPU,助力实现可持续、高效计算

文章出处:【微信公众号:NVIDIA英伟达企业解决方案】欢迎添加关注!文章转载请注明出处。

审核编辑:汤梓红

  • NVIDIA
    +关注

    关注

    14

    文章

    2589

    浏览量

    94904
  • gpu
    gpu
    +关注

    关注

    27

    文章

    2759

    浏览量

    114984
  • 数据中心
    +关注

    关注

    9

    文章

    2536

    浏览量

    63201
收藏 人收藏

    评论

    相关推荐

    Think Silicon和RISC-V GPU即将爆发

    无论是业界动态还是RISC-V国际组织相关人员的公开发言,RISC-V都是一款全方位挑战ARM架构的....
    的头像 电子发烧友网 发表于 07-05 10:30 24次 阅读

    算力由性能、规模和利用率三部分组成

    有的算力芯片,可能可以做到性能狂飙,但较少考虑芯片的通用性易用性,然后芯片销量不高落地规模小,那就无....
    的头像 Imagination Tech 发表于 07-05 10:18 9次 阅读

    NVIDIA Merlin GPU推荐系统加速大模型训练和推理

    暌违两年,NVIDIA Merlin 推荐系统公开课将于 7 月 5 日全面上新。本次公开课将由 N....
    的头像 NVIDIA英伟达 发表于 07-05 09:02 83次 阅读

    火山引擎机器学习平台与NVIDIA加深合作

    随着 AI 在医疗健康和生命科学领域应用的不断增加,GPU 算力的需求迅猛增长。火山引擎机器学习平台....
    的头像 NVIDIA英伟达 发表于 07-05 08:59 115次 阅读

    RISC-V GPU离产业爆发仅一步之遥?

    电子发烧友网报道(文/吴子鹏)近日,在德国纽伦堡举行的 Embedded World 2022 大会....
    的头像 Felix分析 发表于 07-05 07:06 228次 阅读
    RISC-V GPU离产业爆发仅一步之遥?

    霍尔电流传感器助力数据中心节能降耗

    摘要:数据中心供电电源质量的好坏直接影响到IT设备的安全运行,因此对数据中心直流列头柜电源进出线实行....
    的头像 panqin888 发表于 07-04 12:30 44次 阅读
    霍尔电流传感器助力数据中心节能降耗

    芯动科技风华系列GPU与中望CAD Linux版软件完成兼容性认证

    近日,芯动科技自主研发的风华系列GPU与中望CAD Linux版软件完成兼容性认证,综合性能优越,共....
    的头像 芯动科技Innosilicon 发表于 07-04 10:02 62次 阅读

    NVIDIA提供用于AI训练的合成数据生成工具

    提供合成数据生成工具和服务的企业以及开发者现在可以使用 Omniverse Replicator S....
    的头像 NVIDIA英伟达企业解决方案 发表于 07-03 10:06 111次 阅读

    NVIDIA研究人员创建可以疏通计算机网络拥堵的AI模型

    NVIDIA 研究人员创建了可以疏通计算机网络拥堵的 AI 模型,该模型很快就会出现在大众附近的数据....
    的头像 NVIDIA英伟达 发表于 07-03 10:04 110次 阅读

    利用AI技术加强视频内容创作和传播

    芬兰的 MTV Oy 采用由 NVIDIA 技术驱动的 Valossa AI 解决方案自动分析视频内....
    的头像 NVIDIA英伟达 发表于 07-03 09:59 157次 阅读

    西门子和NVIDIA共同推动数字孪生的发展

    西门子首席执行官 Roland Busch 和 NVIDIA 创始人兼首席执行官黄仁勋在慕尼黑举行的....
    的头像 NVIDIA英伟达 发表于 07-03 09:55 195次 阅读

    英特尔IPU路线图加速数据中心发展

    在去年的 “ 2021 英特尔架构日”上,英特尔推出了一个旨在加速数据中心网络基础设施的新品类——基....
    的头像 英特尔FPGA 发表于 07-01 17:18 260次 阅读

    华为ADN多云多DC管理能力助力东风数字化转型升级

    2021年东风汽车集团联合华为启动了云数据中心建设项目,采用华为数据中心自动驾驶网络Autonomo....
    的头像 华为数据通信 发表于 07-01 11:40 825次 阅读

    NETWORKX Python编程语言软件包概述及用途

    NetworkX 是一个 Python 编程语言软件包,可用于创建、操作和学习复杂图形网络的结构、动....
    的头像 NVIDIA英伟达 发表于 07-01 11:30 197次 阅读

    NVIDIA NGC目录中的GPU优化容器

    借助 NVIDIA NGC 目录中的 GPU 优化容器,更快地开发和部署应用。
    的头像 NVIDIA英伟达企业解决方案 发表于 07-01 11:21 173次 阅读

    NVIDIA Isaac Sim 2022.1版本的亮点及功能

    NVIDIA 宣布推出2022.1 版 NVIDIA Isaac Sim。作为一种机器人仿真和合成数....
    的头像 NVIDIA英伟达企业解决方案 发表于 07-01 11:19 194次 阅读

    NVIDIA AI平台在MLPerf基准测试实现飞跃

    NVIDIA AI 仍是唯一能够运行 MLPerf 行业基准测试中所有测试的平台, A100 GPU....
    的头像 NVIDIA英伟达企业解决方案 发表于 07-01 10:52 156次 阅读

    MIT的SpAtten架构将注意力机制用于高级NLP

      通用的 AI 加速器、GPU、TPU 和 NPU 即使支持高计算能力也无法实现这些技术,因为这些....
    的头像 星星科技指导员 发表于 07-01 10:43 151次 阅读

    模型有助于实现最大的运营效率

      为了推动行动或结果,非结构化数据通过 DeepStream 等处理模型运行,从而产生结构化数据。....
    的头像 星星科技指导员 发表于 07-01 10:29 180次 阅读

    NVIDIA Omniverse和西门子Xcelerator平台来实现全保真数字孪生

    西门子 Process Simulate(左)与 NVIDIA Omniverse(右)相连接,实现....
    的头像 NVIDIA英伟达企业解决方案 发表于 07-01 10:28 143次 阅读

    EMS-IDC数据中心综合能效管理解决方案

    【摘要】分析了数据中心行业背景和用户需求,介绍了安科瑞数据中心综合能效管理系统的解决方案、平台功能及....
    的头像 jsacrelhfr 发表于 07-01 09:56 44次 阅读
    EMS-IDC数据中心综合能效管理解决方案

    使用TensorBoard进行机器学习模型分析

      总体而言,TensorBoard 是帮助开发和培训过程的绝佳工具。Scalar and Metr....
    的头像 星星科技指导员 发表于 07-01 09:44 94次 阅读
    使用TensorBoard进行机器学习模型分析

    《工业能效提升行动计划》背后的“减碳”路线图

    “减碳”,中国是认真的——请大家把开头这句话“刻烟吸肺”、牢记在心,因为这将决定未来三年、十年甚至更....
    的头像 脑极体 发表于 07-01 09:05 873次 阅读

    新一代旗舰!Arm Cortex-X3 + Immortalis GPU发布,Arm全面计算赋能视觉体验

    电子发烧友网报道(文/黄晶晶)去年初,被称为Arm公司十年来最大技术革新的Armv9架构发布,基于此....
    发表于 06-30 20:32 554次 阅读
    新一代旗舰!Arm Cortex-X3 + Immortalis GPU发布,Arm全面计算赋能视觉体验

    Arm推出全新旗舰级GPU产品Arm Immortalis™

    Arm® 今日宣布推出 2022 全面计算解决方案 (TCS22),可提供不同级别的性能、效率和可扩....
    的头像 科技绿洲 发表于 06-30 17:37 303次 阅读

    2022年中国DPU行业白皮书 DPU将成为CPU、GPU后的第三块主力芯片

    本报告旨在分析 DPU 发展现状、产品特点、技术动向及发展趋势,并识别中国芯片厂商与海外芯片厂商的差....
    的头像 拍明芯城 发表于 06-30 16:05 1567次 阅读
    2022年中国DPU行业白皮书 DPU将成为CPU、GPU后的第三块主力芯片

    曙光携手佛山市政务服务数据管理局参与政务云平台建设

    近年来,佛山政务服务改革一直走在全国前列,参照《广东“数字政府”改革建设方案》的总体要求,统筹推动电....
    的头像 科技绿洲 发表于 06-30 14:57 255次 阅读

    NVIDIA Morpheus应用框架可实时发现和阻止复杂攻击

    如今,网络安全格局随着威胁与攻击方法的不断变化而变化,使商业世界处于高度戒备状态。通过不断改变攻击技....
    的头像 科技绿洲 发表于 06-30 14:38 271次 阅读
    NVIDIA Morpheus应用框架可实时发现和阻止复杂攻击

    华为储能解决方案助力拉美建设低碳智能社会

    在LATAM ICT Congress 2022期间,华为拉美数字能源总裁王新党于分论坛 “Low-....
    的头像 科技绿洲 发表于 06-30 14:29 745次 阅读

    存储双活的基本架构及原理

    采用存储磁盘设备的卷镜像技术实现两站点间的数据实时同步。两台存储设备上的LUN被虚拟化为一个虚拟的卷....
    发表于 06-30 11:52 308次 阅读
    存储双活的基本架构及原理

    NVIDIA DeepStream SDK是什么 有哪些特性

    快速开发和部署视觉 AI 应用和服务。DeepStream 提供多平台、可扩展、TLS 加密的安全性....
    的头像 NVIDIA英伟达企业解决方案 发表于 06-30 10:55 188次 阅读

    NVIDIA和三维家助力提升家居行业生产效率

    家居行业的可视化需求越来越高,从物理工作站的 GPU 算力、渲染能力,到 AI 辅助设计功能,再到可....
    的头像 NVIDIA英伟达企业解决方案 发表于 06-30 10:42 124次 阅读

    NVIDIA助力理想汽车发布第二款电动汽车L9

    这款电动汽车通过高性能传感器和 AI 计算为每位乘员提供直观的智能化体验。
    的头像 NVIDIA英伟达企业解决方案 发表于 06-30 10:38 195次 阅读

    NVIDIA BlueField-2 DPU上的ARIA零信任安全网关

    如今,网络安全格局随着威胁与攻击方法的不断变化而变化,使商业世界处于高度戒备状态。通过不断改变攻击技....
    的头像 NVIDIA英伟达企业解决方案 发表于 06-30 10:32 153次 阅读

    美光科技推出最先进的数据中心SATA SSD产品

    内存和存储解决方案领先供应商 Micron Technology, Inc.(美光科技股份有限公司,....
    的头像 Micron美光科技 发表于 06-30 10:24 271次 阅读

    新华三IT服务能力助力数据中心实现升级再造

    面对分布式云的普及和推进,新华三集团不止能帮助企业做好数据中心初期的规划、设计和部署,建设出满足自身....
    的头像 科技绿洲 发表于 06-30 10:22 241次 阅读

    Arm 全面计算解决方案重新定义视觉体验 强力赋能移动游戏

    Arm® 今日宣布推出 2022 全面计算解决方案 (TCS22),可提供不同级别的性能、效率和可扩....
    发表于 06-29 14:37 407次 阅读
    Arm 全面计算解决方案重新定义视觉体验 强力赋能移动游戏

    可应用于网络体系结构以优化网络的技术

    通过以下两种方式更新关键网络架构,可以优化数据中心,它们分别是:更新网络技术或提升 NetDevOp....
    的头像 科技绿洲 发表于 06-29 14:28 288次 阅读

    NVIDIA为Orin开发套件提供更加轻松的系统安装方式

    NVIDIA 为 Orin 开发套件提供更加轻松的系统安装方式。
    的头像 NVIDIA英伟达企业解决方案 发表于 06-29 10:55 124次 阅读

    改进数据中心的五个新方法

    通过以下两种方式更新关键网络架构,可以优化数据中心,它们分别是:更新网络技术或提升 NetDevOp....
    的头像 NVIDIA英伟达企业解决方案 发表于 06-29 10:42 87次 阅读

    物联网对数据中心基础设施构成严峻挑战

      这里的关键点是物联网设备需要正确的数据中心基础设施才能按预期工作。海量数据和不断下降的可接受延迟....
    发表于 06-29 10:16 91次 阅读

    摩尔线程MTT S10产品与同方超翔TF830系列完成兼容性互认证

    继摩尔线程与同方计算机有限公司(简称:同方计算机或同方)达成战略合作关系后,双方合作又有新进展。近日....
    的头像 科技绿洲 发表于 06-29 10:01 131次 阅读

    基于NVIDIA Triton的AI模型高效部署实践

    NVIDIA Triton 推理服务器(以前称为 TensorRT 推理服务器)是一款开源软件,可简....
    的头像 NVIDIA英伟达企业解决方案 发表于 06-28 15:49 144次 阅读

    香橙派RK3399开发板OrangePi4 LTS在linux上的GPU测试说明

    1、Linux4.4 和 Linux5.10 Debian 系统 GPU 的测试说明 注意,Linux4.4 Debian10 和 Linux5.10 Debian11 系统使用的...
    发表于 06-22 20:17 1505次 阅读
    香橙派RK3399开发板OrangePi4 LTS在linux上的GPU测试说明

    请问在RK3399pro中间计算时能否调用GPU的一些现成数据库或函数来计算

    我在用RK3399pro的NPU做深度学习计算,使用了两个rknn模型进行推理,但是在这两个rknn模型之间需要进行一些中间计算(从第一...
    发表于 05-09 15:26 3596次 阅读

    tf代码为什么在rk3399上训练比没有gpu的电脑慢很多

    把tf代码从电脑上放到rk3399上运行训练,比电脑慢的很多很多,板子不是带有npu吗?是不是代码需要改动什么啊? ...
    发表于 04-22 16:23 8600次 阅读

    简单介绍下Arm Mali的GPU系列

    对于手机终端来说,GPU图像处理能力是衡量一台手机的性能标杆。首先,是UI流畅性,大家拿到手机都得先划来划去看下UI是否...
    发表于 04-12 11:01 4733次 阅读

    充分利用Arm NN进行GPU推理

    Arm拥有跨所有处理器的计算IP。而且,无论您要在GPU,CPU还是NPU上进行ML推理,都可以在一个通用框架下使用它们:...
    发表于 04-11 17:33 4145次 阅读

    介绍android下的OpenCL开发步骤

    1、介绍android下OpenCL开发 Firefly rk3288采用Mali-T764的GPU,该GPU支持OpeCL 1.1。下面一步一步介绍android...
    发表于 04-11 14:35 2519次 阅读

    AIO-3288C常用命令资料合集

    1、CPU,DDR,GPU频率测量 当我们拿到 AIO-3288C 的机器时候,想看一下机器当前 CPU,DDR,GPU 跑的是什...
    发表于 04-07 18:00 3730次 阅读

    英伟达DPU的过“芯”之处

    最近几年,经常关注科技圈的朋友们总会发现,每次遇到厂商有重大发布,就总能看到“颠覆”、“极致”、“革命性”等概念出现在发...
    发表于 03-29 14:42 2838次 阅读

    Intel即将推出的GPU将与Arm兼容

    英特尔正在使其GPU多样化,以与x86以外架构的处理器兼容,这可能是使其从芯片制造商成为以代工为首要业务的公司的一步。 英特...
    发表于 03-29 14:41 2665次 阅读

    Arm Neoverse NVIDIA Grace CPU 超级芯片:为人工智能的未来设定步伐

    人工智能 (AI) 将改变世界。但要实现其潜力,我们将不得不改变设计计算系统的方式。 诸如在云中训练神经网络或在边缘实时执...
    发表于 03-29 14:40 2880次 阅读