0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

GTC23 | 节能提速:NVIDIA Grace CPU 为每个数据中心铺设节能计算快车道

NVIDIA英伟达企业解决方案 来源:未知 2023-03-25 09:10 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

主流应用在运行微服务、分析、模拟等工作时的能耗相比 X86 减少了 2 倍。

各项结果都表明,一个节能计算的新时代正在到来。

在真实工作负载测试中,NVIDIA Grace CPU 超级芯片在相同的功率范围内运行主流数据中心 CPU 应用的性能比 X86 处理器提高了 2 倍,这将带来许多新的可能性。

这意味着数据中心可以处理两倍的峰值流量并减少多达一半的电费。它们还可以在空间有限的网络边缘实现更大的性能,甚至可以同时实现上述优势。

节能已成为数据中心的优先事项

数据中心经理需要依靠这些方案在当今这个节能时代中快速发展。

摩尔定律实际上已经过时。物理学不再允许工程师在保持空间和功耗不变的情况下加入更多的晶体管

这就是为什么新一代 X86 CPU 的性能提升相比前一代产品还不到 30%”,这也是为什么越来越多的数据中心设置了功率上限。

再加上全球气候变暖的威胁,数据中心电力供应已经没有增容的余地,但它们仍然需要满足不断增长的算力需求。

在保持功耗不变的情况下提高性能

麦肯锡的一项研究显示,美国的计算需求每年增长 10%,并将在 2022 至 2030 年的八年内翻倍。

麦肯锡表示:“因此,确保数据中心可持续性的压力很大,一些监管机构和政府正在对新建的数据中心推行可持续性标准。”

根据麦肯锡所引用的一项调查,随着摩尔定律的终结,数据中心在计算效率上的进展已停滞不前(见下图)。

57c06b50-caa9-11ed-bfe3-dac502259ad0.jpg

在当今的环境下,NVIDIA Grace 所实现的 2 倍提升等于实现了惊人的多代飞跃,符合当今数据中心高管的需求。

全球服务商 Equinix 管理着 240 多座数据中心。该公司的边缘基础设施负责人 Zac Smith 在一篇关于节能计算的文章中描述了这些需求。

“我们需要在减少碳排放的前提下提高性能。”Zac 表示:“我们有 1 万家客户指望我们在这个过程中提供帮助。他们需要更多的数据和更高的智能化水平,而且往往要求使用 AI。另外,他们希望以可持续的方式来实现这一目标。”

三项 CPU 创新

得益于三项创新,Grace CPU 提供了高效性能。

它在一块对分带宽(一项吞吐量指标)为 3.2 TB/s 的裸芯片中使用一种超快的结构将 72 个 Arm Neoverse V2 核心连接在一起,然后使用 NVIDIA NVLink-C2C 互连技术在一个超级芯片封装中连接其中的两块裸片,实现 900GB/s 的带宽。

最后,它是第一个使用服务器级 LPDDR5X 内存的数据中心 CPU。这帮助它在成本相仿的情况下增加了高达 50%的内存带宽,且功耗只有常规服务器内存的八分之一。紧凑的尺寸使其密度比典型的卡式内存设计增加了 2 倍。

57ca2af0-caa9-11ed-bfe3-dac502259ad0.jpg

与现有的 x86 CPU 相比,NVIDIA Grace 的设计更加简单,提供更高的带宽,而且能耗更低。

首批结果揭晓

现今,NVIDIA 工程师在 Grace 上运行了真实的数据中心工作负载。

他们发现,在相同的功率下,相比数据中心现有的 x86 CPU,Grace 更具优势:

  • 运行微服务的速度快 2.3 倍

  • 内存密集型数据处理性能快 2 倍

  • 在多个技术计算应用上运行流体力学计算工作时,速度快 1.9 倍

如下图所示,数据中心通常需要等到两代或两代以上的 CPU 才能获得以上优势。

57f6b6ce-caa9-11ed-bfe3-dac502259ad0.jpg

净提升(浅绿色)来自于服务器间的性能提升(深绿色)以及附加的 Grace 服务器。凭借节能性,Grace 服务器适用于这一 x86 功率范围(中间条)。

甚至在这些 CPU 工作结果出炉之前,用户就对 Grace 的创新做出了反应。

美国洛斯阿拉莫斯国家实验室在 5 月宣布将在 Venado 中使用 Grace。这台 10 EXAFLOP AI 超级计算机将推动该实验室在材料科学和可再生能源等领域的工作。同时,欧洲和亚洲的数据中心正在评估 Grace 的工作负载。

NVIDIA Grace 目前正在提供样品,将在下半年投入生产。华硕、Atos、技嘉、慧与、高通、超微、纬创和 ZT Systems 正在建造使用该产品的服务器。

深入了解可持续计算

想要深入了解细节,扫描二维码阅读关于 Grace 架构的白皮书

581b8044-caa9-11ed-bfe3-dac502259ad0.png    58310234-caa9-11ed-bfe3-dac502259ad0.gif  

3 月 24 日 下午 14:00-16:00,继续锁定 GTC23,加入在线观看(Watch Party) 派对,从黄仁勋与 OpenAI 创始人兼首席科学家高能对话中,看 AI 的现状和未来!

Watch Party 观看指南

会议开始前 15 分钟,

点击下方出现的“JOIN WATCH PARTY NOW"

进入 Teams 会议室观看

584cc4ba-caa9-11ed-bfe3-dac502259ad0.png

3 月 24 日 热门观看派对推荐: 【炉边谈话:看 AI 的现状和未来】 会议时间:14:00 - 16:00 会议代码:【WP52092】点击下方链接解会议详情 GTC23 | 黄仁勋与 Ilya Sutskever 的炉边谈话重磅来袭!— 看 AI 的现状和未来 【通过 AI 职业生涯改变世界】 会议时间:19:30 - 21:30 会议代码:【WP52162】 点击下方链接了解会议详情 : GTC23 | 科学计算精选论坛中文解读诚邀您的到来!


原文标题:GTC23 | 节能提速:NVIDIA Grace CPU 为每个数据中心铺设节能计算快车道

文章出处:【微信公众号:NVIDIA英伟达企业解决方案】欢迎添加关注!文章转载请注明出处。


声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 英伟达
    +关注

    关注

    23

    文章

    4040

    浏览量

    97665

原文标题:GTC23 | 节能提速:NVIDIA Grace CPU 为每个数据中心铺设节能计算快车道

文章出处:【微信号:NVIDIA-Enterprise,微信公众号:NVIDIA英伟达企业解决方案】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    出海贸易快车道:50+国际采购团坐镇CES Asia2026 助企业足不出户链全球

    出海贸易快车道:50+国际采购团坐镇CES Asia2026 助企业足不出户链全球
    的头像 发表于 11-26 11:17 90次阅读

    施耐德电气SmartCool助力金融行业数据中心节能降耗

    绿色数据中心的极致节能不是在和电费较劲,而是在回答一道时代命题。
    的头像 发表于 09-25 16:08 502次阅读

    技术资讯 I 数据中心能否承受高温运行?

    通常,当我们讨论面向数据中心的数字孪生软件时,会重点介绍工程师如何运用基于物理原理的仿真技术,通过我们的数据中心软件建立复杂热力学模型,IT设备寻找高效的冷却方案。但从提高效能和节约成本的角度出发
    的头像 发表于 09-19 15:55 341次阅读
    技术资讯 I <b class='flag-5'>数据中心</b>能否承受高温运行?

    中型数据中心应用平台与差分晶体振荡器参数对照中型数据中心应用平台与差分晶体振荡器参数对照

    中型数据中心对高频、低抖动、宽温与多电压晶振的需求日益提升,FCO系列差分晶体振荡器凭借丰富封装、输出逻辑选择与优异相位抖动性能,网络、存储、服务器与边缘系统提供稳定的时钟解决方案。FCO-2L 到 FCO-7L 系列,已成为新一代
    发表于 07-10 14:11

    Kao Data与Cadence合作验证数据中心间接蒸发冷却设计

    Kao Data 计划在占地 36 英亩的园区内建立四个数据中心,目前已完成其中一个,即 KDL1 数据中心,这是英国第一个 100% 自由冷却的大规模主机托管设施。该数据中心园区旨在支持高性能
    的头像 发表于 06-11 10:43 819次阅读

    磁悬浮冷站引领绿色革命,维谛技术(Vertiv)助力中国电信江西云计算数据中心制冷系统实现PUE1.2

    在这个数据王”的时代,数据中心正经历着“冰与火之歌”——海量数据狂欢的背后,数据中心面临着巨大的能耗挑战。尤其是制冷系统,其能耗占据了
    的头像 发表于 05-22 14:18 731次阅读
    磁悬浮冷站引领绿色革命,维谛技术(Vertiv)助力中国电信江西云<b class='flag-5'>计算数据中心</b>制冷系统实现PUE1.2

    NVIDIA Grace CPU C1获得广泛支持

    NVIDIA 在本周 COMPUTEX 上重点展示了其全新的 Grace CPU C1,并获得多家主要原始设计制造商合作伙伴的大力支持。
    的头像 发表于 05-22 10:01 610次阅读

    利用NVIDIA技术构建从数据中心到边缘的智慧医院解决方案

    全球领先的电子制造商正在利用 NVIDIA 技术,构建从数据中心到边缘的智慧医院解决方案。
    的头像 发表于 05-22 09:50 732次阅读

    数据中心液冷技术和风冷技术的比较

    近年来,随着数字经济的蓬勃发展,数据中心建设规模不断扩大,导致机房单位面积功耗居高不下,对数据中心散热制冷技术提出了更高的要求。同时,根据国家对数据中心节能要求,全国范围内新建
    的头像 发表于 05-09 09:41 2785次阅读
    <b class='flag-5'>数据中心</b>液冷技术和风冷技术的比较

    适用于数据中心和AI时代的800G网络

    数据中心依赖数千甚至上万个GPU集群进行高性能计算,对带宽、延迟和数据交换效率提出极高要求。 AI云:以生成式AI核心的云平台,
    发表于 03-25 17:35

    优化800G数据中心:高速线缆、有源光缆和光纤跳线解决方案

    广泛应用于网卡、交换机、服务器、超级计算机、云计算数据中心的短距离互连。 800G高速线缆 随着大规模和超大规模数据中心的兴起,服务器机架的功耗显著增加,垂直布线距离减少。
    发表于 03-24 14:20

    Cadence颠覆AI数据中心设计

    日前举办的英伟达 GTC 2025 开发者大会汇聚了众多行业精英,共同探讨人工智能的未来。而人工智能正在重塑全球数据中心的格局。据预测,未来将有 1 万亿美元用于 AI 驱动的数据中心升级。然而
    的头像 发表于 03-21 15:43 863次阅读

    NVIDIA GTC2025 亮点 NVIDIA推出 DGX Spark个人AI计算

    台式超级计算机由 NVIDIA Grace Blackwell 驱动,开发者、研究人员和数据科学家提供加速 AI 功能;系统由头部
    的头像 发表于 03-20 18:59 1271次阅读
    <b class='flag-5'>NVIDIA</b> <b class='flag-5'>GTC</b>2025 亮点  <b class='flag-5'>NVIDIA</b>推出 DGX Spark个人AI<b class='flag-5'>计算</b>机

    NVIDIA 宣布推出 DGX Spark 个人 AI 计算

    台式超级计算机由 NVIDIA Grace Blackwell 驱动,开发者、研究人员和数据科学家提供加速 AI 功能;系统由头部
    发表于 03-19 09:59 504次阅读
       <b class='flag-5'>NVIDIA</b> 宣布推出 DGX Spark 个人 AI <b class='flag-5'>计算</b>机

    安科瑞数据中心产品:创新科技助力智能化管理

    摘要 本文详细介绍了安科瑞数据中心产品的特点、优势及其在智能化管理中的应用。安科瑞作为行业领先的科技公司,其数据中心产品凭借高效能、高可靠性、智能化管理和绿色节能等优势,广泛应用于金融、医疗、教育
    的头像 发表于 02-20 14:31 932次阅读
    安科瑞<b class='flag-5'>数据中心</b>产品:创新科技助力智能化管理