0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

IPU和CXL如何提高数据中心的电源效率?

半导体产业纵横 来源:半导体产业纵横 2023-04-17 10:07 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

DPU、IPU 和 CXL 技术有可能显著提高数据中心的能效。

数据处理单元 (DPU)、基础设施处理单元 (IPU) 和 Compute Express Link (CXL) 技术可从服务器 CPU 卸载交换和网络任务,具有显著提高数据中心能效的潜力。事实上,美国国家可再生能源实验室 (NREL)认为,使用此类技术并专注于降低功率的企业可以实现约 33% 的效率提高。

使用新的网络技术提高电源效率

去年,出现了几项新技术,重新审视了数据中心的功耗。虽然采用了不同的方法,但这些解决方案都试图通过从 CPU中卸载交换和网络工作来提高能源效率,就像 GPU 和基于硬件的加密减少 CPU 的负载(从而降低整体功耗)一样。以下是一些值得关注的主要进展:

什么是数据处理单元 (DPU)?

数据处理单元 (DPU) 是一项相对较新的技术,可将处理密集型任务从 CPU 卸载到服务器中的单独卡上。从本质上讲,DPU 是一种微型板载服务器,针对网络、存储和管理任务进行了高度优化。(服务器上的通用 CPU 从未设计用于这些类型的密集型数据中心工作负载,并且经常会使服务器陷入困境。)

DPU 能产生什么影响?“在 DPU 中使用硬件加速来卸载处理密集型任务可以大大降低功耗,从而提高效率或在某些情况下减少服务器、更高效的数据中心,并通过减少电力消耗和减少成本来显著节省成本。”ZK Research 的创始人兼首席分析师Zeus Kerravala 说。

DPU 可以节省多少功率?提供英伟达BlueField DPU的英伟达的一份报告估计,卸载网络、存储和管理任务可以将服务器功耗降低多达 30%。此外,该报告还指出,随着服务器负载的增加,节电量也会增加,对于拥有 10000 台服务器的大型数据中心,在服务器的 3 年使用寿命内,可以节省 500 万美元的电费。在冷却、供电、机架空间和服务器资源成本方面将会有额外的节省。

什么是基础设施处理单元 (IPU)?

虚拟交换、安全和存储等基础设施服务会占用大量 CPU 周期。基础设施处理单元 (IPU) 可加速这些任务,释放 CPU 内核以提高应用程序性能并降低功耗。

去年,英特尔和谷歌云推出了一款代号为 Mount Evans 的联合设计芯片,旨在让数据中心更加安全和高效。该芯片接管了 CPU 为网络打包数据的工作。它还在可能共享 CPU 的不同应用程序和用户之间提供更好的安全性。

根据英特尔的定义,IPU 是一种具有强化加速器和以太网连接的高级网络设备。它使用紧密耦合的专用可编程内核来加速和管理基础设施功能。IPU 在使用软件定义网络 (SDN) 和日益复杂的管理软件的现代计算环境中特别有效。这些解决方案结合在一起会耗尽计算资源。英特尔估计,在某些高度虚拟化的环境中,网络可以消耗主机 CPU 周期的 30% 。

什么是计算快速链路 (CXL)?

Compute Express Link(CXL) 是一种开放互连标准,用于在主机(例如处理器)和设备(例如硬件加速器或智能 NIC)之间实现高效、一致的内存访问。该标准旨在解决所谓的冯诺依曼瓶颈问题,其中计算速度受限于 CPU 从存储器中检索指令和数据的速率。

CXL 以多种方式解决了这个问题。它采用了一种新的方法来在多个计算节点之间进行内存访问和共享。它允许内存和加速器分解,使数据中心完全由软件定义。

池中的某些内存设备可以允许在多个主机之间共享内存,这为应用程序提供了新的机会和可能性,可以在适当的位置读取、修改和写入数据,而无需通过网络在节点之间移动数据或传递消息。多台主机映射和使用数据的能力可以提高基础设施资源利用率。

CXL 有多重要?“CXL 技术可能会显著影响未来的服务器架构,”Omdia 云和数据中心研究实践分析师 Aaron Lewis 说。具体来说,CXL 可以在满足容量和带宽要求的同时降低服务器中的内存成本。

Lewis 还指出,很大一部分主板区域用于内存。通过 CXL 内存分解,内存资源可以像存储驱动器或物理外形的 PCIe 卡一样处理。这可能会使服务器计算更加密集,并且主要受热因素限制,而不是缺乏主板空间。

为什么 DPU、IPU 和 CXL 技术很重要

几十年来,企业一直关注运行其数据中心和 IT 运营的日益增长的电力需求。随着计算和存储需求的增长,能源消耗也在增长。具有更强大 CPU 的服务器直接使用更多电力。更快的处理器产生的热量需要越来越多的冷却,从而增加了电力负荷。

为了解决这些问题,已经尝试了各种能效解决方案,通过将一些计算和安全任务卸载到针对特定任务优化的协处理器(例如 GPU 或基于硬件的加密器)来解决这个问题。

除了使用 GPU,企业还使用虚拟化和节能实践来显著改善数据中心的功耗。因此,电源使用效率 (PUE) 这一描述计算机数据中心使用能源效率的标准指标下降了。(这是一件好事。)它从 2007 年的平均 2.5 左右下降到 2011 年的 1.98。这一下降是通过使用电源优化技术实现的,包括通过虚拟化最大化工作负载、改进冷却和其他举措。

不幸的是,这些用于降低数据中心电源效率的方法在十年内几乎没有改善,因为 PUE 比率变化很小。研究表明数据中心的 PUE 值范围很广,但目前的总体平均值约为 1.8。

最近,注意力已经转移到降低开关和网络工作的功率需求上。美国国家可再生能源实验室 (NREL)认为,使用此类技术并专注于降低功耗的企业可以实现约 33% 的电源效率提升。






审核编辑:刘清

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 以太网
    +关注

    关注

    41

    文章

    5923

    浏览量

    179519
  • 加速器
    +关注

    关注

    2

    文章

    836

    浏览量

    39712
  • DPU
    DPU
    +关注

    关注

    0

    文章

    407

    浏览量

    26198
  • IPU
    IPU
    +关注

    关注

    0

    文章

    35

    浏览量

    15921

原文标题:DPU、IPU 和 CXL 如何提高数据中心的电源效率?

文章出处:【微信号:ICViews,微信公众号:半导体产业纵横】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    改善数据中心散热效果:实现性能与需求的相匹配,从而提高可用性、可靠性和效率

    摘要在过去几年中,数据中心的数量每年增长10%到30%,因此企业逐步重视优化数据中心散热效果,以期提高效率,更好地匹配性能以降低能耗,最大限度地提高性能并重用浪费的能源。领先的
    的头像 发表于 09-03 15:59 310次阅读
    改善<b class='flag-5'>数据中心</b>散热效果:实现性能与需求的相匹配,从而<b class='flag-5'>提高</b>可用性、可靠性和<b class='flag-5'>效率</b>

    金升阳如何破解数据中心供电难题

    数据中心的庞大能耗版图中,服务器作为核心业务载体,其电力消耗占比突出且对供电稳定性、持续性有着极高要求。而电源作为能源转换的关键零部件,其能效表现直接决定着数据中心的能源利用效率
    的头像 发表于 09-01 14:42 752次阅读
    金升阳如何破解<b class='flag-5'>数据中心</b>供电难题

    PCIe协议分析仪能测试哪些设备?

    网络数据包的传输效率。 应用价值:优化数据中心和云计算环境中的网络性能,减少延迟。 智能网卡(DPU) 测试场景:测试DPU与主机的PCIe互连,验证其卸载网络、存储和安全任务的能力。 应用价值
    发表于 07-25 14:09

    中型数据中心中的差分晶体振荡器应用与匹配方案

    RAID计算,FCO-7L抗干扰能力强,适用于全天候数据中心负载。 线路布置建议: 近端AC耦合,使用专用时钟线层,避免穿越电源隔离区域。 4. 光模块(QSFP+/OSFP) 匹配方案: FCO-2L
    发表于 07-01 16:33

    数据中心都在用的差分晶振,看完你就懂了

    数据中心
    FCom富士晶振
    发布于 :2025年05月30日 13:12:30

    电感器在数据中心电源系统中的应用及选型

    数据中心功耗的大幅提升,对电源供应的质量与数量都提出了全新挑战。作为数据中心电源电路中的重要元件之一,电感器选型关系着数据中心电源系统转换效率
    的头像 发表于 05-29 17:45 636次阅读
    电感器在<b class='flag-5'>数据中心电源</b>系统中的应用及选型

    如何有效地管理人工智能数据中心电源

    作者:Kenton Williston 投稿人:DigiKey 北美编辑 人工智能 (AI) 和机器学习 (ML) 的兴起提出了前所未有的电力需求。下一代数据中心电源管理、效率和可靠性方面
    的头像 发表于 05-25 11:30 679次阅读
    如何有效地管理人工智能<b class='flag-5'>数据中心</b>的<b class='flag-5'>电源</b>

    数据中心液冷技术和风冷技术的比较

    (Power Usage Effectiveness,电源利用效率)<1.2,而传统的风冷制冷方式已经无法满足数据中心的散热需求,更加高效的液冷方案应运而生。特别在人工智能领域,随着智算需求的爆发,液冷方案已经成为
    的头像 发表于 05-09 09:41 2785次阅读
    <b class='flag-5'>数据中心</b>液冷技术和风冷技术的比较

    适用于数据中心和AI时代的800G网络

    选择无拥塞路径,提高数据传输效率。 多租户性能隔离:确保不同用户任务之间带宽分配合理。 飞速(FS)800G光模块在AI数据中心中的作用 为满足AI和大规模
    发表于 03-25 17:35

    优化800G数据中心:高速线缆、有源光缆和光纤跳线解决方案

    。通过综合考虑带宽、距离和成本等因素,可提高数据中心整体效率并实现未来网络基础设施的升级和扩展。如需了解更多定制化布线方案和专业建议,请访问飞速(FS),探索全面的布线产品和解决方案。
    发表于 03-24 14:20

    千亿规模AI数据中心,电感如何提高电源效率

    市场规模为1251亿美元,2025年将增至1587亿美元,2028年有望达到2227亿美元。其中,生成式人工智能服务器占比将从2025年的29.6%提升至2028年的37.7%。   在数据中心规模增长的同时,也面临着能源问题。如今大模型等AI应用对算力的需求,推动了AI芯片算力不断
    的头像 发表于 03-15 00:53 2099次阅读

    数据中心发展与改造

    全球多数数据中心基础设施已超六年,能耗高而效率低。随着AI的发展,企业正致力于整合与提升能效的现代化改造。同时数据中心呈现规模化、高密化、绿色化发展趋势。19821800313 一、目前数据中
    的头像 发表于 02-28 16:50 740次阅读
    <b class='flag-5'>数据中心</b>发展与改造

    GaNSafe电源IC为数据中心和电动汽车电源系统提供最高的密度和效率

    电子发烧友网站提供《GaNSafe电源IC为数据中心和电动汽车电源系统提供最高的密度和效率.pdf》资料免费下载
    发表于 01-24 13:49 0次下载
    GaNSafe<b class='flag-5'>电源</b>IC为<b class='flag-5'>数据中心</b>和电动汽车<b class='flag-5'>电源</b>系统提供最高的密度和<b class='flag-5'>效率</b>

    亚马逊云科技发布全新数据中心组件

    近日,亚马逊云科技宣布了一项重大创新,推出了一系列全新的数据中心组件。这些组件旨在满足新一代人工智能(AI)创新的需求,并帮助客户应对日益复杂且多变的应用场景。 亚马逊云科技通过对电源、冷却以及硬件
    的头像 发表于 12-24 15:05 812次阅读