0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

DPU,云厂商的节约成本的王牌

E4Life 来源:电子发烧友网 作者:周凯扬 2023-06-08 09:19 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

电子发烧友网报道(文/周凯扬)随着AI计算在数据中心逐渐占据主导地位,整个服务器系统架构中的虚拟化、网络交换对硬件提出了更高的需求,为了降低进一步CPU的负载,DPU也就应运而生。通过使用DPU,各种架构的CPU不仅降低了功耗,还提升了效率,完美符合当下对绿色计算的追求。

DPU真的能省钱吗

虽然依据各大DPU厂商的说法,大规模使用DPU可以降低总成本,不过这一观点在过去以FPGAASIC主导的SmartNIC设计架构的时期很难成立。FPGA更高的成本使得云服务厂商难以通过较低的成本来实现规模化。而ASIC方案灵活可编程的能力较低,难以跟上时刻在迭代和扩充的网络环境,后续升级成本较高。

而如今普及的SoC方案,则通过结合不同的架构,降低成本的同时极大地提高了其灵活性。比如博通的Stingray就是Arm+ASIC的SoC方案,英特尔的IPU则是FPGA+x86或FPGA+Arm的SoC方案,Marvell的OCTEON 10也是Arm+ASIC的SoC方案等等。

这也就是为何不少云服务厂商纷纷投入使用DPU的原因,通过卸载CPU的负载,降低了整个系统的功耗,从而大幅降低了能源成本。以使用英伟达DPU的爱立信为例,据其公布的数据,他们在使用DPU后将服务器CPU的功耗降低至145W,相比过去节约了24%的能耗。

这样的数字在单个CPU,以及短运行周期内看起来似乎不算什么,但对于大型数据中心而言,这样的数字就意味着单个DPU应用就可以在三年间省下近200万美元的成本。同样可以从中受益的还有OVS这一虚拟交换机应用,根据英伟达公布的数据,在使用BlueField-2来承接原本由CPU负责的交换任务后,单台服务器的功耗可降低29%,达到305W。对于10000台服务器的数据中心来说,也就是3年内近500万美元的成本节约。

CSP纷纷选择了自研DPU

至于从云厂商的角度,那DPU是否省钱这一问题的答案就更明显了。不少云服务厂商开始意识到,与其选择第三方DPU,倒不如走上自研这条路。头部CSP发现自研DPU不仅可以减少系统成本,还能解决数据中心在管理和虚拟化上的局限性,从而保证其产品优势。

比如字节跳动早在2020年就开启了自研DPU氦卡的研发,从2021年至今已经发布了氦卡的1.0、1.5和2.0版本。目前最新的氦卡2.0一斤支持到网络、存储和虚拟化全量加速。这对于字节旗下的火山引擎来说,不仅实现了IaaS、PaaS和存储资源统一的完全并池,也降低了成本,据字节跳动公布的数据氦卡使其TCO下降高达10%。

百度也在去年底发布了其自研DPU太行的2.0版本,新的DPU 2.0支持IntelAMD和ARM平台,也同时支持计算、存储、网络和虚拟化等功能。百度也基于太行2.0 DPU这一计算底座,打造了vQPE、BTHv、BOE、BDMA、RDMA和BHQoS六大自研引擎,做到多协议、多场景、跨平台和低时延。

这与此前百度公布的太行DPU发展路径一致,从路线图上来看,未来的太行DPU 3.0将定位为云原生的IO引擎,实现BVC共平台、硬件资源的全面解耦以及软件定义实例等,做到端到端的极致性能。

写在最后

其实随着CSP纷纷自研DPU,这对于不少第三方DPU厂商都提出了一定的挑战。首先大型CSP厂商都有这样的能力去组建一个团队,来为其量身打造自研DPU,甚至是直接通过收购来完成这一目的,比如微软年初收购的Fungible。可以说,未来DPU厂商的竞争压力将进一步放大,不仅要和同行对手卷,还要和自己的客户卷。但好在对于使用云服务的用户来说,DPU的出现一定会进一步降低使用成本。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • DPU
    DPU
    +关注

    关注

    0

    文章

    417

    浏览量

    27148
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    科技报到:AI算力革命,终结计算20年降价史

    科技报到原创。 2026年,计算行业写下了颠覆近20年惯例的历史注脚,长期奉行“只降不升”的定价规则被彻底打破,全球厂商掀起一轮声势浩大的涨价潮。 从海外科技巨头率先破局,到国内
    的头像 发表于 04-03 17:05 2989次阅读

    OpenClaw部署新突破:国产芯片跑通、厂商一键上,AI手机内测

    本文将汇总手机端、芯片厂商厂商A为支持OpenClaw的AI端侧部署有哪些最新进展,国家互联网中心和安全软件平台为OpenClaw使用带来的最新的思路。
    的头像 发表于 03-20 09:54 2w次阅读
    OpenClaw部署新突破:国产芯片跑通、<b class='flag-5'>云</b><b class='flag-5'>厂商</b>一键上<b class='flag-5'>云</b>,AI手机内测

    成本节约的多化学体系电池充电系统——MAX846A

    成本节约的多化学体系电池充电系统——MAX846A 在电池充电系统的设计领域,如何开发出成本低、兼容性高且性能稳定的解决方案是工程师们一直关注的焦点。今天,就来深入探讨一款具有创新性的成本节约型多
    的头像 发表于 02-26 10:05 267次阅读

    中关村计算产业联盟党建交流活动在中科驭数圆满举办

    活动伊始,与会人员参观了中科驭数 DPU 展厅,深入了解 DPU 技术在计算领域的创新应用与发展前景。
    的头像 发表于 01-23 15:20 724次阅读

    基于DPU的智能盘框方案,华为如何大幅提升AI推理的效率?

    DPU
    脑极体
    发布于 :2026年01月20日 12:53:10

    2025 企业 IT 成本翻倍?华为对象存储让数据存储成本直降 20%

    短短 60 天内。 由于 NAND Flash 占 SSD 生产成本的 90%,硬件厂商无力消化成本压力,只能将涨价传导至终端,直接导致企业存储硬件采购支出同比翻倍。与此同时,AI、大数据技术的普及让企业数据量呈指数级增长,传统
    的头像 发表于 12-31 12:57 448次阅读

    商汤科技持续引领中国原生AI厂商阵营

    近日,权威研究机构弗若斯特沙利文(Frost & Sullivan)联合头豹研究院发布《2025年H1中国全栈AI服务市场报告》。报告显示,商汤科技凭整体市场份额位列中国全栈AI服务市场第四,原生AI
    的头像 发表于 11-21 10:59 587次阅读

    10分钟用涂鸦王牌开发板,打造能玩热门游戏的AI纸巾盒!低成本低门槛有手就会

    作为涂鸦的王牌开发板,T5AI-Board开发板(下文简称T5AI)因为低门槛、高灵活性和强大的多模态交互能力(支持语音、视觉),受到了广大硬件开发者的喜爱。它集成了嵌入式Wi-Fi和蓝牙双模模组
    的头像 发表于 11-13 18:10 1187次阅读
    10分钟用涂鸦<b class='flag-5'>王牌</b>开发板,打造能玩热门游戏的AI纸巾盒!低<b class='flag-5'>成本</b>低门槛有手就会

    NVIDIA推出全新BlueField-4 DPU

    全新 NVIDIA BlueField DPU 具有 800Gb/s 的吞吐量,其集成的 NVIDIA ConnectX-9 SuperNIC 和 NVIDIA DOCA 微服务为 AI 数据存储、网络和安全带来突破性的加速。
    的头像 发表于 11-03 14:48 1220次阅读

    设备厂商必看!ZWS户用储能平台的五大赋能

    ZWS户用储能平台凭借其强大的功能,为设备厂商、经销商和终端业主提供了全方位的解决方案。今天,我们聚焦于设备厂商,看看ZWS户用储能平台如何为他们赋能。一、多元化物模型:快速接入,
    的头像 发表于 09-29 11:38 758次阅读
    设备<b class='flag-5'>厂商</b>必看!ZWS户用储能<b class='flag-5'>云</b>平台的五大赋能

    告别成本困扰,蓝牙屏为你减负

    告别成本困扰,蓝牙屏为你减负 ​ 仪器仪表厂家们,还在为不断攀升的成本而焦头烂额吗?上海某传感器厂商的财务报表显示,2024 年其生产成本
    的头像 发表于 09-04 17:11 794次阅读
    告别<b class='flag-5'>成本</b>困扰,蓝牙<b class='flag-5'>云</b>屏为你减负

    自建私有vs.公有:长期成本建模深度分析

    私有需承担高额初始投资(硬件、软件、数据中心)和长期运维成本,但适合负载稳定、数据敏感的场景;公有以按需付费降低门槛,适合业务波动大或快速增长的需求,但长期使用可能面临规模成本暴增
    的头像 发表于 07-11 09:40 1803次阅读
    自建私有<b class='flag-5'>云</b>vs.公有<b class='flag-5'>云</b>:长期<b class='flag-5'>成本</b>建模深度分析

    自动智能装车机解放人力提高效率节约成本方便管理

    机器人
    jf_73817765
    发布于 :2025年06月28日 11:05:39

    企业园区水电计费管理难 收费难 安科瑞预付费系统解决难点 节约成本

    产业园区的运营方或者物业管理人员,正被水电计量不精准、费用分摊纠纷这些琐事困扰着。这类问题往往背后藏着更深的痛点——比如企业租户抱怨费用不透明,或者管理方自己也被复杂的管线损耗搞得头大。 产业园区水电管理难点通常集中在三方面: 1.计量硬件老旧导致数据不准。 2.人工抄表效率低下。 3.最棘手的公共区域和管线损耗分摊问题。特别是科技园区里那些高耗电的实验室,电费纠纷可能更频繁。 但不同产业差异很大。如果是制造业园
    的头像 发表于 06-03 15:22 512次阅读
    企业园区水电计费管理难    收费难   安科瑞预付费系统解决难点  <b class='flag-5'>节约成本</b>

    第三届NVIDIA DPU黑客松开启报名

    第三届 NVIDIA DPU 中国虚拟黑客松(Hackathon)将于 6 月 28 日 - 6 月 30 日正式开启!作为备受广大开发者期待的年度赛事,它将提供与 NVIDIA 加速网络技术深度
    的头像 发表于 05-27 10:16 1015次阅读