0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

DPU,云厂商的节约成本的王牌

E4Life 来源:电子发烧友网 作者:周凯扬 2023-06-08 09:19 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

电子发烧友网报道(文/周凯扬)随着AI计算在数据中心逐渐占据主导地位,整个服务器系统架构中的虚拟化、网络交换对硬件提出了更高的需求,为了降低进一步CPU的负载,DPU也就应运而生。通过使用DPU,各种架构的CPU不仅降低了功耗,还提升了效率,完美符合当下对绿色计算的追求。

DPU真的能省钱吗

虽然依据各大DPU厂商的说法,大规模使用DPU可以降低总成本,不过这一观点在过去以FPGAASIC主导的SmartNIC设计架构的时期很难成立。FPGA更高的成本使得云服务厂商难以通过较低的成本来实现规模化。而ASIC方案灵活可编程的能力较低,难以跟上时刻在迭代和扩充的网络环境,后续升级成本较高。

而如今普及的SoC方案,则通过结合不同的架构,降低成本的同时极大地提高了其灵活性。比如博通的Stingray就是Arm+ASIC的SoC方案,英特尔的IPU则是FPGA+x86或FPGA+Arm的SoC方案,Marvell的OCTEON 10也是Arm+ASIC的SoC方案等等。

这也就是为何不少云服务厂商纷纷投入使用DPU的原因,通过卸载CPU的负载,降低了整个系统的功耗,从而大幅降低了能源成本。以使用英伟达DPU的爱立信为例,据其公布的数据,他们在使用DPU后将服务器CPU的功耗降低至145W,相比过去节约了24%的能耗。

这样的数字在单个CPU,以及短运行周期内看起来似乎不算什么,但对于大型数据中心而言,这样的数字就意味着单个DPU应用就可以在三年间省下近200万美元的成本。同样可以从中受益的还有OVS这一虚拟交换机应用,根据英伟达公布的数据,在使用BlueField-2来承接原本由CPU负责的交换任务后,单台服务器的功耗可降低29%,达到305W。对于10000台服务器的数据中心来说,也就是3年内近500万美元的成本节约。

CSP纷纷选择了自研DPU

至于从云厂商的角度,那DPU是否省钱这一问题的答案就更明显了。不少云服务厂商开始意识到,与其选择第三方DPU,倒不如走上自研这条路。头部CSP发现自研DPU不仅可以减少系统成本,还能解决数据中心在管理和虚拟化上的局限性,从而保证其产品优势。

比如字节跳动早在2020年就开启了自研DPU氦卡的研发,从2021年至今已经发布了氦卡的1.0、1.5和2.0版本。目前最新的氦卡2.0一斤支持到网络、存储和虚拟化全量加速。这对于字节旗下的火山引擎来说,不仅实现了IaaS、PaaS和存储资源统一的完全并池,也降低了成本,据字节跳动公布的数据氦卡使其TCO下降高达10%。

百度也在去年底发布了其自研DPU太行的2.0版本,新的DPU 2.0支持IntelAMD和ARM平台,也同时支持计算、存储、网络和虚拟化等功能。百度也基于太行2.0 DPU这一计算底座,打造了vQPE、BTHv、BOE、BDMA、RDMA和BHQoS六大自研引擎,做到多协议、多场景、跨平台和低时延。

这与此前百度公布的太行DPU发展路径一致,从路线图上来看,未来的太行DPU 3.0将定位为云原生的IO引擎,实现BVC共平台、硬件资源的全面解耦以及软件定义实例等,做到端到端的极致性能。

写在最后

其实随着CSP纷纷自研DPU,这对于不少第三方DPU厂商都提出了一定的挑战。首先大型CSP厂商都有这样的能力去组建一个团队,来为其量身打造自研DPU,甚至是直接通过收购来完成这一目的,比如微软年初收购的Fungible。可以说,未来DPU厂商的竞争压力将进一步放大,不仅要和同行对手卷,还要和自己的客户卷。但好在对于使用云服务的用户来说,DPU的出现一定会进一步降低使用成本。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • DPU
    DPU
    +关注

    关注

    0

    文章

    407

    浏览量

    26192
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    商汤科技持续引领中国原生AI厂商阵营

    近日,权威研究机构弗若斯特沙利文(Frost & Sullivan)联合头豹研究院发布《2025年H1中国全栈AI服务市场报告》。报告显示,商汤科技凭整体市场份额位列中国全栈AI服务市场第四,原生AI
    的头像 发表于 11-21 10:59 245次阅读

    NVIDIA推出全新BlueField-4 DPU

    全新 NVIDIA BlueField DPU 具有 800Gb/s 的吞吐量,其集成的 NVIDIA ConnectX-9 SuperNIC 和 NVIDIA DOCA 微服务为 AI 数据存储、网络和安全带来突破性的加速。
    的头像 发表于 11-03 14:48 590次阅读

    设备厂商必看!ZWS户用储能平台的五大赋能

    ZWS户用储能平台凭借其强大的功能,为设备厂商、经销商和终端业主提供了全方位的解决方案。今天,我们聚焦于设备厂商,看看ZWS户用储能平台如何为他们赋能。一、多元化物模型:快速接入,
    的头像 发表于 09-29 11:38 459次阅读
    设备<b class='flag-5'>厂商</b>必看!ZWS户用储能<b class='flag-5'>云</b>平台的五大赋能

    告别成本困扰,蓝牙屏为你减负

    告别成本困扰,蓝牙屏为你减负 ​ 仪器仪表厂家们,还在为不断攀升的成本而焦头烂额吗?上海某传感器厂商的财务报表显示,2024 年其生产成本
    的头像 发表于 09-04 17:11 570次阅读
    告别<b class='flag-5'>成本</b>困扰,蓝牙<b class='flag-5'>云</b>屏为你减负

    自建私有vs.公有:长期成本建模深度分析

    私有需承担高额初始投资(硬件、软件、数据中心)和长期运维成本,但适合负载稳定、数据敏感的场景;公有以按需付费降低门槛,适合业务波动大或快速增长的需求,但长期使用可能面临规模成本暴增
    的头像 发表于 07-11 09:40 858次阅读
    自建私有<b class='flag-5'>云</b>vs.公有<b class='flag-5'>云</b>:长期<b class='flag-5'>成本</b>建模深度分析

    自动智能装车机解放人力提高效率节约成本方便管理

    机器人
    jf_73817765
    发布于 :2025年06月28日 11:05:39

    嘉立创标准集成库(原理图库,pcb库)

    这个PCB库是嘉立创的标准集成库,使包含了一些常用元件和封装,使用本集成库进行设计的pcb在嘉立创进行投板时不用进行元件方向和位置的确认,节约成本和时间。
    发表于 04-09 13:59

    飞易通携&lt;飞易&gt;系统助力物联网新变革!

    一、什么是飞易平台 飞易平台是一个基于物联网技术的平台,经过软硬件结合,用户可以通过平台进行设备定位管理、数据传输,商品广告展示等可视化操作。它的优势为平台操作简单,能够提高效率,节约成
    的头像 发表于 03-28 15:28 628次阅读
    飞易通携&lt;飞易<b class='flag-5'>云</b>&gt;系统助力物联网新变革!

    阿里代理优惠上指南——火伞如何助力企业降本增效

    在数字化转型的浪潮中,计算已成为企业提升效率、优化成本的核心工具。然而,面对阿里、腾讯、华为、天翼
    的头像 发表于 02-19 15:48 978次阅读

    厂商的DeepSeek大捷

    厂商的火力,不妨来得更猛烈一些。
    的头像 发表于 02-10 19:32 2556次阅读
    <b class='flag-5'>云</b><b class='flag-5'>厂商</b>的DeepSeek大捷

    FE1.1S的国产替代芯片DPU1.1S 高性能、低功耗4口高速USB2.0HUB控制器芯片 USB拓展坞等应用之选

    DPU1.1S是一款高性能、低功耗4口高速 USB2.0 HUB 控制器,上行端口兼容高速 480MHz和全速12MHz两种模式,4个下行端口兼容高速480MHz、全速12MHz、低速1.5MHz
    发表于 01-24 12:16

    利用NVIDIA DPF引领DPU加速计算的未来

    越来越多的企业开始采用加速计算,从而满足生成式 AI、5G 电信和主权的需求。NVIDIA 推出了 DOCA 平台框架(DPF),该框架提供了基础构建模块来释放 NVIDIA BlueField
    的头像 发表于 01-24 09:29 1272次阅读
    利用NVIDIA DPF引领<b class='flag-5'>DPU</b>加速<b class='flag-5'>云</b>计算的未来

    存储成本高吗?费用构成清单

    存储成本相对较高,但具体费用受存储空间大小、数据访问流量、请求次数、服务类型、计费方式、附加费用等多种因素影响。对于需要定制化解决方案的企业用户,服务商可能还会收取一定的专业服务费用。以下是UU
    的头像 发表于 12-27 11:27 1713次阅读

    搭建电脑的成本,搭建电脑的成本有哪些因素?

    。今天小编给大家讲解搭建电脑的成本有哪些因素。    搭建电脑的成本因多种因素而异,包括硬件、软件、网络、人工、能源和时间等。以下是一些关键的
    的头像 发表于 12-24 13:40 1045次阅读
    搭建<b class='flag-5'>云</b>电脑的<b class='flag-5'>成本</b>,搭建<b class='flag-5'>云</b>电脑的<b class='flag-5'>成本</b>有哪些因素?