0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

DPU走进巨头视线

ss 来源:Ai芯天下 作者:Ai芯天下 2020-11-09 11:30 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

最近几年,随着系统中的CPU承受越来越多的网络和存储工作负载,DPU已成为以数据为中心加速计算模型的第三个成员。

那么,DPU能否真正承担起与CPU、GPU一样的计算重要性,实现数据中心的一次巨大革新?其创新点到底在哪里?这些仍然是我们要去回顾和考察的问题。

DPU将成未来计算支柱之一

DPU,是Data Processing Unit的缩写,也就是所谓的数据处理单元。

DPU的主要作用就在于替代了数据中心原本用来处理分布式存储和网络通信的CPU处理器资源。

目前服务器要处理的资料日益增多,除了原有的加解密、封包压缩外,加速器也让服务器要处理的资料量变得更庞大,就会造成原有CPU在处理安全能力表现上出现瓶颈。

如果有了DPU的出现,就可以先在DPU将大量的信息先做消化,接着再传递给CPU做其他的分配,如此一来能减少CPU约30%的消耗。

在DPU之前,智能网卡(SmartNIC)正在网络安全和网络互连协议方面逐渐取代CPU。

而现在DPU的出现,相当于是智能网卡的升级替代版本。

一方面增强了智能网卡对网络安全和网络协议的处理能力;

一方面又整合和加强了分布式存储的处理能力。

从而在这两个领域更好地替代CPU,从而释放CPU的算力给到其他更多应用。

所有的这些DPU功能对于实现隔离的裸机云原生计算至关重要,它也将定义下一代云规模计算。

DPU走进巨头视线的原因

①DPU更安全,因为控制平面可以在系统内和系统集群之间与数据平面分离。DPU可以执行原本需要CPU处理的网络、存储和安全等任务。CPU的不少运算能力可以被释放出来,去执行广泛的企业应用。

②DPU释放了服务器的容量,以便它们可以恢复到应用程序计算。在一些具有大量I / O和沉重虚拟化的系统上内核成本缩减一半,因此吞吐量提高了2倍。

③DPU丰富的、灵活和可编程的加速引擎可减轻和改善AI机器学习应用的性能。

④DPU能充当数据中心的“第三插槽”,补充CPU和GPU,同时在单位功率和空间内带来前所未有的好处。该公司还表示,这些好处是安全可靠的。

⑤高帧率、高动态范围显示,这些其实都需要顶级的DPU来实现。

⑥对于智能汽车来说,未来的超大屏当然也需要强力的DPU和VPU来支撑。

⑦DPU引入机器学习算法,可对数据进行智能管理、控制和分析,从而减少闪存擦写次数,延长SSD使用寿命;还可减少盘内计算和总线数据量,减轻主机CPU的负担。

英伟达最为看重DPU并发力

英伟达在DPU上的技术突破,来自于去年收购以色列芯片制造公司Mellanox之后,在这家公司的硬件基础上开发出BlueFeild系列的两款DPU——英伟达BlueField-2 DPU与BlueField-2X DPU。

BlueField-2 DPU具有英伟达Mellanox Connext-6 SmartNIC的所有特点,与8个64位的A72ARM处理器内核一起,实现可完全编程,并能提供每秒200千兆比特的数据传输速率,从而加速关键数据中心的安全、网络和存储任务。

最核心的一点是单个BlueField-2 DPU可以提供相当于消耗125个CPU内核所提供的数据中心服务,从而有效释放CPU内核的算力资源。

英伟达发力DPU建设的深层目的,一个是DPU试图再一次复制GPU替代显示加速卡成为通用显示芯片的路径,再一个是DOCA试图再一次复制CUDA在GPU通用化过程中所起到的开创生态之功。

国际巨头开始纷纷提前布局

根据THENEXTPLATFORM的分析指出,在2020年,SmartNIC正在演变成DPU,每个人都想在这个领域分一杯羹。

在这个领域的玩家或者潜在玩家主要包括Broadcom,英特尔,英伟达,Netronome,Pensando,Fungible和赛灵思,还包括云供应商三大巨头。

近水楼台先得月,Broadcom是商品以太网NIC控制器市场上无可争议的领导者。Broadcom的Stingray架构采用了单芯片方法,与其他竞争对手的许多芯片板相比,单芯片SmartNIC解决方案在板级生产的成本始终较低。

英特尔也对用于超大规模生产者和云构建者的可编程以太网交换和SmartNIC更感兴趣,在DPU上,英特尔主要是将CPU和FPGA结合在一起。

赛灵思是SmartNIC领域中另一位杰出的FPGA进入者,其Alveo U25将双SFP28端口直接连接到Zynq系列芯片,包括6GB DDR4内存,Zynq的FPGA和Arm内核可通过该芯片上运行的程序对其进行访问。

Fungible公司的DPU起到数据中心结构控制和网络层的作用,通过减少资源等待的次数和动态构成服务器的基础结构,来提高数据中心的效率。

其生产的DPU将网络资源总拥有成本降低到原来的四分之一,计算能力降低到原来的一半,存储降低到原来的五分之一以下,总成本降低到原来的三分之一。

除了上述供应商,全球的云厂商巨头也都在部署SmartNIC,而且三家云供应商正在设计自己的系统级芯片架构,他们就是阿里云的X-Dragon,亚马逊AWS的Nitro和微软Azure的Catapult。

结尾:

DPU可以和CPU、GPU相结合,构成完全可编程的单一AI计算单元,实现前所未有的安全性和算力支持。

CPU、GPU、DPU将代表未来计算的三大支柱。这三者之间,CPU用于通用计算,GPU用于加速计算,而DPU在数据中心周围移动数据,进行数据处理。

责任编辑:xj

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • cpu
    cpu
    +关注

    关注

    68

    文章

    11320

    浏览量

    225832
  • 数据中心
    +关注

    关注

    18

    文章

    5754

    浏览量

    75195
  • DPU
    DPU
    +关注

    关注

    0

    文章

    417

    浏览量

    27145
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    DPU数据处理器的核心功能和应用领域

    DPU,全称数据处理器(Data Processing Unit),是一种专门用于处理数据中心中数据流动与基础设施任务的专用处理器。它既不像CPU那样直接参与最终的业务决策,也不像GPU般负责图形
    的头像 发表于 02-02 13:52 865次阅读
    <b class='flag-5'>DPU</b>数据处理器的核心功能和应用领域

    基于DPU的智能盘框方案,华为如何大幅提升AI推理的效率?

    DPU
    脑极体
    发布于 :2026年01月20日 12:53:10

    彰显硬科技实力 中科驭数荣登VENTURE50硬科技榜 构建DPU“运力”底座

    近日,由清科控股、投资界发起的 2025 VENTURE50(简称 V50)评选结果正式揭晓,DPU 芯片研发领军企业中科驭数凭借深厚的技术壁垒、成熟的商业化能力及突出的产业价值,成功荣登 “2025 VENTURE 50 硬科技” 榜单,成为中国科技创新 “深水区” 的标杆代表之一。
    的头像 发表于 12-13 11:26 1220次阅读

    NVIDIA推出全新BlueField-4 DPU

    全新 NVIDIA BlueField DPU 具有 800Gb/s 的吞吐量,其集成的 NVIDIA ConnectX-9 SuperNIC 和 NVIDIA DOCA 微服务为 AI 数据存储、网络和安全带来突破性的加速。
    的头像 发表于 11-03 14:48 1197次阅读

    智汇潇湘,才聚湖南 | 拓维信息走进西安交大寻找“AI原生一代”

    10月19日,拓维信息携手TalkwebHouse科创孵化平台走进西安交通大学,以「就业+创业」双通道开启硬核揽才模式,带来AI算法工程师、开源鸿蒙研发工程师等200多个优质岗位,重点聚焦人工智能
    的头像 发表于 10-20 19:08 585次阅读
    智汇潇湘,才聚湖南 | 拓维信息<b class='flag-5'>走进</b>西安交大寻找“AI原生一代”

    RISC-V DPU,重塑数据中心算力格局?

    电子发烧友网综合报道 在现代数据中心架构中,数据处理单元(DPU)正迅速崛起为继 CPU 和 GPU 之后的第三颗核心芯片。DPU 专为数据密集型任务设计,通过卸载 CPU 的低效工作负载,如网络
    的头像 发表于 09-13 00:51 5011次阅读

    基于NVIDIA BlueField DPU的5G UPF数据面加速方案

    在第三届 NVIDIA DPU 黑客松竞赛中,我们见证了开发者与 NVIDIA 网络技术的深度碰撞。在 23 支参赛队伍中,有 5 支队伍脱颖而出,展现了在 AI 网络、存储和安全等领域的创新突破。
    的头像 发表于 09-04 11:26 1372次阅读

    NVIDIA助力Axio团队打造全新DPU数据面开发框架

    在第三届 NVIDIA DPU 黑客松竞赛中,我们见证了开发者与 NVIDIA 网络技术的深度碰撞。在 23 支参赛队伍中,有 5 支队伍脱颖而出,展现了在 AI 网络、存储和安全等领域的创新突破。
    的头像 发表于 08-30 15:58 1607次阅读

    利用NVIDIA DPU重塑网络安全格局

    在第三届 NVIDIA DPU 黑客松竞赛中,我们见证了开发者与 NVIDIA 网络技术的深度碰撞。在 23 支参赛队伍中,有 5 支队伍脱颖而出,展现了在 AI 网络、存储和安全等领域的创新突破。
    的头像 发表于 08-20 14:31 1554次阅读

    AI终于赚钱了,科技巨头纷纷猛加杠杆

    电子发烧友网报道(文/梁浩斌)在2025年,科技巨头们的AI业务,终于开始赚钱了。   最近,谷歌、微软、Meta、亚马逊纷纷公布2025年二季度财报,四大AI巨头都交出了一份强劲的业绩答卷。过去
    的头像 发表于 08-06 09:53 5627次阅读

    中颖电子车规MCU芯片走进上汽集团

    近日,由上汽集团主办的2025“走进上汽集团”对接交流日顺利举行。活动以“同芯协力、共筑辉煌”为主题,汇聚了全国车规芯片主流供应商以及产业链上下游厂商。
    的头像 发表于 07-23 16:53 1577次阅读

    今日看点丨英特尔关闭汽车业务部门;传国内DPU头部公司芯启源停发工资、暴力裁员

    1. 传国内DPU 头部公司芯启源停发工资、暴力裁员   近日,有认证为南京芯启源半导体员工的网友在求职平台上爆料,国内DPU头部公司芯启源自三月份以来就已经停发工资、暴力裁员零赔偿、不发年终奖以及
    发表于 06-25 10:56 2672次阅读

    DPU核心技术论文再次登陆体系结构领域旗舰期刊《IEEE Transactions on Computers》

    能力,在降低了规模限制的硬件成本和设计周期的同时,又可通过软件编程实现不同功能的计算,具有较高的可扩展性和灵活性。中科驭数DPU芯片基于自研KPU架构设计。
    的头像 发表于 06-11 18:11 756次阅读
    <b class='flag-5'>DPU</b>核心技术论文再次登陆体系结构领域旗舰期刊《IEEE Transactions on Computers》

    第三届NVIDIA DPU黑客松开启报名

    第三届 NVIDIA DPU 中国虚拟黑客松(Hackathon)将于 6 月 28 日 - 6 月 30 日正式开启!作为备受广大开发者期待的年度赛事,它将提供与 NVIDIA 加速网络技术深度
    的头像 发表于 05-27 10:16 997次阅读

    中科驭数携DPU全栈产品亮相福州数博会,赋能智算时代算力基建

    会”)也拉开帷幕。共有150多家企业参展,展会吸引了八万多名观众参观。作为国内DPU领域领军企业,中科驭数携三大产品线亮相展会,其创新的DPU技术方案成为专业观众关注焦点。据大会报告的数据显示,我国算力总规模已达280EFLOPS,数据中心绿色化率超80%。而
    的头像 发表于 05-23 11:01 750次阅读
    中科驭数携<b class='flag-5'>DPU</b>全栈产品亮相福州数博会,赋能智算时代算力基建