DPU能解决什么问题？

DPU这个概念最近一年多才出现的，被英伟达的 Mellanox 带火，英伟达和迈威尔这个业务的增速都很高，市场也高看一眼。所幸大厂和中小厂商同一起跑线，国内也能参与竞争。老规矩，按照市场最关心的问题，分如下部分:

1、DPU是什么？

2、DPU解决什么问题？

3、DPU市场空间有多大？

4、DPU能不能成为独立主流芯片？

5、海内外玩家有哪些？

6、最后会不会一家独大，赢家通吃？

1、DPU是什么

Data Processing Unit，即数据处理器。DPU最直接的作用是作为CPU的卸载引擎，接管网络虚拟化、硬件资源池化等基础设施层服务，释放CPU的算力到上层应用。以网络协议处理为例，要线速处理10G的网络需要的大约4个Xeon CPU的核，也就是说，单是做网络数据包处理，就可以占去一个8核高端CPU一半的算力。Amazon 把这些开销都称之为“Datacenter Tax”，DPU就是把“Datacenter Tax”从CPU 上卸去，转移到一张专门的加速卡上，DPU。

DPU可以成为新的数据网关，将安全隐私提升到一个新的高度，网络接口一般是网络加密，解密的重要边界，所以海内外都有网络安全公司做DPU的例子。DPU也可以成为存储的入口，将分布式的存储和远程访问本地化。

DPU诞生之初，就是一颗异构芯片。DPU不是一颗固化的ASIC，在CXL、CCIX等标准组织倡导CPU、GPU与DPU等数据一致性，DPU编程障碍扫清。国内一些互联网大厂用FPGA的方式开发DPU，海外飞塔这家公司用的ASIC方式，将DPU的性能加到网安组件里面。

上一个硬件图吧

国内中科驭数的系统架构：

2、DPU解决什么问题

DPU为什么能火？算力荒！DPU解决的主要是带宽提速之后，CPU算力被占用，进而卡顿的问题。它的角色是在以前网卡的基础上再升级，不断写入功能在里面，自身优化线路，协议等，慢慢成型的一个玩意。IDC的数据显示，全球数据量在过去10年年均复合增长率接近50%，并进一步预测每四个月对于算力的需求就会翻一倍。与此相对的是CPU性能每年提升3%，巨大的差距面前，加速芯片独立了。参照下图：

数据来源：IDC

DPU 的前身，可以延续到智能网卡。早期智能网卡就是一张高速网卡+FPGA芯片扩展，目的也是加速，但这种组合没有成为绝对主流。这类智能网卡只被当作FPGA加速卡，有FPGA优势，也继承了所有FPGA的局限性。当下DPU是对现有的SmartNIC的一个整合，能看到很多以往SmartNIC的影子，但明显高于之前任何一个SmartNIC的定位.以后DPU可能不限于75W的控制中，会有独立的供电系统。

DPU可以应用到很多场景，大的就有三个：网络功能卸载，储存功能卸载，安全功能卸载。网络功能卸载是伴随云计算网络而产生的，主要是对云计算主机上的虚拟交换机的能力做硬件卸载，从而减少主机上消耗在网络上的CPU算力，提高可售卖计算资源；储存功能卸载，NVMe over Fabric是一个相对较新的协议规范，使用NVMe通过网络结构将主机连接到存储，支持对数据中心的计算和存储进行分解。

NVMe-oF协议定义了使用各种通用的输协议来实现NVMe功能的方式；安全功能卸载，在传统的网卡上做云平台虚拟化，Hypervisor以及对应的虚拟化网络的实现，都是在主机操作系统上实现的。

引入DPU智能网卡之后，将虚拟化网络的控制平面完全卸载到智能网卡上，与主机操作系统相隔离。即使黑客攻陷了Hypervisor，获取了主机操作系统的root权限，也无法篡改虚拟化网络的配置，这样可以将黑客的攻击范围限制在主机操作系统上，不会影响到虚拟化网络以及其它主机，做到有效隔离。

3、DPU市场空间有多大

按照海外投行的说法，DPU的潜在市场非常巨大，预测到2025年仅中国市场就能达到每年40亿美元的规模，估计全球将超过120亿美元，但挑战与机遇并存。IaaS在国内云服务市场占比约60%，支撑了目前最重要的PaaS的容器云技术。未来几年，我国仍将维持IaaS为主的云计算结构，预计市场占比将逐上升到70%。

4、DPU能不能成为独立主流芯片

前面说了，DPU是智能网卡演化而来，能不能成为独立主流芯片，当下技术还在竞争发展中。

前面说了，DPU是智能网卡演化而来，能不能成为独立主流芯片，当下技术还在竞争发展中。DPU目前主流形态是外挂”CPU和FPGA会封装到一个芯片中，形成一个奇怪的通过PCIe总线互联的两个CPU系统。这个架构非常简洁，但同时IPU引发了一个架构性的问题，这个架构到底IPU是中心，还是host CPU是中心?”。因为这方面的技术还在猛烈革新中，所以这三颗大芯片最后的架构怎么样，谁胜出，还要看。但趋势是直线向上的。

5、海内外玩家有哪些

从技术流派来讲，援引赛迪发布的《2021中国DPU行业发展白皮书》内容：DPU方案分为三种：一是以通用众核处理器为基础，以多核ARM为核心，以众取胜，可编程灵活性较好，但是应用针对性不够，对于特殊算法和应用的支持与通用CPU相比并无太显著优势；二是以专用核为基础的异构核阵列，针对性较强、性能较好，但是牺牲了部分灵活性；第三种路线结合了前二者优势，即将通用处理器的可编程灵活性与专用的加速引擎相结合，正在成为最新的产品趋势。

说的有点抽象，用公司来举例，以英伟达，英特尔为例， 基于GPU + FPGA技术经验，数据处理**** ； 赛灵思 被认为是智能网卡玩家 ，基础的技术线路和方案比较接近。 现在一些FPGA+NP等技术源于这里，有人把这类归于白皮书里的第三类，折中方案。

通信玩家，博通， Marvell****就是这个路子，他们以数据交换，网络通信起家，他们的解决方案主要**** 基于ARM内核方案。 新玩家 Fungible思科 **出身，更倾向于 网络技术 ， ARM内核方案。

目前海内外玩家的竞争都集中在服务器网卡， AI加速计算，智能计算和算力的概念联系上，被上升到计算架构的高度，被一级市场 吹嘘到突破摩尔定律。谁知道呢？

具体讲讲各公司情况，附国内创业公司：

英伟达：NVIDIA收购Mellanox后（intel关注洽谈这家很久），在ConnectX系列高速网卡技术基础上，推出其BlueField系列DPU，DPU定名！Mellanox和intel在阿里项目上历时十几个月的PK，累趴对手，成为国内大互联网厂首个DPU签约主体。Mellanox以前的产品主要应用在超算，后来技术部门研究可以进入服务器市场。英伟达增速最快的业务就是服务器业务，由于虚拟机和容器（containers）等的流行，应用程序在多台终端运行，应对数据中心流量爆炸的问题而Mellanox是专家。目前Mellanox的产品在其财报里面数据中心一项，按照最新的电话会议说法，不是受制于产能，增速应该能超过整个数据中心增长。

Xilinx:被AMD收购，早前出了Alveo系列加速卡。

Intel ：2015年底收购了Xilinx的竞争对手——Altera，进一步开发硬件加速能力。2021年6月发布IPU产品（名字不一样），将FPGA与Xeon D系列处理器集成，成为了DPU赛道有力的竞争者。

Marvall：2021 年发布OCTEON 10 DPU产品，不仅具备强大的转发能力，还具有突出的AI处理能力。

还有一些参与主体：互联网厂商，内部也有改善服务器速度的开发自研计划。Google、Amazon，阿里巴巴等。

注：Fungible成立于2015年，目前拥有约200名员工，总筹资超过3亿美元。其他投资者包括Battery Ventures，Mayfield Fund，Redline Capital和Walden Riverwood Ventures。其新资本将用于加速产品开发。

国内的玩家都是初创期，拥有一个大的客户，或者行业熟悉客户，打磨自己的DPU产品，因为现在海内外同一起跑线，所以看起各家融资ppt都贼牛逼。

6、最后会不会一家独大、赢家通吃

目前要解决DPU标准化应用，还存在一定挑战。由于数据中心本身的复杂性，各大厂商一方面采用COTS组件来构建系统，追求低成本，一方面又设法分层服务化（IaaS，PaaS，SaaS），打造面向不用类型客户的标准化产品。内容方AWS有Nitro，阿里云有MOC，反正就是五花八门——有的厂商强化IO能力、有的关注路由转发、有的重视存储卸载、有的关注安全加密。

至于有没有赢家通吃，一家独大，类似CPU，GPU这样的格局出现，目前暂时看不到，只能说，数据爆发的阶段，大家都有碗饭吃。

首先，DPU是一种专用处理器，与通用CPU的发展路径有所不同。专用计算重点放在数据平面，而通用计算重点放在控制平面。作为专用处理器，DPU的功能是收敛的，不用太多考虑多元化，代际兼容等问题。典型的“先垂直深耕，再水平扩展”的路径，所以在初期，会有针对不同领域，不同类型甲方的异构产品出现。

需求不同，产品就容易碎片化，例如各大公有云厂商、电信运营商等都有比较完整、也比较封闭的底层架构和应用生态。上层负载不同，必然对底层架构有各异的需求，这也许是目前DPU标准化面临的最大的挑战

当然这里的碎应该不是贬义词，应该指“专”，毕竟DPU不是一个人人都能进入的赛道。由其专用性，需要长期行业“Knowhow”持续打磨迭代产品，这对于行业内初创公司才有更大的生存空间，大家同一起跑线。DPU当下类似于工业软件，需要上下游企业，甲方乙方共同来构建良性、开放的生态环境。

传统的“one-size-fit-all”的ASIC商业模式，通过上量来摊薄芯片研发的巨额NRE成本本身还是有效的。所以专用DPU最终也要谋求“水平扩展”来覆盖更多的场景，还是要尽可能把各异的需求整合起来，并且适应不同厂商。

也许十年后，在竞争合作中博弈出了满足各种行业需求的产品，兼顾灵活性与成本。也许十年后的DPU能解决复杂网络、安全、存储、虚拟化等方面的问题，真真正正成为举足轻重的“第三颗大芯片”。