0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

如何构建基于DPU的SmartNIC

星星科技指导员 来源:NVIDIA 作者:Kevin Deierling 2022-04-19 15:51 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

每个人都在谈论基于数据处理单元的智能网卡,但没有回答一个简单的问题:什么是智能网卡,它们做什么?

NIC 代表网络接口卡。实际上, NIC 是一种插入服务器或存储盒以连接到以太网网络的 PCIe 卡。基于 DPU 的 SmartNIC 超越了简单的连接,在基础 NIC 的情况下,在 NIC 上实现了 CPU 必须执行的网络流量处理。

一些供应商对基于 DPU 的 SmartNIC 的定义完全集中在实现上。这是有问题的,因为不同的供应商有不同的体系结构。因此,基于 DPU 的 SmartNIC 可以是基于 ASICFPGA 和片上系统的。当然,只生产一种 NIC 的供应商坚持认为,只有其类型的 NIC 才有资格成为 SmartNIC 。

基于 ASIC 的网卡

优异的性价比

供应商开发成本高

编程和可扩展

灵活性仅限于预定义的功能

基于 FPGA 的 NICs

性能好但价格昂贵

难以编程

特定于工作负载的优化

基于 SoC 的 NIC + CPU

良好的性价比

C 可编程处理器

最高灵活性

最简单的可编程性

在这些不同的实现之间,在成本、编程的易用性和灵活性方面存在各种权衡。 ASIC 具有成本效益,可能提供最佳性价比,但灵活性有限。基于 ASIC 的 NIC ,如 NVIDIA ConnectX-5,可以具有相对简单的可编程数据路径。最终,该功能基于 ASIC 中定义的功能而受到限制。这可能会阻止支持某些工作负载。

相比之下, FPGA NIC (如 NVIDIA Innova-2 Flex)具有高度可编程性。只要有足够的时间和精力,就可以在可用门的约束范围内相对高效地支持几乎任何功能。然而,众所周知, FPGA 编程困难且价格昂贵。

对于更复杂的用例, SOC (如 Mellanox BlueField DPU – 可编程智能网卡)提供了似乎是最好的基于 DPU 的 SmartNIC 实现选项:良好的性价比、易于编程和高度灵活。

图 1 SmartNIC 实现比较

专注于特定供应商如何实现基于 DPU 的 SmartNIC ,并没有说明它能够实现什么或应该如何构建。 NVIDIA 实际上有基于这些架构的产品,这些架构可以归类为基于 DPU 的 SmartNIC 。事实上,客户根据自己的需要,将这些产品用于不同的工作负载。因此,将重点放在实现 ASIC 、 FPGA 和 SoC 上,颠覆了最佳体系结构成就背后的“形式遵循功能”理念。

我没有把重点放在实现上,而是对PC 杂志百科全书条目进行了调整,给出了一个使 NIC 成为基于 DPU 的 SmartNIC 的工作定义:

基于 DPU 的 SmartNIC :

一种基于 DPU 的网络接口卡(网络适配器),用于卸载系统 CPU 通常会处理的处理任务。使用自己的板载处理器,基于 DPU 的 SmartNIC 可以执行加密/解密、防火墙、 TCP / IP 和 HTTP 处理的任意组合。 SmartNIC 非常适合高流量 web 服务器。

这个定义有两点我喜欢。首先,它关注的是功能而不是形式。其次,它用语句提示这种形式,“…使用自己的板载处理器…执行任何组合的…”网络处理任务。因此,嵌入式处理器是实现灵活执行几乎任何网络功能的关键。

您可以通过添加基于 DPU 的智能网卡或许也能执行网络、存储或 GPU 虚拟化来现代化该定义。此外, SmartNIC 还非常适合电信、安全、机器学习、软件定义存储和超聚合基础设施服务器,而不仅仅是 web 服务器。

NIC 类别

以下是如何通过网络适配器可以支持并用于加速不同工作负载的功能来区分三类 NIC :

图 2 NIC 类别的功能比较

在这里,我根据 NIC 加速特定功能的能力定义了三类 NIC :

基础 NIC

智能网卡( iNIC )

基于 DPU 的 SmartNIC

基础 NIC 或基本 NIC 只是移动网络流量,除了可能的 SRIOV 和基本 TCP 加速之外,很少或没有卸载。它不保存任何 CPU 周期,也不能卸载数据包控制或流量流。在 NVIDIA ,我们甚至不再销售基础 NIC 。

NVIDIA ConnectX 适配器系列具有可编程数据路径,并加速了一系列功能,这些功能最初在公共云使用案例中变得非常重要。出于这个原因,我将这种类型的 NIC 定义为 iNIC ,尽管今天本地企业、电信和私有云与公共云提供商一样需要这种类型的可编程性和加速功能。它的另一个名字可能是没有资本的智能

在许多情况下,客户告诉我们,他们需要竞争对手提供的基于 DPU 的 SmartNIC 功能,这些功能可以是 FPGA ,也可以是结合定制专有处理引擎的 NIC 。但是,当客户真正了解其特定工作负载所需的功能时,他们最终会决定, ConnectX 系列 iNICs 提供了其他所谓 SmartNIC 的所有功能、性能和灵活性,而功耗和成本仅为后者的一小部分。因此,根据一些竞争对手使用的 SmartNIC 的定义,我们的 ConnectX NIC 确实是 SmartNIC ,尽管我们 MIG 称之为智能 NIC 或更智能的 NIC 。我们的 FPGA NIC ( Innova )也是经典意义上的 SmartNIC ,我们的 SoC NIC (使用 BlueField )是 SmartNIC 中最智能的,我们可以称之为 Genius NIC

那么,什么是 SmartNIC ?基于 DPU 的 SmartNIC 是一种网络适配器,可加速功能并将其从服务器(或存储) CPU 中卸载。

您应该如何构建基于 DPU 的 SmartNIC ,以及哪种 SmartNIC 对于每个工作负载来说是最好的……好吧,问题在于细节。深入了解哪些数据路径和虚拟化加速可用以及如何使用它们非常重要。

关于作者

Kevin Deierling 从 2013 年 3 月开始担任 Mellanox 的营销副总裁。此前,他曾担任 Genia Technologies 的技术副总裁、 Silver Spring Networks 的首席架构师,并在 Spans Logic 负责营销和业务开发

审核编辑:郭婷

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • NVIDIA
    +关注

    关注

    14

    文章

    5682

    浏览量

    110095
  • 适配器
    +关注

    关注

    9

    文章

    2138

    浏览量

    71455
  • 服务器
    +关注

    关注

    14

    文章

    10341

    浏览量

    91737
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    如何构建蓝牙应用程序?

    的应用程序使用蓝牙(blueZ)。 我已经安装了 gcc-riscv64-linux-gnu。 但是,没有安装 blueZ 标头和库。 如何构建我的蓝牙应用程序?
    发表于 04-01 07:31

    基于DPU的智能盘框方案,华为如何大幅提升AI推理的效率?

    DPU
    脑极体
    发布于 :2026年01月20日 12:53:10

    彰显硬科技实力 中科驭数荣登VENTURE50硬科技榜 构建DPU“运力”底座

    近日,由清科控股、投资界发起的 2025 VENTURE50(简称 V50)评选结果正式揭晓,DPU 芯片研发领军企业中科驭数凭借深厚的技术壁垒、成熟的商业化能力及突出的产业价值,成功荣登 “2025 VENTURE 50 硬科技” 榜单,成为中国科技创新 “深水区” 的标杆代表之一。
    的头像 发表于 12-13 11:26 1220次阅读

    NVIDIA推出全新BlueField-4 DPU

    全新 NVIDIA BlueField DPU 具有 800Gb/s 的吞吐量,其集成的 NVIDIA ConnectX-9 SuperNIC 和 NVIDIA DOCA 微服务为 AI 数据存储、网络和安全带来突破性的加速。
    的头像 发表于 11-03 14:48 1197次阅读

    基于rtt的scons构建的keil工程如何增加project_targets?

    基于rtt的scons构建的keil工程如何增加project_targets 且再第一次构建能一比一复制rt-thread 再之能在每次scons构建后保证原来
    发表于 10-10 06:10

    为什么sconscript这么写,在没有构建文件的情况下,反而会构建所有文件?

    在有一个文件夹有返回的时候,构建关系正常。 在没有任何选择的情况下,构建关系异常。(这时候应该所有文件划伤×且不编译) 这是我sconscript的写法
    发表于 09-24 07:41

    RISC-V DPU,重塑数据中心算力格局?

    电子发烧友网综合报道 在现代数据中心架构中,数据处理单元(DPU)正迅速崛起为继 CPU 和 GPU 之后的第三颗核心芯片。DPU 专为数据密集型任务设计,通过卸载 CPU 的低效工作负载,如网络
    的头像 发表于 09-13 00:51 5011次阅读

    基于NVIDIA BlueField DPU的5G UPF数据面加速方案

    在第三届 NVIDIA DPU 黑客松竞赛中,我们见证了开发者与 NVIDIA 网络技术的深度碰撞。在 23 支参赛队伍中,有 5 支队伍脱颖而出,展现了在 AI 网络、存储和安全等领域的创新突破。
    的头像 发表于 09-04 11:26 1372次阅读

    请问如何构建 emWin 示例代码?

    如何构建 emWin 示例代码?
    发表于 09-04 07:25

    NVIDIA助力Axio团队打造全新DPU数据面开发框架

    在第三届 NVIDIA DPU 黑客松竞赛中,我们见证了开发者与 NVIDIA 网络技术的深度碰撞。在 23 支参赛队伍中,有 5 支队伍脱颖而出,展现了在 AI 网络、存储和安全等领域的创新突破。
    的头像 发表于 08-30 15:58 1607次阅读

    利用NVIDIA DPU重塑网络安全格局

    在第三届 NVIDIA DPU 黑客松竞赛中,我们见证了开发者与 NVIDIA 网络技术的深度碰撞。在 23 支参赛队伍中,有 5 支队伍脱颖而出,展现了在 AI 网络、存储和安全等领域的创新突破。
    的头像 发表于 08-20 14:31 1554次阅读

    今日看点丨英特尔关闭汽车业务部门;传国内DPU头部公司芯启源停发工资、暴力裁员

    1. 传国内DPU 头部公司芯启源停发工资、暴力裁员   近日,有认证为南京芯启源半导体员工的网友在求职平台上爆料,国内DPU头部公司芯启源自三月份以来就已经停发工资、暴力裁员零赔偿、不发年终奖以及
    发表于 06-25 10:56 2672次阅读

    DPU核心技术论文再次登陆体系结构领域旗舰期刊《IEEE Transactions on Computers》

    能力,在降低了规模限制的硬件成本和设计周期的同时,又可通过软件编程实现不同功能的计算,具有较高的可扩展性和灵活性。中科驭数DPU芯片基于自研KPU架构设计。
    的头像 发表于 06-11 18:11 756次阅读
    <b class='flag-5'>DPU</b>核心技术论文再次登陆体系结构领域旗舰期刊《IEEE Transactions on Computers》

    第三届NVIDIA DPU黑客松开启报名

    碰撞的绝佳机会。本次竞赛采用开放式主题,参与者将通过 NVIDIA DOCA 软件框架构建创新的加速应用程序,充分挖掘 NVIDIA BlueField DPU 在 AI、网络、存储和安全等领域的强大潜能。
    的头像 发表于 05-27 10:16 997次阅读

    中科驭数携DPU全栈产品亮相福州数博会,赋能智算时代算力基建

    会”)也拉开帷幕。共有150多家企业参展,展会吸引了八万多名观众参观。作为国内DPU领域领军企业,中科驭数携三大产品线亮相展会,其创新的DPU技术方案成为专业观众关注焦点。据大会报告的数据显示,我国算力总规模已达280EFLOPS,数据中心绿色化率超80%。而
    的头像 发表于 05-23 11:01 750次阅读
    中科驭数携<b class='flag-5'>DPU</b>全栈产品亮相福州数博会,赋能智算时代算力基建