0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

NVIDIA DOCA 1.1加速应用在DPU上的开发

星星科技指导员 来源:NVIDIA 作者:Scott Ciccone 2022-04-14 15:36 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

NVIDIA发布NVIDIA DOCA 1.1 —— 用于BlueField DPU(全球最先进的数据处理器)的软件框架。最新版本的NVIDIA DOCA将延续DOCA抢先体验计划的强劲势头,提供更多的DOCA SDK内容、运行时和服务,助力开发者加速在DPU上的应用开发。

DPU的作用在网络功能和虚拟化资源的卸载、加速和隔离中越来越重要。现代应用需要将大量的网络操作交给CPU来处理,这成为了在每个主机中都配备DPU的强动力。相比标准的CPU来言, DPU可以更快、更高效地处理所有这些虚拟化工作(如Open vSwitch(OVS)、SR-IOV、RDMA等)。此外,通过将DPU与主CPU分开运行,提供了更高的安全性和操作隔离,并无需CPU或主机操作系统的参与,便可检测并阻止恶意行为。

DOCA是释放DPU潜力的关键。应用开发者和NVIDIA技术合作伙伴能够通过DOCA加速交付在每个数据中心节点中的DPU上运行的服务。DPU为网络、安全、存储和基础设施管理创建了一个隔离的安全服务域。

DOCA 1.1版本建立在DOCA 1.0的强劲势头之上,并包含以下更新:

DOCA FLOW-LIB —— 用于网关性能的加速,以实现不同网络间互操作性

DOCA FLOW示例应用—— 用于URL和DNS过滤与转发功能

加速有状态流表(SFT)—— 用于连接追踪功能

加速正则表达式(RegEx)—— 用于与DPI Lib进行模式匹配

引入x86平台上的DOCA Runtime —— 用于加速在主机x86处理器上运行的应用, 不必所有的业务都卸载到DPU。

根据The Linley Group首席分析师Bob Wheeler近日发布的白皮书,“FLOW-Gateway库(基于流的网关库)基于数据通路上的SFT(有状态流量表)实现了一种硬件加速的网关。与基于DPDK的通用流的API(rte_flow)相比,该库为过滤和分配网络流量的网关应用提供了更高层的抽象。深度包检测(DPI)库同样结合了SFT和RegEx加速,向应用层开放了一个上层API。它可以根据一个编译后签名数据库对数据包的Payload进行不固定搜索。”

更多关于DOCA的信息,敬请阅读Wheeler的白皮书《基于DPU的硬件加速:软件视角》。

DOCA软件栈的各组成部分

下图是关于DOCA软件栈的基本框架:

DOCA有三个主要组成部分:驱动程序、库和各种服务。每个组成部分都在DPU上运行,包括BlueField和BlueField-X(一种紧耦合的DPU-GPU融合解决方案)。DOCA还包含在DPU上正式发布的或是正在开发和部署的参考应用,如网络、安全、存储、高性能计算/人工智能、电信和媒体等应用。所有这些应用都可以从CPU上卸载到DPU上,实现加速和隔离,从而大幅提高性能和效率,使数据中心变成一个加速的、完全可编程的、安全的且具有公有云的可扩展性的先进虚拟私有云。

有关DOCA各组成部分的详细介绍,请观看NVIDIA Ami Badani和Ariel Kit近日在2021年GTC大会上发表的题为“通过DOCA和最新的DPU软件对数据中心基础设施的加速功能进行编程”的演讲。

DOCA优点总结

DOCA旨在帮助开发者了解NVIDIA的愿景——打造集DPU、CPU和GPU三大支柱为一体的加速数据中心。通过DOCA,NVIDIA正在实现对DPU所有功能的访问,同时简化在DPU上创建新应用或整合现有应用到DPU上的操作。DOCA具有以下优点:

DOCA简化了使用DPU的基础设施应用和功能的开发与部署流程,使应用能够更快面市。

– 统一访问所有的DPU功能:通过将所有需要的资源放在一处来加速开发,避免跟踪开发的发散和不同的工具。

在底层DPU API构建一个带抽象层的上层库:合作伙伴能够从上层进行集成,以实现快速、简单和高性能的开发,或从底层进行集成,以实现更精细的控制。

向前/向后兼容:使用DOCA开发意味着应用可以在BlueField DPU的未来版本上无缝运行,同时获得更高的性能和扩展性。

基于容器化服务的DPU配置和部署 :DOCA包含用于简化DPU设置、配置和各种服务编排的工具。

DOCA开发容器和SDK管理器——用于增强开发者体验,使您能够在任何系统上运用容器化的开发者环境创建最具创新力的应用,并使用SDK管理器轻松升级DPU卡和移植您的运行时应用运行在DPU 的 Arm核上。

发布了DOCA 1.1版本之后,NVIDIA还将继续为DOCA库、驱动程序和服务添加应用实例,助力于广泛的网络、存储、安全和基础设施管理用例等应用的开发。

此外,NVIDIA还将与其生态系统伙伴合作,提供联合解决方案以不断地推动这一强劲势头,首个解决方案即将面世。这个由DOCA/DPU合作伙伴和抢先体验开发者组成的生态系统正在迅速壮大,使客户能够接触到行业领导者一流的网络、安全和存储解决方案。

关于作者

Scott Ciccone 于 2020 年作为 Cumulus Networks 收购的一部分加入后,目前担任 NVIDIA 的产品营销总监。 Scott 在产品营销和产品管理方面拥有 20 多年的经验,擅长在高增长环境下启动新的业务线,包括 Cumulus Networks , Palo Alto Networks 、 Cisco 和 Sun Microsystems 。斯科特在罗切斯特理工学院获得生物医学计算学士学位,在巴布森学院获得市场营销工商管理硕士学位。

审核编辑:郭婷

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 处理器
    +关注

    关注

    68

    文章

    20148

    浏览量

    247121
  • NVIDIA
    +关注

    关注

    14

    文章

    5496

    浏览量

    109087
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    利用NVIDIA Cosmos开放世界基础模型加速物理AI开发

    NVIDIA 最近发布了 NVIDIA Cosmos 开放世界基础模型(WFM)的更新,旨在加速物理 AI 模型的测试与验证数据生成。借助 NVIDIA Omniverse 库和 Co
    的头像 发表于 12-01 09:25 487次阅读

    NVIDIA在ISC 2025分享最新超级计算进展

    NVIDIA DGX Spark 到 NVIDIA BlueField-4 DPU,新一代网络和量子技术实现了飞跃。在 SC25 展示的加速
    的头像 发表于 11-25 10:59 483次阅读
    <b class='flag-5'>NVIDIA</b>在ISC 2025分享最新超级计算进展

    NVIDIA推出全新BlueField-4 DPU

    全新 NVIDIA BlueField DPU 具有 800Gb/s 的吞吐量,其集成的 NVIDIA ConnectX-9 SuperNIC 和 NVIDIA
    的头像 发表于 11-03 14:48 591次阅读

    利用NVIDIA DOCA GPUNetIO技术提升MoE模型推理性能

    在第三届 NVIDIA DPU 中国黑客松竞赛中,我们见证了开发者与 NVIDIA 网络技术的深度碰撞。在 23 支参赛队伍中,有 5 支队伍脱颖而出,展现了在 AI 网络、存储和安全
    的头像 发表于 09-23 15:25 686次阅读

    基于NVIDIA BlueField DPU的5G UPF数据面加速方案

    在第三届 NVIDIA DPU 黑客松竞赛中,我们见证了开发者与 NVIDIA 网络技术的深度碰撞。在 23 支参赛队伍中,有 5 支队伍脱颖而出,展现了在 AI 网络、存储和安全等领
    的头像 发表于 09-04 11:26 874次阅读

    NVIDIA助力Axio团队打造全新DPU数据面开发框架

    在第三届 NVIDIA DPU 黑客松竞赛中,我们见证了开发者与 NVIDIA 网络技术的深度碰撞。在 23 支参赛队伍中,有 5 支队伍脱颖而出,展现了在 AI 网络、存储和安全等领
    的头像 发表于 08-30 15:58 1151次阅读

    利用NVIDIA DPU重塑网络安全格局

    在第三届 NVIDIA DPU 黑客松竞赛中,我们见证了开发者与 NVIDIA 网络技术的深度碰撞。在 23 支参赛队伍中,有 5 支队伍脱颖而出,展现了在 AI 网络、存储和安全等领
    的头像 发表于 08-20 14:31 1023次阅读

    NVIDIA DOCA 3.0版本的亮点解析

    NVIDIA DOCA 框架已发展成为新一代 AI 基础设施的重要组成部分。从初始版本到备受期待的 NVIDIA DOCA 3.0 发布,每个版本都扩展了
    的头像 发表于 07-04 14:27 956次阅读
    <b class='flag-5'>NVIDIA</b> <b class='flag-5'>DOCA</b> 3.0版本的亮点解析

    NVIDIA Isaac Sim与NVIDIA Isaac Lab的更新

    在 COMPUTEX 2025 NVIDIA 宣布了机器人仿真参考应用 NVIDIA Isaac Sim 和机器人学习框架 NVIDIA Isaac Lab 的更新,以
    的头像 发表于 05-28 10:06 1753次阅读

    第三届NVIDIA DPU黑客松开启报名

    第三届 NVIDIA DPU 中国虚拟黑客松(Hackathon)将于 6 月 28 日 - 6 月 30 日正式开启!作为备受广大开发者期待的年度赛事,它将提供与 NVIDIA
    的头像 发表于 05-27 10:16 743次阅读

    使用NVIDIA RTX PRO Blackwell系列GPU加速AI开发

    NVIDIA GTC 推出新一代专业级 GPU 和 AI 赋能的开发者工具—同时,ChatRTX 更新现已支持 NVIDIA NIM,RTX Remix 正式结束测试阶段,本月的 NVIDIA
    的头像 发表于 03-28 09:59 1072次阅读

    请问有什么外部LED驱动器可以应用在这个DLPC350驱动板

    DLPC350驱动板的LED驱动部分有问题,请问有什么外部LED驱动器可以应用在这个驱动板,适合这个光机系统的?
    发表于 02-20 06:43

    FE1.1S的国产替代芯片DPU1.1S 高性能、低功耗4口高速USB2.0HUB控制器芯片 USB拓展坞等应用之选

    驱动和成本方面具有优势。 主要应用在USB扩展坞、USB延长线、计算机外设、监视器、车载系统、机顶盒领域。 主要特性 -完全兼容USB2.0和USB1.1协议;-系统频率支持480MHz、12MHz
    发表于 01-24 12:16

    利用NVIDIA DPF引领DPU加速云计算的未来

    越来越多的企业开始采用加速计算,从而满足生成式 AI、5G 电信和主权云的需求。NVIDIA 推出了 DOCA 平台框架(DPF),该框架提供了基础构建模块来释放 NVIDIA Blu
    的头像 发表于 01-24 09:29 1273次阅读
    利用<b class='flag-5'>NVIDIA</b> DPF引领<b class='flag-5'>DPU</b><b class='flag-5'>加速</b>云计算的未来

    NVIDIA BlueField-3 DPU运行WEKA客户端的实际优势

    WEKA是可扩展软件定义数据平台的先驱,NVIDIA 正在与其合作,将 WEKA 先进的数据平台解决方案与功能强大的NVIDIA BlueField DPU相结合。
    的头像 发表于 01-07 09:43 1048次阅读
    在<b class='flag-5'>NVIDIA</b> BlueField-3 <b class='flag-5'>DPU</b><b class='flag-5'>上</b>运行WEKA客户端的实际优势