0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

DOCA 1.3上的主要新功能介绍

lPCU_elecfans 来源:电子发烧友网 作者:电子发烧友网 2022-07-12 09:41 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

2022年上半年 NVIDIA DOCA 1.3版本发布,对于开发者们更好地使用DPU,尤其是新一代的英伟达BlueField DPU进行简单灵活的软件开发,有着更好的帮助。7月5日,英伟达的相关技术专家和首届NVIDIA DPU中国黑客松优秀开发者一起线上作了精彩的分享。

DOCA是Data-Center-Infrastructure-On-A-Chip-Architecture的缩写,也就是“线上数据中心基础设施体系结构”。它是一个为BlueField DPU量身定做的软件开发平台,主要的目的是为开发者打造一个全面开放的开发平台,支持广大开发者可以在BlueField DPU上进行简单灵活的软件开发,让开发者可以快速地创建BlueField DPU,加速高性能的一些应用程序和服务。DOCA是依托于面向未来的API驱动的思维模式来构建的,可以让BlueField DPU硬件加速变得更加易用,从而实现非凡的数据中心的性能、效率,还有安全性。DOCA使开发者能够利用行业标准的API,在BlueField DPU上做快速的创建应用程序和服务,类似于我们GPU上的CUDA,它能够解锁数据中心里的创新功能,并且能够更好地向下一代或者未来新一代BlueField DPU来做兼容性和进一步的持续支持。DOCA可以加快应用程序和服务的上市时间,让合作伙伴和客户在各自竞争领域里获得成功。并基于BlueField DPU服务场景发挥关键的灵魂作用,可以释放DPU的潜力。

英伟达网络技术专家崔岩先介绍了NVIDIA DOCA 的前几代软件版本的历史来源。

最早的DOCA 1.0是在2020年GTC秋季大会上,与BlueField-2 DPU一同发布的,后面持续演进到DOCA 1.1版本,更加完善了整个DOCA软件栈,提供了DOCA SDK、运行时、以及DOCA服务。到了DOCA1.2版本,也就是在1.3之前使用的版本,在这个版本上更加加强了在零信任分布式安全解决方案上的支持,直到我们这次5月份新发布的DOCA 1.3,它提供了121个新的API开发接口,也提供了一些全新和增强的功能,包括优化数据流插入的DOCA Flow库、通信通道库、正则表达式库、我们App ShieldSDK、基于OVN的IPSec加密的完全卸载,以及新增的一些DOCA服务,比如HBN,就是我们在DPU上实现了三层的路由功能。

从DOCA软件开发套件来看,它主要是为了来创建和构建应用程序所需的所有组件,包括驱动程序、抽象的API库、各种开发工具、参考源代码、示例程序和开发所需相关的文档,现在到了DOCA 1.3版本,它已经是比较完善的软件栈,开发者可以轻松地基于这个软件栈在本地 BlueField DPU 上或X86的开发容器中搭建开发环境,来快速地开发自己想要实现的应有程序或服务。

DOCA框架能够给开发者提供一个一致的开发体验,既可以统一访问BlueField DPU上各种硬件资源,从而简化网络存储安全和基础设施管理服务相关的开发,开发者也不用担心开发环境的构建和部署复杂程度,基本上DOCA是个即插即用的方式,可以让开发者很容易地来使用这个软件栈。

同时,还为开发者提供了基于底层API抽象封装的高级API库,这样对于开发者来讲,可以大大地节省他的开发时间,更早或更快地来使大的开发应用投入到市场,获得更大的投资收益。当然,DOCA还提供了相应的容器化的DOCA服务,可以在BlueField DPU上直接进行部署,来提供相应的应用和解决方案。客户不需要在DOCA服务上再做进一步的开发。

在线上分享会,专家崔岩特别着重介绍了三个DOCA 1.3上的新功能或增强功能。

图:NVIDIA DOCA 1.3的主要新功能介绍

第一个要介绍的是正则表达式库,这个正则表达式也称为Regular Expression(RegEx),是许多脚本语言使用标准模式匹配的工具,有了它可以创建与文本模式匹配的一些过滤器,而不仅是单个单词或短语的匹配。正则表达式是专为高吞吐量、低延时、深度包检测的应用程序而设计,这些应用程序需要数据包,可以进行负载 检测和异常监测,通过正则表达式模式匹配字符串来实现相应的应用功能。这个正则表达式还可以做一个安全遥测的功能,可以在DOCA1.3上更好地提供一些安全方面的应用,比如应用识别、入侵防御的系统、URL的过滤、文件的扫描、深度数据包检测,以及App Shield的内存扫描。这些都会用到正则表达式库的相应功能,能为这些安全软件开发提供底层的API支持。

第二个需要强调的或者需要介绍的,是我们基于OVN的数据路径加密功能。在我们之前的1.2版本能将主机内的IPsec相应的功能卸载到DPU之上,构建IPsec的控制平面,在vSwitch控制平面上实现IPsec加密和解密。新的增强版本上,我们把这个功能相当于扩展到整个OVN范畴之内,不同主机之间都可以用这个IPsec的方式来创建不同的通道,进行数据的加密,保证数据在不同主机之间传递的时候,它是一个加密的状态。当这个数据达到某个主机时,DPU会把它解密成明文,把这些明文数据再传递给主机侧来为业务应用提供数据。这是OVN数据路径加密的,在DOCA1.3上的一个新增功能。

最后一个要介绍的是DOCA基于主机的网络,我们简称为“HBN”。这个功能是在NVIDIA BlueField DPU上基于主机的网络上可以进行管理和监控同一节点上虚拟机和容器之间的流量,也就是说我们在一个服务器主机上可能创建了多个虚拟机或多个容器,在它们之间会有一些数据流量,不仅是转发二层数据流量,还要实现三层路由功能,我们也把它实现在了BlueField的DPU之上,通过基于主机网络的DOCA服务。而且它还可以做加密和解密,进行节点流量的监控,同时也会把一些原来是依赖以TOR交换机上面的功能也在DPU上面得到了实现,这种方式会彻底改变客户构建和思考整个数据中心网络构建的方式。

随着BlueField DPU智能化程度的提高,在整个网络里把功能都会集中在BlueField DPU之上去做相应的实现,这样就会降低对TOR交换机的相关要求,BlueField DPU还可以提供一个隔离的环境,这样可以做更好的安全性的部署。

归根到底,基于主机的网络HBN它是一个DOCA的服务,像我前面介绍的那样,它实际不需要客户再在上面做过多的开发,直接就可以通过容器的方式可以直接在BlueField DPU上面做部署,通过作为BGP的路由器来使用,可以做主机内的虚拟机或容器之间的三层数据转发路由,也可以对主机外相应的其他节点上的数据进行三层转发,使二层网络和三层网络都得以扩展。当然,也会扩展到云计算里多租户的环境之下。

在整个BlueField DPU上实现了这些动态的路由协议之后,可以大大地加速整个网络数据流量处理性能,同时BlueField DPU还可以提供相应的安全保障,这是HBN会给BlueField DPU和未来客户在数据中心网络部署的时候会带来全新的方式。

分享会上首届NVIDIA DPU中国黑客松亚军团队、优秀开发者代表胡效赫也很高兴地分享了他及其团队使用DOCA的开发经验与心得。

胡效赫是一位来自高校的DPU开发者,其黑客松参赛团队是由一位博士后和两位博士生组成的,研究方向是云计算和分布式系统。“从2020年NVIDIA发布BlueField DPU开始,我们就在关注相关的学术界和业界的信息。今年通过微信上的活动推送,我们得知并有机会参与了首届NVIDIA DPU中国黑客松,并获得了亚军。”

在开发过程中通过专家的指导充分地了解了DPU的硬件特性,DOCA良好的可编程性让开发者可以快速实现并验证创新的想法。同时开发者也可以对DOCA的API进行深度、定制化开发,实现更好的性能和更丰富的功能。

胡效赫介绍说:“我们开发团队提出了DeepTrace项目,面向DPU驱动的基础设施的网包级函数粒度业务可观测性。我们以DOCA提供的网流及粗粒度可观测性为基础,对应的是DOCA中的Netflow API库,结合DPU的高性能网络处理功能,对应的是DPU的ASAP2网包分类引擎,以及DOCA中的Flow API库,以及数据平面和控制平面的可编程能力,将可观测性的力度提升至网包级,并精确到每个函数功能。同时,我们也做到了几乎可以忽略不计的性能损耗。”

“通过DOCA和项目开发来具体介绍我们是如何创新地设计DeepTrace项目的。业务流量首先经过DeepTrace预选器,再经由原始的GPU程序进行处理,在DPU程序中会调用DeepTrace的触发器来实现相应点位的观测,然后被观测的数据会被汇总收集至分析器,通过数据的重组和分析得到相应的结果,比如得到异常流量的检测以及业务问题的定位等。基于DOCA开发DeepTrace的整体编程模式和在CPU上进行DPDK网络功能的开发功能类似,这种模式提高了我们的开发效率。”

“具体来看,其中触发器部分的挑战是如何以最小的代价收集链式函数和网包的信息,我们采用的方案是以统一化、轻量化的函数内触发器实现,具体在开发过程中,我们将DOCA的NetFlow库修改为网包粒度,而需要观测的函数以API的形式调用触发器即可。”

“在预选器部分的挑战是如何处理大规模原始流量,并在函数链中记录网包。我们采用的方案是通过硬件卸载的预选器进行标记和过滤。具体在开发过程中我们调用DOCA的Flow库配置所需预选的颗粒规则即可实现,因为预选功能实际由硬件卸载完成。所以,方案带来的性能损耗几乎可以忽略不计划。在分析器部分,我们由运行在ARM控制平面的开源开放工程实现。”

对于DOCA开发者免费使用卓越中心的DOCA开发环境的开放时间和规则,主办方也在线上作了解释。具体可以参考以下的两张PPT截图,供NVIDIA的DPU开发者参考。

卓越中心的运营方仍然还是之前所授权的两家公司:丽台信息和信弘智能科技。

NVIDIA网络与AI产品的最新进展,元宇宙最火的硬件平台原来是它!

NVIDIA网络市场总监孟庆也在分享会上顺便介绍了一下公司网络产品最新进展,包括在众多开源联盟参与标准建设、开放网络软件等方面的进展,以及NVIDIA成为Linux基金会OPI项目创始成员等。

也提到了NVIDIA在全球Top 500超级计算机互连中占主导地位的成就,如上图所示。有197个 Top 500强系统中采用了NVIDIA InfiniBand 网络。

孟庆还介绍了Spectrum-4 400Gbps 端到端以太网平台,其中包括 Spectrum-4 交换机、ConnectX-7智能网卡、BlueField-3 DPU及相关软件可以有力支撑炙手可热的元宇宙(Omniverse)。“在数字孪生里,Omniverse标准的OVX SuperPod,我们采用的方案必须得是Spectrum-4 400G这套网络平台这样才能更好的实现您所需的数字孪生,由数字人-数字机器-物理世界做相应的互联”孟庆说。

原文标题:NVIDIA DOCA 1.3版本发布 元宇宙最火开发利器现身

文章出处:【微信公众号:电子发烧友网】欢迎添加关注!文章转载请注明出处。

审核编辑:彭静
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 软件
    +关注

    关注

    69

    文章

    5297

    浏览量

    90868
  • DPU
    DPU
    +关注

    关注

    0

    文章

    407

    浏览量

    26192
  • 代码
    +关注

    关注

    30

    文章

    4941

    浏览量

    73136

原文标题:NVIDIA DOCA 1.3版本发布 元宇宙最火开发利器现身

文章出处:【微信号:elecfans,微信公众号:电子发烧友网】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    Amazon Connect发布多项Agentic AI新功能 打造无缝客户体验

    亚马逊云科技在2025 re:Invent全球大会上,宣布Amazon Connect推出多项Agentic AI新功能,覆盖四大领域:可在语音与数字渠道自主执行操作的自动化AI Agent;可
    的头像 发表于 12-05 15:51 79次阅读

    使用Firebase AI Logic生成图像模型的两种新功能

    为您的应用添加自定义图像,能够显著改善和个性化用户体验,有效提高用户参与度。本文将探讨使用 Firebase AI Logic 生成图像的两种新功能: 其一是 Imagen 专属编辑功能预览版;其二
    的头像 发表于 11-30 09:28 205次阅读

    KiCad 10 会有哪些新功能(二)?

    “   明年正式发布前会不定期更新 KiCad 10 的新功能,有兴趣的小伙伴可以下载 nightly 尝鲜。  ”   后退键依次删除线段 即使不是在布线的状态下,后退键(backspace)也
    的头像 发表于 09-24 11:16 767次阅读
    KiCad 10 会有哪些<b class='flag-5'>新功能</b>(二)?

    蔡司软件 | ZEISS CALYPSO在航空航天行业的实用新功能

    蔡司软件 | ZEISS CALYPSO在航空航天行业的实用新功能
    的头像 发表于 08-08 15:37 640次阅读
    蔡司软件 | ZEISS CALYPSO在航空航天行业的实用<b class='flag-5'>新功能</b>

    API如何加速电商新功能上线

    ​ 在电子商务领域,竞争日益激烈,用户需求变化迅速。企业必须快速推出新功能,如个性化推荐、实时库存更新或无缝支付体验,以保持竞争力。传统开发模式往往耗时费力,但通过应用编程接口(API),电商企业能
    的头像 发表于 07-18 10:21 324次阅读
    API如何加速电商<b class='flag-5'>新功能</b>上线

    NVIDIA DOCA 3.0版本的亮点解析

    NVIDIA DOCA 框架已发展成为新一代 AI 基础设施的重要组成部分。从初始版本到备受期待的 NVIDIA DOCA 3.0 发布,每个版本都扩展了 NVIDIA BlueField DPU 和 ConnectX SuperNIC 的
    的头像 发表于 07-04 14:27 951次阅读
    NVIDIA <b class='flag-5'>DOCA</b> 3.0版本的亮点解析

    【文章转载】CANoe产品体系19版本新功能(下) - 基础功能与XIL测试

    新版本持续为智能电动网联汽车软件开发测试带来全新功能,IDE开发环境支持.NET8.0、Python、MATLAB2024b,VisualStudioCode集成测试开发和调试功能,支持
    的头像 发表于 06-25 10:03 1327次阅读
    【文章转载】CANoe产品体系19版本<b class='flag-5'>新功能</b>(下) - 基础<b class='flag-5'>功能</b>与XIL测试

    【HarmonyOS 5】应用更新功能详解

    与迭代需求的优选方案。这类弹窗主要用于向用户推送新版本更新通知,而在引导用户完成更新操作的实现层面,HarmonyOS 提供了完善的应用市场能力支撑,例如本文所介绍的 updateManager(更新功能
    发表于 06-22 18:44

    软件更新 | 你期待的新功能来了!TSMaster 202502 新版本亮点抢先看!

    备受期待的TSMaster202502最新版终于来了!在本月更新中,我们为用户带来了超多全新功能,旨在进一步提升软件的性能、灵活性与用户体验。接下来,我们将为您详细介绍本次更新的亮点内容,帮助
    的头像 发表于 03-07 20:03 1106次阅读
    软件更新 | 你期待的<b class='flag-5'>新功能</b>来了!TSMaster 202502 新版本亮点抢先看!

    亚马逊云科技发布Amazon Bedrock新功能

    近日,亚马逊云科技宣布了一项重要更新——为其完全托管的Amazon Bedrock服务增添了多项创新功能。Amazon Bedrock旨在通过高性能基础模型,助力用户轻松构建并扩展生成式人工智能
    的头像 发表于 12-25 15:52 767次阅读

    Amazon Q Business新功能发布,助力企业提效

    近日,在备受瞩目的2024年亚马逊云科技re:Invent全球大会上,一款旨在提升企业内部工作效率的强大工具——Amazon Q Business,迎来了全新功能的发布。 Amazon Q
    的头像 发表于 12-24 10:42 871次阅读

    亚马逊云科技发布Amazon S3新功能

    托管的、支持Apache Iceberg的云对象存储服务,为数据分析领域树立了新的标杆。 新功能的核心在于,Amazon S3不仅进一步提升了数据分析的速度,还为存储和管理任何规模的表格数据提供了前所未有的便捷方式。这一改进使得数据科学家和分析师能够更高效地处理和分析数
    的头像 发表于 12-20 11:03 913次阅读

    带您了解SIMULIA CST 电磁仿真软件 2025新功能 微辰三维

    SIMULIA CST 2025新功能上线,带您“零帧起手”电磁仿真.
    的头像 发表于 12-19 22:13 2322次阅读

    Amazon Q Business发布新功能 助力企业提升内部工作效率

    新功能旨在提升Amazon Q Business和Amazon Q in QuickSight的洞察能力,增强跨应用的生成式AI体验,为流行的商业应用提供50余种操作,并简化复杂工作流程的自动化方式
    的头像 发表于 12-19 15:29 722次阅读

    微软新功能:Windows与iPhone互联

    微软近期透露了一项创新功能,旨在让Windows用户能够像使用苹果的AirDrop一样,在iPhone与PC之间便捷地传输文件。这一名为Phone Link的应用,是微软专为Windows平台打造
    的头像 发表于 12-12 11:42 1209次阅读