0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

NVIDIA DOCA 软件框架可提供一致开发体验

科技绿洲 来源:NVIDIA英伟达 作者:NVIDIA英伟达 2022-06-20 11:24 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

NVIDIA DOCA 软件框架包括了对 NVIDIA BlueField DPU (数据处理器)进行编程所需的一切,无论开发环境如何都能提供一致的开发体验。NVIDIA 提供以下资源:

开发者计划

SDK Manager 支持

工具汇总:

编译器

基准测试

API 参考及程序员指南

参考应用程序

使用案例

NVIDIA 通过为开发者提供 DOCA SDK 和为快速部署提供 DOCA 运行时软件来交付软件堆栈。

选择 DOCA 驱动程序还是 DOCA 库?

DOCA 驱动程序和 DOCA 库是关键组件,适用于开发人员、IT 安全和运营团队,以及 IT 管理员。它们被用于在 DPU 上开发和部署软件定义、硬件加速的应用程序。但是,有时会收到关于如何正确使用它们的问题。

为了确保没有混淆,并确定哪种方式可能最适合您的开发需求,这篇文章将讨论何时使用哪种方式。

pYYBAGKv6ECAC1ptAACkB7ZCgTQ525.png

表 1 。 DOCA 驱动程序与 DOCA 库

表 1 比较了驱动程序和库,并强调了各自的优缺点。本质上讲,DOCA 驱动程序提供了更大的定制空间,而 DOCA 库的设计旨在以更低的编码复杂性提供最佳的每个用例性能和可扩展性。

DOCA 库

首先,DOCA 库是针对特定用例优化的高级抽象 API 。库可以通过更短的开发时间和上市时间来实现优异的性能。它们还包括各种指南和示例应用程序,在用于开发时比 DOCA 驱动程序的学习时间更短。

NVIDIA 库已预先加速。它们使您能够快速构建各种应用程序,并显著提高性能,因为已针对指定用例创建和调整了逻辑。它们还确保了多代兼容性,这在使用 DOCA 驱动程序时是无法保证的。

这些库旨在解决特定的用例,如防火墙、网关或存储控制器。它们使用 PMD 和 DPDK ,并包含 DPDK 或驱动程序级别不存在的附加功能和逻辑。

例如,如果您使用 RegEx 识别用于深度数据包检测(DPI)的复杂字符串模式,DOCA DPI 库包括预处理(数据包头解析)和后处理例程,以便更容易使用 RegEx 加速器对网络数据包执行操作。而 DPDK RegEx API 并不包含任何这些。DOCA DPI 库 API 是抽象的,更易于开发数据包检测例程,因为不需要了解逻辑。

DOCA 库使您能够选择具有内置硬件加速功能的首选 API 。DOCA 1.3 的当前版本包括 120 多个 DOCA API :

零信任安全框架

遥测加速服务

流式服务实现实时可见性

这些服务可通过 NGC Catalog 获得,并可在几分钟内部署到 NVIDIA BlueField DPU 上。

这些库的价值是通过运行时环境、DOCA 服务和一组扩展的文档来实现的。典型的库用户不应开发应用程序,而是利用 NVIDIA 或第三方提供的现有应用程序和服务。

DOCA 服务是由多个项目组成的容器化驱动程序和库,可以作为服务运行以提供特定功能。每个服务都提供不同的功能,例如 DOCA 遥测 API ,它可以在几分钟内从 NGC 目录中获取。它提供了一种快速便捷的方式来收集用户定义的数据并将其传输到 DOCA 遥测服务(DTS)。

此外,为了方便用户,API 还提供了几个内置输出,包括将数据直接保存到存储、NetFlow 、Fluent Bit Forwarding 和 Prometheus endpoint 。

这些库中的每一个都共享对象,并且除了它们各自使用 PMD 驱动程序之外,没有以任何方式绑定。同样,每个都有一个公共基础设施,每个都有自己的文档和程序员指南。

DOCA 驱动程序和 DOCA SDK

虽然库消除了低级编程,但它们可能不支持您正在寻找的所有特性和功能,因此 NVIDIA 提供了 DOCA 驱动程序。DOCA 驱动程序是基于开源的,如果您正在开发自己的解决方案或必须创建独特的解决方案,则可以提供更大的灵活性。

NVIDIA 驱动程序是为开发人员设计的,通过 DOCA SDK 提供。SDK 包括创建和构建应用程序所需的所有组件,包括参考应用源程序、开发工具、文档和 NVIDIA SDK Manger 。SDK Manager 支持快速部署开发环境,还可以将映像刷写并安装到本地 DPU 。

开发人员容器支持在任何地方开发 DOCA 加速的应用程序。您不必在 DPU 上的 Arm 处理器上执行此操作。在不具有物理 DPU 的主机上,您可以在开发者容器中执行此操作,该容器模拟 Arm 处理器。NVIDIA 提供了详细的文档、示例和 API 兼容性。

DOCA SDK 是利用 DOCA 库和驱动程序并创建独特的个性化软件,以满足应用程序开发需求的最有效方法。

DOCA 运行时也可用于验证和测试应用程序。

DOCA 运行时

如果您尚未准备好或无法将应用程序移植到 Arm 体系结构,NVIDIA 将为 x86 提供 DOCA 运行时。在这种情况下,gRPC 客户端在 DPU 上运行,并与 x86 运行时建立通信通道。应用程序可以访问 DPU 运行时组件,而无需编译任何 Arm 代码。

poYBAGKv6EyAXGzCAADD_DJFGxc456.png

图 1. NVIDIA DOCA 软件堆栈

软件定义、硬件加速的基础架构

DOCA 简化了 BlueField DPU 的编程和应用程序开发,并通过提供更高级别的抽象来消除障碍。通过提供运行时二进制文件和高级 API ,DOCA 框架使您能够专注于应用程序代码,而不是学习。

您可以选择两种开发路线:通过库和服务或通过 SDK 和驱动程序。目前,DOCA 软件栈包括 120 多个 DOCA API ,全球 2500 多名 DOCA 开发者正在使用这些 API 。它们可通过 NGC Catalog 获得。

如果您是 DOCA 的新手,NVIDIA 提供免费的自主课程,使用DOCA 开发DPU 应用入门,它涵盖了 DOCA 平台的基本要点。

审核编辑:彭静
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • NVIDIA
    +关注

    关注

    14

    文章

    5496

    浏览量

    109095
  • 软件
    +关注

    关注

    69

    文章

    5298

    浏览量

    90884
  • DPU
    DPU
    +关注

    关注

    0

    文章

    407

    浏览量

    26208
  • 驱动程序
    +关注

    关注

    19

    文章

    868

    浏览量

    49958
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    NVIDIA宣布开源Aerial软件

    NVIDIA 开源其 Aerial 软件,并将 NVIDIA Sionna 研究套件和 Aerial 测试平台引入 NVIDIA DGX Spark 平台,为研究人员
    的头像 发表于 11-03 15:14 573次阅读

    NVIDIA Isaac Lab多GPU多节点训练指南

    NVIDIA Isaac Lab 是个适用于机器人学习的开源统框架,基于 NVIDIA Isaac Sim
    的头像 发表于 09-23 17:15 1982次阅读
    <b class='flag-5'>NVIDIA</b> Isaac Lab多GPU多节点训练指南

    自动驾驶感知不一致是怎么发生的?

    ,可能会造成感知不一致。所谓感知不一致,就是车上不同“眼睛”对同件事看法不一致。打个比方,摄像头说前面有个人,激光雷达回来的点云却很稀疏,毫米波雷达也测到
    的头像 发表于 09-17 12:45 443次阅读
    自动驾驶感知不<b class='flag-5'>一致</b>是怎么发生的?

    镜头不一致的问题原因分析

    在机器视觉系统的视界,镜头一致性犹如维系整个生态的隐形生命线,贯穿于光学成像、图像处理到智能决策的全链路,其细微波动足以颠覆整个检测系统的可靠性。当工业界热衷于讨论算法精度与算力突破时,镜头这基础光学元件的一致性也是视觉工程师
    的头像 发表于 09-11 09:45 691次阅读

    NVIDIA Omniverse Extension开发秘籍

    NVIDIA Omniverse 是个模块化平台,使用高级 API 和微服务来构建由 OpenUSD 和 NVIDIA RTX 提供支持的 3D 应用。OpenUSD 功能强大的 3
    的头像 发表于 08-22 15:52 3395次阅读
    <b class='flag-5'>NVIDIA</b> Omniverse Extension<b class='flag-5'>开发</b>秘籍

    操作笔记 | GNSS模拟仿真软件Skydel如何让所有卫星输出的功率一致

    德思特提供的Skydel仿真平台提供灵活的GNSS信号功率配置方案,支持真实场景模拟和功率一致性测试两种模式,通过GUI界面或API接口快速设置,满足不同测试场景需求,助力卫星导航设备精准验证。
    的头像 发表于 07-18 10:24 337次阅读
    操作笔记 | GNSS模拟仿真<b class='flag-5'>软件</b>Skydel如何让所有卫星输出的功率<b class='flag-5'>一致</b>?

    NVIDIA DOCA 3.0版本的亮点解析

    NVIDIA DOCA 框架已发展成为新代 AI 基础设施的重要组成部分。从初始版本到备受期待的 NVIDIA
    的头像 发表于 07-04 14:27 960次阅读
    <b class='flag-5'>NVIDIA</b> <b class='flag-5'>DOCA</b> 3.0版本的亮点解析

    CAN总线采样点不一致的危害

    、遵循行业标准 CiA推荐采样点为87.5%,并提供详细的位定时指南(如CiA 601-3文档)。工程师应参考这些标准,确保所有节点配置一致。 为确保网络可靠性,工程师必须为所有节点配置一致的位定时
    发表于 06-07 08:55

    第三届NVIDIA DPU黑客松开启报名

    碰撞的绝佳机会。本次竞赛采用开放式主题,参与者将通过 NVIDIA DOCA 软件框架构建创新的加速应用程序,充分挖掘 NVIDIA Blu
    的头像 发表于 05-27 10:16 744次阅读

    采样点不一致:总线通信的隐形杀手

    在CAN、CANFD信号波形不稳定或非理想环境下,采样点不一致成为总线通信中的关键隐患,本文分析了采样点偏移对总线的影响,并提出优化同步策略以提高通信可靠性,为总线设计提供重要参考。为什么采样点如此
    的头像 发表于 05-19 11:44 829次阅读
    采样点不<b class='flag-5'>一致</b>:总线通信的隐形杀手

    NVIDIA将为每家AI工厂提供网络安全

    NVIDIA DOCA Argus 框架可检测 AI 工作负载中的威胁并对之做出响应,同时与企业安全系统无缝集成,从而提供实时洞察。
    的头像 发表于 05-07 15:11 797次阅读
    <b class='flag-5'>NVIDIA</b>将为每家AI工厂<b class='flag-5'>提供</b>网络安全

    一致性校正与边缘融合拼接

    电子发烧友网站提供《差一致性校正与边缘融合拼接.pdf》资料免费下载
    发表于 04-10 18:02 0次下载

    YOLOv5类中rgb888p_size这个参数要与模型推理和训练的尺寸一致吗?一致会达到更好的效果?

    YOLOv5类中rgb888p_size这个参数要与模型推理和训练的尺寸一致吗,一致会达到更好的效果
    发表于 03-11 08:12

    对DLPC3433的寄存器进行操作的时候出现写入数据和读数据不一致的情况,怎么解决?

    我在对DLPC3433的寄存器进行操作的时候出现写入数据和读数据不一致的情况。 例如 向(Write Local Area Brightness Boost Control (80h))寄存器写入
    发表于 02-21 07:54

    利用NVIDIA DPF引领DPU加速云计算的未来

    DPU 的强大功能,并优化 GPU 加速计算平台。作为种编排框架和实施蓝图,DPF 使开发者、服务提供商和企业能够无缝构建 BlueField 加速的云原生
    的头像 发表于 01-24 09:29 1278次阅读
    利用<b class='flag-5'>NVIDIA</b> DPF引领DPU加速云计算的未来