0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

利用NVIDIA AI Enterprise IGX在边缘赋能任务关键型AI

NVIDIA英伟达企业解决方案 来源:NVIDIA英伟达企业解决方案 2024-04-26 09:46 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

NVIDIA SDK 在加速智慧城市、医疗和机器人等领域的 AI 应用方面发挥了重要作用。然而,要实现可在边缘部署的生产级 AI 解决方案来为人类与机器的协作提供安全可靠的支持,就需要同时具备针对企业需求量身定制的高质量硬件和软件。

NVIDIA 再次为边缘任务关键型 AI 应用加速。NVIDIA AI Enterprise IGX 是一款可在 NVIDIA IGX 平台上运行边缘 AI 的企业级软件解决方案。

NVIDIA IGX 为您的工业级硬件提供超快的 AI 性能和高吞吐量数据处理能力,同时还具备边缘所需的尺寸和功耗,以及强大的边缘安全性、远程易管理性和内置安全机制。

NVIDIA IGX 与 NVIDIA AI Enterprise的集成使边缘 AI 更易于访问、更高效且更适合企业使用。

企业对边缘 AI 的需求

AI 堆栈由许多第三方应用和开源软件(OSS)组成并依赖于它们。鉴于其复杂性与日益增加的依赖性,维护 AI 软件堆栈的安全和稳定已成为一项艰巨的任务,这项资源密集型的任务阻碍了企业的 AI 创新步伐。

以下是一些需要考虑的因素:

稳定性和可靠性

安全性和威胁减轻措施

监管问题

稳定性和可靠性

了解软件包内的所有依赖关系对于保持 API 的稳定性来说至关重要。任何第三方和开放源码软件包的更改,都可能需要随后对 API 进行更改,而这可能会破坏堆栈。这种依赖关系网使企业几乎不可能在部署中实现最新开源版本的标准化。

安全性和威胁减轻措施

不断扩大的软件依赖性增加了引入软件漏洞的风险。这些漏洞可能导致后果严重的攻击,如数据泄露、服务中断和巨大的经济损失等。

2022 年报告的关键漏洞数量共计 4,135 个,较 2021 年增加了 59%。在延迟、隐私、带宽和监管要求方面具有更高标准的行业也不能幸免于难。根据《临床医生对医疗网络安全和网络威胁的看法》一文,2019 年有 24% 的网络攻击发生在医疗行业,2022 年,针对医院的网络攻击激增。

监管问题

许多受到高度管制的行业都对 AI 软件的维护制定了严格的规定。

例如,航空航天领域越来越多地将 AI 用于导航系统和飞行控制算法,通过严格的指导来保证持续的监控与更新,以保持系统的完整性和安全标准。

在医疗行业,AI 驱动的治疗和诊断工具同样必须遵守严格的维护协议,以保证医疗决策过程的准确性和可靠性。

NVIDIA AI Enterprise IGX

NVIDIA AI Enterprise IGX是专为在 NVIDIA IGX Orin 平台上运行关键任务应用而打造的软件解决方案。

它为整个软件堆栈提供了无与伦比的性能、安全性、稳定性和支持,使企业不再需要为维护和保护复杂的 AI 软件平台而头疼,这不仅简化了 AI 赋能的运营,还让企业能够更加放心地大规模部署 AI 应用。

在 NVIDIA AI Enterprise 成功应用于数据中心和云的基础上,NVIDIA AI Enterprise IGX 的推出将这些优势扩展到了边缘。

作为一款工业级的高性能企业级边缘解决方案,NVIDIA AI Enterprise IGX 与 NVIDIA IGX 一起为各种固件、操作系统、驱动程序、AI 框架、SDK 和库提供全面的端到端软件支持。借助专为 NVIDIA IGX 打造的稳定软件分发,您就可以在关键用例所要求的更长时段内获得软硬件支持。除了能够从单一的来源获得支持外,您还能获得长期 API 稳定性和一致的软件物料清单(SBOM)。

加入企业支持的价值在于提供能够及时解决技术问题的方案,确保边缘 AI 系统的稳定性和可靠性,避免因停机而导致重大经济损失或运营中断。

1e7bcaec-030b-11ef-a297-92fbcf53809c.png

图 1. NVIDIA AI Enterprise IGX 和 NVIDIA IGX 平台

NVIDIA AI Enterprise IGX 包含基本的 AI 库和 SDK,例如 NVIDIA TensorRTTensorFlow、PyTorch、NVIDIA Triton推理服务器Holoscan 和企业 Ubuntu Linux 操作系统等。

此外还有两个附加选项:

Yocto:适用于部署 Yocto 的企业。

功能安全:在安全、人员和财产至关重要的领域(如工业制造),可确保系统能够利用主动和被动安全策略保护关键资产和人员生命安全。

NVIDIA AI Enterprise IGX 专门用于帮助企业在构建尖端技术的同时,降低总体拥有成本(TCO)、加快产品上市速度并全面提高产品开发效率。

它具有灵活的软件分支,可提供符合您行业需求和产品开发周期的选择:

生产分支:通过每月的安全更新确保 API 的稳定性。这些分支非常适合在需要稳定性的生产环境中部署 AI,每 6 个月发布一次,生命周期为 9 个月。

长期支持分支:通过每季度的安全更新来支持长期应用生命周期。这些分支最适合用于受到高度监管的 AI 应用,每两年半发布一次,生命周期长达 10 年。

在充满挑战且复杂的边缘 AI 开发过程中,该解决方案提供了一条行之有效的 AI 成功路径。



审核编辑:刘清

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 机器人
    +关注

    关注

    213

    文章

    30619

    浏览量

    219684
  • NVIDIA
    +关注

    关注

    14

    文章

    5496

    浏览量

    109117
  • 控制算法
    +关注

    关注

    4

    文章

    170

    浏览量

    22591
  • pytorch
    +关注

    关注

    2

    文章

    813

    浏览量

    14707

原文标题:利用 NVIDIA AI Enterprise IGX 在边缘赋能任务关键型 AI

文章出处:【微信号:NVIDIA-Enterprise,微信公众号:NVIDIA英伟达企业解决方案】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    RK3576驱动高端显控系统升级:多屏拼控与AI视觉融合解决方案

    ,是高端显控系统的理想核心。 关键特性显控场景 三屏异显输出:兼容 HDMI、DP、LVDS、MIPI-DSI 等多种接口,可独立驱动三块显示屏,满足不同任务界面、监控画面和交互窗
    发表于 11-21 17:51

    NVIDIA IGX Thor机器人处理器重磅发布

    IGX Thor 基于 NVIDIA Blackwell 架构,可为工业、机器人开发和医疗应用提供实时 AI 性能、安全性和可靠性。
    的头像 发表于 11-03 14:40 550次阅读

    NVIDIA IGX Thor 机器人处理器将实时物理 AI 引入工业和医疗边缘场景

    NVIDIA IGX Thor,这是一个功能强大的工业级平台,专为将实时物理 AI 直接部署于边缘端而打造。该平台将高速传感器
    的头像 发表于 10-29 10:31 920次阅读
    <b class='flag-5'>NVIDIA</b> <b class='flag-5'>IGX</b> Thor 机器人处理器将实时物理 <b class='flag-5'>AI</b> 引入工业和医疗<b class='flag-5'>边缘</b>场景

    工业视觉网关:RK3576多路检测与边缘AI

    ,将 “多路检测 + 硬编硬解 + 边缘AI + MES集成” 融为一体:保障画质与时延的同时,显著降低系统复杂度与总体成本,并以数据闭环驱动良率持续提升。
    发表于 10-16 17:56

    AI6G与卫星通信:开启智能天网新时代

    需求?传统网络会因流量激增而拥堵,而AI的6G网络则能提前预测流量模式,动态调整资源分配。 AI算法能够实时分析海量数据,包括用户位置、网络负载、历史流量模式等。
    发表于 10-11 16:01

    爱立信展示AI5G的创新成果

    近日,波士顿举行的一场专属活动中,爱立信重点展示了AI的5G创新成果、任务关键
    的头像 发表于 09-24 14:05 7630次阅读

    【「AI芯片:科技探索与AGI愿景」阅读体验】+AI的科学应用

    AI被赋予了人的智能,科学家们希望没有人类的引导下,AI自主的提出科学假设,诺贝尔奖级别的假设哦。 AI驱动科学被认为是科学发现的第五个范式了,与实验科学、理论科学、计算科学、数据驱
    发表于 09-17 11:45

    AI 边缘计算网关:开启智能新时代的钥匙​—龙兴物联

    智能化决策的关键。卷积神经网络图像识别方面表现卓越,智能工厂产品质量检测中,快速准确识别产品缺陷;循环神经网络擅长处理时间序列数据,可对设备故障进行精准预测。
    发表于 08-09 16:40

    全球各大品牌利用NVIDIA AI技术提升运营效率

    欧莱雅、LVMH 集团和雀巢利用 NVIDIA 加速的智能体 AI 和物理 AI,大幅提升产品设计、营销及物流等方面的运营效率。
    的头像 发表于 06-19 14:36 973次阅读

    NVIDIA携手合作伙伴提升AI智能体的交互能力

    NVIDIA Enterprise AI Factory 的经验证设计和全新的 NVIDIA AI Blueprint 可帮助企业部署具有沟
    的头像 发表于 05-22 09:52 808次阅读

    Deepseek海思SD3403边缘计算AI产品系统

    海思SD3403边缘计算AI框架,提供了一套开放式AI训练产品工具包,解决客户低成本AI系统,针对差异化AI 应用场景,自己采集样本数据,进
    发表于 04-28 11:05

    NVIDIA AI Enterprise助力AI智能体重构工作模式

    无论是为人道主义援助、客户服务还是医疗健康而开发,基于NVIDIA AI Enterprise软件平台构建的 AI 智能体构成了新型数字劳动力,帮助专业人士以更低的成本、更大的影响力来
    的头像 发表于 03-25 14:59 841次阅读

    Banana Pi 发布 BPI-AI2N &amp; BPI-AI2N Carrier,助力 AI 计算与嵌入式开发

    架构,多场景应用 BPI-AI2N 采用 RZ/V2N 处理器,集成 4 核 Arm® Cortex®-A55(1.8GHz)与 Cortex®-M33(200MHz),提供强劲的计算能力,同时兼顾
    发表于 03-19 17:54

    当我问DeepSeek AI爆发时代的FPGA是否重要?答案是......

    相比,FPGA执行特定任务时功耗更低,效比更高。这对于需要长时间运行且对功耗敏感的应用(如物联网设备、边缘计算设备)尤为重要。 2.灵活性与定制化 • 可编程性:FPGA的核心优势
    发表于 02-19 13:55

    AI边缘网关:开启智能时代的新蓝海

    在数字化转型的浪潮中,AI边缘计算的结合正掀起一场深刻的产业变革。边缘网关作为连接物理世界与数字世界的桥梁,AI技术的加持下,正从简单的
    发表于 02-15 11:41