0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

基于NVIDIA Jetson的AIR-020 AI推理系统

星星科技指导员 来源:嵌入式计算设计 作者:嵌入式计算设计 2022-07-11 10:02 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

随着世界对智能需求的增加,实时边缘计算不再仅仅指数据处理。它越来越多地暗示着人工智能

在交通监控、缺陷/质量检查、人数统计、医学成像或自主移动机器人 (AMR) 等应用中,对边缘 AI 的需求也意味着对低延迟、最低功耗和足够散热的要求——当然,在可能的最高性能水平。

研华AIR-020 系列边缘 AI 盒子通过为边缘计算用户提供基于 NVIDIA Jetson 硬件生态系统的可扩展硬件组合来实现这一目标。借助基于 Jetson Nano、Jetson TX2 NX 和 Jetson Xavier NX 模块的 SKU,AIR-020 系列可在 5W 热设计功率 (TDP) 下提供 472 GFLOP 的推理性能,一直到 15W 下的 21 TOP 139 x 110 x 44.5 毫米(5.47“ x 4.33” x 1.75“)封装。

AIR-020 系列 SKU 包括:

AIR-020N – 基于 Jetson Nano,AIR-020N 配备 128 个 CUDA 内核 Maxwell GPU 和四核 1.43 GHz Arm Cortex-A57 CPU、4 GB LPDDR4 内存和 16 GB eMMC 闪存,用于基准测试 512 GFOLP 的浮动- 第 16 点表现。

AIR-020T – 基于 Jetson TX2 NX,AIR-020T 包括 256 个 CUDA GPU 内核、双核 Arm Denver 2 和四核 Arm Cortex-A57 内核,运行频率为 2 GHz,以及 4 GB LPDDR4 内存和 16 GB eMMC闪存基准为 1.33 TFLOPS

AIR-020X – 基于 Jetson Xavier NX,AIR-020X 利用 384 Volta CUDA GPU 内核、48 个 Tensor 内核、六核 Arm v8.2 Carmel CPU、8 GB LPDDR4 内存和 16 GB eMMC Flash对 21 TOPS 的整数 8 分辨率性能进行了基准测试。

在整个系列中,用户可以期待包含一个或多个的 I/O 和接口

USB:USB 3.2 Type A/C、MicroUSB

网络:千兆以太网

显示:HDMI

串口:RS-232/422/485,CANbus

扩展:带 Nano SIM 插槽的全尺寸 MiniPCIe

这些功能与上述以视觉为中心的用例相结合,可实现高达每秒 1058 帧 (fps) 的性能速率。

研华 AIR-020 边缘人工智能系统在行动

然而,对于以 AI 为中心的应用程序,可以在随附的存储驱动器中添加高达 128 GB 的外部存储,该存储驱动器插入板载 M.2 插槽,允许处理器随意访问更大的 AI 模型和数据集。

在软件方面,这些平台运行 Ubuntu 18 的长期支持版本,该版本使用 JetPack SDK 和 Advantech 的 Edge AI Suite 4.5.1 版本进行开发。无代码、基于 GUI 的 Edge AI 套件包括推理引擎和对 OpenVINO 工具包的支持、预训练的 AI 模型和部署向导,而 JetPack SDK 包括 CUDA X 加速库和深度学习计算机视觉、和多媒体 API

这些平台还配备了安全技术,例如安全启动和可信计算集团 (TCG) 可信平台模块安全元素的 2.0 版,以保护设备上静态或跨物联网基础设施传输的敏感信息。

硬件和软件功能共同促进了当今智能远程计算应用程序可用的一些最先进的智能。

运行时,AIR-020 系列支持 12-24V 直流电源输入,可在 -10 至 55°C 的温度范围内运行。它的振动额定为 3 Grms @ 5 ~ 500 Hz。

研华 AIR-020 边缘人工智能系统入门

与研华的 AIR-020 系列边缘 AI 推理系统一起提供的综合软件包还包括用于快速启动的 Linux 板卡支持包 (BSP),因此应用程序开发可以立即开始。当然,它并不止于此,在 Advantech Edge AI Suite 和 JetPack 社区生态系统中提供了大量演示、教程、应用说明等。

审核编辑:郭婷

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • AI
    AI
    +关注

    关注

    89

    文章

    38121

    浏览量

    296676
  • 人工智能
    +关注

    关注

    1813

    文章

    49741

    浏览量

    261562
  • 深度学习
    +关注

    关注

    73

    文章

    5590

    浏览量

    123911
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    如何在NVIDIA Jetson AGX Thor上通过Docker高效部署vLLM推理服务

    系统安装与环境配置后,本期我们将继续带大家深入 NVIDIA Jetson AGX Thor 的开发教程之旅,了解如何在 Jetson AGX Thor 上,通过 Docker 高效
    的头像 发表于 11-13 14:08 3058次阅读
    如何在<b class='flag-5'>NVIDIA</b> <b class='flag-5'>Jetson</b> AGX Thor上通过Docker高效部署vLLM<b class='flag-5'>推理</b>服务

    NVIDIA Jetson AGX Thor Developer Kit开发环境配置指南

    NVIDIA Jetson AGX Thor 专为物理 AI 打造,与上一代产品 NVIDIA Jetson AGX Orin 相比,生成式
    的头像 发表于 11-08 09:55 6023次阅读
    <b class='flag-5'>NVIDIA</b> <b class='flag-5'>Jetson</b> AGX Thor Developer Kit开发环境配置指南

    通过NVIDIA Jetson AGX Thor实现7倍生成式AI性能

    Jetson Thor 平台还支持多种主流量化格式,包括 NVIDIA Blackwell GPU 架构的新 NVFP4 格式,有助于进一步优化推理性能。该平台同时支持推测解码等新技术,为在边缘端加速生成式
    的头像 发表于 10-29 16:53 1047次阅读

    BPI-AIM7 RK3588 AINvidia Jetson Nano 生态系统兼容的低功耗 AI 模块

    。它是开源硬件,我们已在线发布设计文档,包括原理图和接口定义。其异构计算架构兼容 NVIDIA Jetson Nano 接口标准,非常适合边缘计算、AI 推理、VR/AR、智能 NVR
    发表于 10-11 09:08

    BPI-AIM7 RK3588 AINvidia Jetson Nano 生态系统兼容的低功耗 AI 模块

    。它是开源硬件,我们已在线发布设计文档,包括原理图和接口定义。其异构计算架构兼容 NVIDIA Jetson Nano 接口标准,非常适合边缘计算、AI 推理、VR/AR、智能 NVR
    的头像 发表于 10-11 09:06 548次阅读
    BPI-AIM7 RK3588 <b class='flag-5'>AI</b>与 <b class='flag-5'>Nvidia</b> <b class='flag-5'>Jetson</b> Nano 生态<b class='flag-5'>系统</b>兼容的低功耗 <b class='flag-5'>AI</b> 模块

    NVIDIA Jetson AGX Thor开发者套件重磅发布

    开发者与未来创造者们,准备好迎接边缘AI的史诗级革新了吗?NVIDIA以颠覆性技术再次突破极限,正式推出Jetson AGX Thor开发者套件!作为继传奇产品Jetson AGX O
    的头像 发表于 08-28 14:31 1226次阅读

    NVIDIA三台计算机解决方案如何协同助力机器人技术

    NVIDIA DGX、基于 NVIDIA RTX PRO 服务器的 Omniverse 和 Cosmos,以及 Jetson AGX Thor,正全面加速从人形机器人到机器人工厂等基于物理 A
    的头像 发表于 08-27 11:48 2005次阅读

    基于 NVIDIA Blackwell 的 Jetson Thor 现已发售,加速通用机器人时代的到来

    ·专为物理 AI 和机器人打造的机器人计算机 NVIDIA Jetson AGX Thor 开发者套件和量产级模组,现已发售。 ·超过 200 万开发者正在使用 NVIDIA 的机器人
    发表于 08-26 09:28 1198次阅读
    基于 <b class='flag-5'>NVIDIA</b> Blackwell 的 <b class='flag-5'>Jetson</b> Thor 现已发售,加速通用机器人时代的到来

    NVIDIA Jetson AGX Thor开发者套件概述

    TFLOPS 的 AI 计算性能,从而轻松运行最新的生成式 AI模型,且功耗不超过 130 W。与 NVIDIA Jetson AGX Orin 相比,其
    的头像 发表于 08-11 15:03 1597次阅读

    研华科技推出紧凑型边缘AI推理系统AIR-120

    研华科技隆重宣布,推出紧凑型边缘AI推理系统——AIR-120。该系统搭载英特尔凌动x7433RE(Amston Lake)处理器、酷睿i3
    的头像 发表于 07-17 17:16 864次阅读

    英伟达GTC25亮点:NVIDIA Blackwell Ultra 开启 AI 推理新时代

    英伟达GTC25亮点:NVIDIA Blackwell Ultra 开启 AI 推理新时代
    的头像 发表于 03-20 15:35 1216次阅读

    英伟达GTC25亮点:NVIDIA Dynamo开源库加速并扩展AI推理模型

    DeepSeek-R1 上的吞吐量提高了 30 倍 NVIDIA 发布了开源推理软件 NVIDIA Dynamo,旨在以高效率、低成本加速并扩展 AI 工厂中的
    的头像 发表于 03-20 15:03 1077次阅读

    Oracle 与 NVIDIA 合作助力企业加速代理式 AI 推理

    ——Oracle 和 NVIDIA 今日宣布,NVIDIA 加速计算和推理软件与 Oracle 的 AI 基础设施以及生成式 AI 服务首
    发表于 03-19 15:24 470次阅读
    Oracle 与 <b class='flag-5'>NVIDIA</b> 合作助力企业加速代理式 <b class='flag-5'>AI</b> <b class='flag-5'>推理</b>

    使用NVIDIA推理平台提高AI推理性能

    NVIDIA推理平台提高了 AI 推理性能,为零售、电信等行业节省了数百万美元。
    的头像 发表于 02-08 09:59 1327次阅读
    使用<b class='flag-5'>NVIDIA</b><b class='flag-5'>推理</b>平台提高<b class='flag-5'>AI</b><b class='flag-5'>推理</b>性能

    研华发布AIR-310:紧凑型超薄Edge AI推理系统

    近日,研华科技正式推出了AIR-310,一款专为边缘人工智能推理设计的紧凑型系统。该系统凭借其独特的设计理念和卓越的性能,迅速吸引了业界的广泛关注。
    的头像 发表于 12-30 10:59 667次阅读