NVIDIA Jetson AGX Orin开发套件加速AI开发和部署

新的 Jetson AGX Orin 开发人员套件在 15-60 W 下提供 275 TOPS 的性能，并与 NVIDIA Isaac 和 JetPack SDK 的进步相结合，以加速 AI 开发和部署，并将 Omniverse 工具的输出带到边缘的自主机器人。

几年前，每个人的老板都在向他们询问物联网战略、原型，然后不可避免地需要一个产生显着投资回报率的实施方案。这个循环正在重复，只是这次是人工智能和机器学习。最大的问题是人工智能更难，需要更长的时间。

在技术和业务领导层开始要求它们时，创建物联网概念验证所需的大多数支持技术已经到位。另一方面，使用人工智能，创建一个甚至远程有用的模型的过程是漫长而乏味的，包括收集大量数据集、用标签标记数据、比较不同的模型类型，然后再选择最适合您使用的模型案例，然后针对标记的数据集训练所选模型。然后一次又一次地重复该过程，直到达到可接受的性能和准确性水平。

这个过程可能需要一年或更长时间，这甚至不考虑硬件。

NVIDIA 在过去六个月中发布了一系列产品和功能，以帮助 AI 开发人员加速这一进程。值得注意的是，在 GTC 2021 年秋季，该公司推出了 Omniverse Replicator 引擎，这是一种合成数据生成工具，可帮助开发人员训练 AI。作为公司 Isaac 和 Drive Sim 模拟环境的一部分，Replicator 生成和标记特定领域的真实数据，这些数据可以增强由人类工程师和数据科学家手动捕获和分类的真实世界数据集。仅此一项就可以将自动驾驶汽车、机器人和其他人工智能驱动机器的开发时间缩短数月。

但这只是第一步。Replicator 生成数据后，需要通知模型。训练、适应、优化 （TAO） 工具包解决了这一问题，该工具包在过去几年中得到了增强，以支持使用来自 Omniverse Replicator 等工具的合成数据对现有模型进行训练。正如您在上图中所见，工作流将这些模型与应用程序框架集成在一起，例如用于计算机视觉的 NVIDIA DeepStream、用于支持人工智能的语音用例的 NVIDIA Riva 以及通过与开源机器人基金会 （OSRF） 合作的 Isaac ROS ）现在支持机器人操作系统 （ROS），以加速自主移动机器人 （AMR） 的开发。

这些 SDK 和工具链经过优化，可与 NVIDIA JetPack SDK 配合使用，该 SDK 是为公司的 Jetson 系列嵌入式系统模块 （SoM） 和开发套件量身定制的操作系统和应用程序开发环境。

介绍 Orin：缩短 AI 开发生命周期的又一步

NVIDIA 更加强调应用程序框架和 OS SDK 的集成并不是什么新鲜事，但不应被忽视，因为它代表了 AI 系统工程生命周期的又一步，并缩短了自主机器的上市时间。例如，前面提到的 ROS 和 Isaac 环境的融合催生了 Isaac Nova Orin等创新，这是一个利用基于 ROS 的 GEM 的计算和传感器参考平台，这些 GEM 是用于 AMR 感知堆栈中的计算机视觉和图像处理的软件包。

正如 Nova Orin 参考平台所定义的，这些功能所需的输入使用了一个传感器套件，该套件最多包含六个摄像头、三个激光雷达和八个超声波传感器。当然，这些都是可以模拟的，Nova Orin 包含允许开发人员在 NVIDIA Omniverse 中测试他们的设计的工具，这些工具与 Omniverse Replicator 的功能完美搭配。然而，据该公司称，在真实世界中对这个参考平台进行原型设计需要大约 550 TOPS 的计算能力。

将 AI 开发时间从数月或数年缩短至数周或数天的驱动力推动了 NVIDIA 软件套件的发展，该套件现在可以解决从数据采集到驱动的所有问题。该软件套件的发展保证了高性能、注重功耗的边缘 AI 计算硬件的又一次迭代，该硬件昨天在公司两年一度的 GTC 活动中宣布：NVIDIA Jetson AGX Orin 开发人员套件和 SoM。

Jetson AGX Orin 开发人员套件可提供您对新 NVIDIA 硬件平台的期望——更高的性能、同等的功率和合理的价格点，适合希望在边缘推理目标上实施流线型 AI 模型的开发人员。该开发工具包现在售价 1，999 美元，凭借以下计算子系统，可在 15 至 60 W 的可配置功耗下提供高达 275 TOPS 的 INT8 稀疏计算性能：

具有 2048 个 CUDA 核心和 64 个 Tensor 核心的 Ampere GPU

12核Arm Cortex-A78AE CPU

双 NVIDIA 深度学习加速器 （DLA）

双可编程视觉加速器 （PVA）

H.265 视频编码/解码（4K60 至 1080p30 兼容解码高达 8K30）

这些由 32 GB 的 256 位 LPDDR5 内存支持，带宽高达 204.8 GBps，足以在要求苛刻的 AI 推理部署中利用 GPU 和张量核心的大规模并行性。板载还有 64 GB 的 eMMC 5.1 存储。

与 NVIDIA Jetson AGX Xavier 相比，该产品线的性能提升了 8 倍，其中包括 3.3 倍的 AI 执行性能提升，与即将推出的 NVIDIA JetPack SDK 5.0 版配合使用时可跃升至 4.9 倍。尽管占用与 Xavier 相同的 110 毫米 x 110 毫米 x 71.65 毫米外形尺寸（包括模块、载体和散热解决方案），但仍能实现这一目标。

在 Jetson AGX Orin 开发人员套件上，这些功能可通过各种接口访问，这些接口能够支持 Nova Orin 参考设计等用例，包括：

16 通道 MIPI CSI-2 连接器

x16 PCIe 插槽（x8 PCIe Gen4）

10 GbE 通过 RJ45 端口

2x USB 3.2 Gen2 支持 USB-PD （Type C）， 2x USB 3.2 Gen2 （Type A）， 2x USB 3.2 Gen1 （Type A）， USB 2.0 （Micro B）

用于串行通信、自动化、音频、调试、风扇等的各种排针。

用于扩展、存储的 M.2 Key（M、E）和 microSD 插槽

此外，开发人员套件还附带一个 802.11ac/abgn 无线网络接口控制器和 USB-C 电源适配器和电源线。它还保持与Jetson AGX Xavier 平台的引脚和软件兼容性，以实现最大的应用程序可移植性。

人工智能：从元界开发到边缘部署

两个 Jetson AGX Orin 开发工具包足以满足 Nova Orin 参考设计的要求，直到现在，这可能需要一个成熟的边缘服务器。消除这些外形尺寸和功耗限制是实现从 AMR 到自动驾驶汽车等系统中准确、低延迟的边缘 AI 扩散的关键。

但由于您实际上无法将开发人员套件放入生产系统中，因此 NVIDIA 宣布了基于 Jetson AGX Orin 的新 SoM 系列，将于今年第四季度上市。在下面的幻灯片中可以看到，这些模块是开发人员套件的子集，具有不同的紧凑型（AGX 或 NX）和性能级别，但具有与 Jetson 系列模块的其余部分相同的连接器。

对于那些从 AGX Xavier 平台迁移的用户，最接近的模拟是 Jetson AGX Orin 32 GB，1，000 多片的售价为 899 美元。

嵌入式硬件公司已经通过载板解决方案来支持这些模块，例如用于 NVIDIA Jetson AGX Orin 的 ConnectTech Forge Carrier，它带来了模块的 16 通道 MIPI 连接器、M.2 Key 插槽、USB 3.2 接口和用于系统设计和扩张。

当然，这不是结束。基于这样的技术设计和部署生产系统实际上更多的是一个开始。

NVIDIA Metropolis等软件功能继续将这些边缘 AI 平台转变为最接近已知存在的人类感知能力的平台。Metropolis 是另一个应用程序框架，它将来自“数万亿个端点”的视觉传感器数据与人工智能相结合，以帮助为系统设计和操作提供信息。换句话说，对于 Metropolis，工厂监控摄像头可以作为辅助 AMR 导航的输入。

如果你觉得事情正在发生变化，而且变化很快，那你是对的。他们是。没关系。正如 NVIDIA 首席执行官 Jensen Huang 在新闻发布会上所说，“深度学习不仅仅是像光栅化或纹理映射这样的新应用或技术的某些特征。深度学习和机器学习是计算的基本重新设计。这是一种全新的计算方式，其意义非常重要。

“我们编写软件的方式、我们维护软件的方式、我们不断改进软件的方式都发生了变化，这是第一位的，”他继续说道。“第二，我们可以编写的软件类型发生了变化。它是超人的能力，我们以前从未编写过的软件。第三件事是为软件工程师和操作提供的整个基础设施，即所谓的 MLOps，即与开发这种端到端从根本上改变公司有关。”

幸运的是，像 Jetson AGX Orin 这样的工具包、像 JetPack 和 Isaac Sim 这样的环境，以及像 Omniverse Replicator 这样的元宇宙开发的工具现在都可以用来促进这种过渡，从而简化 AI 开发并缩短部署时间这在一年前是不可想象的。

审核编辑：郭婷