0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

用Jetson AGX Orin工具包降低AI部署时间和成本

星星科技指导员 来源:NVIDIA 作者:Jason Black 2022-04-06 14:26 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

Nvidia Jetson AGX ORIN 开发者工具包的有效性今天在NVIDIA GTC 宣布。该平台是世界上功能最强大、结构最紧凑、能源效率最高的人工智能超级计算机,用于先进的机器人、自治机器以及下一代嵌入式和边缘计算。

Jetson AGX-Orin 每秒提供高达 275 万亿次操作(最高)。它为客户提供的处理能力是其前身 Jetson AGX Xavier 的 8 倍以上,同时保持了相同的小尺寸和引脚兼容性。它具有 NVIDIA 安培体系结构 GPUArm Cortex-A78AE CPU 、下一代深度学习和视觉加速器、高速接口、更快的内存带宽,以及多模式传感器支持,以支持多个并发 AI 应用程序管道。

NVIDIA Jetson AGX Orin 开发者套件 是制造业、物流业、零售业、农业、医疗保健等领域先进人工智能驱动机器人和边缘人工智能应用的完美原型。

“随着人工智能转变制造业、医疗保健、零售业、交通、智能城市和其他重要经济部门,对处理的需求继续激增,”NVIDIA 嵌入式和边缘计算副总裁兼总经理迪普·塔拉说。“ 100 万开发商和 6000 多家公司已经转向 Jetson 。随着 Jetson AGX Orin 的推出,整个行业将在打造下一代机器人和边缘人工智能产品的过程中更加努力。”

Jetson AGX Orin 开发者工具包功能:

高达 275 台,性能是上一代的 8 倍,还支持多个传感器的高速接口。

NVIDIA 安培体系结构 GPU 和 12 核 Arm Cortex-A78AE 64 位 CPU ,以及下一代深度学习和视觉加速器。

高速 I / O 、 204.8GB / s 的内存带宽和 32GB 的 DRAM ,能够支持多个并发 AI 应用程序管道。

Jetson AGX Orin Developer Kit 具有八个以上 Jetson AGX Xavier 系统的计算能力。它将最新的 NVIDIA GPU 技术与世界上最先进的深度学习软件堆栈相结合,提供了现在和未来创建复杂人工智能解决方案的灵活性。开发者工具包可以模拟所有生产 Jetson AGX Orin 和 Orin NX 模块,将于 2022 年第 4 季度发布。

使用 Jetson AGX Orin Developer Kit 的客户可以利用完整的 NVIDIA CUDA-X 加速计算堆栈。 该套件包括 NVIDIA NGC 目录中的预训练模型,以及用于应用程序开发和优化的最新 NVIDIA 应用程序框架和工具,如 Isaac 、 Metropolis 、 TAO 和 Omniverse 。

这些工具减少了生产质量人工智能部署的时间和成本。开发人员可以访问解决机器人技术和边缘人工智能在 3D 感知、自然语言理解、多传感器融合等方面的挑战所需的最大、最复杂的模型。

开发者工具包的定价和可用性

NVIDIA Jetson AGX ORIN 开发者套件现在售价为 1999 美元。生产模块将于 2022 年第四季度开始提供,价格为 399 美元。

关于作者:

Jason Black 是 NVIDIA 的自主机器营销和通信高级经理。作为过去 25 年的作家和编辑,他喜欢在流行语背后寻找故事的核心。看到机器人 MIG 把他带到哪里,他很兴奋。

审核编辑:郭婷

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 嵌入式
    +关注

    关注

    5209

    文章

    20663

    浏览量

    337108
  • 机器人
    +关注

    关注

    213

    文章

    31455

    浏览量

    223678
  • 人工智能
    +关注

    关注

    1820

    文章

    50333

    浏览量

    266969
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    友晶科技全息传感器桥接解决方案

    DE25-Standard 与 NVIDIA Jetson AGX Orin 共同构建的传感器到 GPU 的高带宽、低延迟解决方案。看 FPGA 如何成为边缘 AI 的第一道“加速桥
    的头像 发表于 04-10 13:45 135次阅读
    友晶科技全息传感器桥接解决方案

    NVIDIA Jetson模型赋能AI在边缘端落地

    开源生成式 AI 模型不再局限于数据中心,而是开始深入到现实世界的各种机器中。从 Orin 到 Thor,NVIDIA Jetson 系列正在成为运行 NVIDIA Nemotron、Cosmos
    的头像 发表于 03-16 16:27 649次阅读
    NVIDIA <b class='flag-5'>Jetson</b>模型赋能<b class='flag-5'>AI</b>在边缘端落地

    边缘AI算力临界点:深度解析176TOPS香橙派AI Station的产业价值

    AGX Orin 150 TOPS+ 本地大模型推理、具身智能控制、多模态实时交互 迷你AI服务器 176TOPS 意味着OrangePi AI Station正式迈入 高端边缘
    发表于 03-10 14:19

    【具身智能】基于AGX Orin+RK3588的大小脑协同机器人解决方案

    ” 与 “行动” ——既需要强大的大脑进行环境感知、高阶推理与复杂任务规划,也需要一个敏捷的“小脑”来确保每一个动作都精准、稳定、实时。 为此,一种创新的 “核心大小脑异构计算架构” 应运而生。其中,以 NVIDIA Jetson AGX
    的头像 发表于 02-05 17:33 340次阅读
    【具身智能】基于<b class='flag-5'>AGX</b> <b class='flag-5'>Orin</b>+RK3588的大小脑协同机器人解决方案

    如何在NVIDIA Jetson AGX Thor上部署1200亿参数大模型

    上一期介绍了如何在 NVIDIA Jetson AGX Thor 上使用 Docker 部署 vLLM 推理服务,以及使用 Chatbox 作为前端调用 vLLM 运行的模型(上期文章链接)。本期
    的头像 发表于 12-26 17:06 5271次阅读
    如何在NVIDIA <b class='flag-5'>Jetson</b> <b class='flag-5'>AGX</b> Thor上<b class='flag-5'>部署</b>1200亿参数大模型

    NVIDIA Jetson系列开发者套件助力打造面向未来的智能机器人

    NVIDIA Jetson AGX Thor、AGX Orin 以及 Jetson Orin N
    的头像 发表于 12-13 10:20 3330次阅读

    如何在NVIDIA Jetson AGX Thor上通过Docker高效部署vLLM推理服务

    继系统安装与环境配置后,本期我们将继续带大家深入 NVIDIA Jetson AGX Thor 的开发教程之旅,了解如何在 Jetson AGX Thor 上,通过 Docker 高效
    的头像 发表于 11-13 14:08 4417次阅读
    如何在NVIDIA <b class='flag-5'>Jetson</b> <b class='flag-5'>AGX</b> Thor上通过Docker高效<b class='flag-5'>部署</b>vLLM推理服务

    NVIDIA Jetson AGX Thor Developer Kit开发环境配置指南

    NVIDIA Jetson AGX Thor 专为物理 AI 打造,与上一代产品 NVIDIA Jetson AGX
    的头像 发表于 11-08 09:55 7660次阅读
    NVIDIA <b class='flag-5'>Jetson</b> <b class='flag-5'>AGX</b> Thor Developer Kit开发环境配置指南

    BPI-AIM7 RK3588 AI与 Nvidia Jetson Nano 生态系统兼容的低功耗 AI 模块

    可以使用以下工具快速部署AI应用程序,而无需复杂的硬件编程: RKNN-Toolkit2 一键将 TensorFlow/PyTorch 模型转换为 RKNN 格式,用于 NPU 加速 INT8 量化
    发表于 10-11 09:08

    NVIDIA Jetson AGX Thor开发者套件重磅发布

    开发者与未来创造者们,准备好迎接边缘AI的史诗级革新了吗?NVIDIA以颠覆性技术再次突破极限,正式推出Jetson AGX Thor开发者套件!作为继传奇产品Jetson
    的头像 发表于 08-28 14:31 1771次阅读

    基于 NVIDIA Blackwell 的 Jetson Thor 现已发售,加速通用机器人时代的到来

    Jetson AGX OrinAI 算力提升至 7.5 倍,能效提升至 3.5 倍,能够实现实时推理,这对于高性能物理 AI 应用至关重
    发表于 08-26 09:28 1357次阅读
    基于 NVIDIA Blackwell 的 <b class='flag-5'>Jetson</b> Thor 现已发售,加速通用机器人时代的到来

    NVIDIA Jetson AGX Thor开发者套件概述

    TFLOPS 的 AI 计算性能,从而轻松运行最新的生成式 AI模型,且功耗不超过 130 W。与 NVIDIA Jetson AGX Orin
    的头像 发表于 08-11 15:03 2082次阅读

    Jetson平台核心组件BOM清单概览

    Jetson Xavier NX、Jetson AGX Orin)的核心BOM清单进行梳理。需要注意的是,NVIDIA官方并
    的头像 发表于 07-30 16:11 3490次阅读

    边缘AI MPU深度盘点:品牌、型号与技术特性全解析

    三个维度,结合典型应用场景,对主流边缘AI MPU进行全面盘点。 一、国际品牌:技术领先,场景覆盖全面 NVIDIA(英伟达) 代表型号 :Jetson系列(Orin Nano/NX/AGX
    的头像 发表于 04-30 17:27 4562次阅读

    Deepseek海思SD3403边缘计算AI产品系统

    海思SD3403边缘计算AI框架,提供了一套开放式AI训练产品工具包,解决客户低成本AI系统,针对差异化
    发表于 04-28 11:05