0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

NVIDIA Jetson AGX Thor Developer Kit开发环境配置指南

丽台科技 来源:丽台科技 2025-11-08 09:55 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

NVIDIAJetson AGX Thor专为物理 AI 打造,与上一代产品 NVIDIAJetson AGX Orin 相比,生成式 AI 性能最高提升至 5 倍。通过发布后的软件更新优化,Jetson Thor 的生成式 AI 吞吐量提升至 7 倍。

上一期我们介绍了NVIDIA Jetson AGX Thor 的硬件配置和系统安装教程,本期将深入讲解开发环境配置,包括:

系统环境确认

Docker 安装与配置

JetPack SDK 组件安装

CUDA 环境设置

一、系统环境确认

系统安装完成进入桌面后,默认即可通过账号密码 SSH 登录,下图可以查看当前的系统以及内核版本。

96c6702c-ba18-11f0-8c8f-92fbcf53809c.png

- 运行nvidia-smi可以查看 GPU 驱动版本以及支持的 CUDA 最高版本信息。

972b6950-ba18-11f0-8c8f-92fbcf53809c.png

- 运行lscpu,查看 CPU 信息:

978ae39e-ba18-11f0-8c8f-92fbcf53809c.png

- 运行free -h,查看内存容量:

97e75c8c-ba18-11f0-8c8f-92fbcf53809c.png

- 运行lsblk,查看硬盘容量:

9841ebfc-ba18-11f0-8c8f-92fbcf53809c.png

二、Docker 安装与配置

Docker 能够为 Jetson 带来可复现的容器化工作流程,无需牺牲速度或灵活性即可无缝访问 GPU。

1Docker 安装

下图展示了 Docker 安装过程的流程。

98a25f50-ba18-11f0-8c8f-92fbcf53809c.png

上一期教程采用的是“Jetson ISO Installation USB”系统安装方式,已默认预装 Docker。仅需将普通用户添加到组,即可直接使用 Docker。

98fed744-ba18-11f0-8c8f-92fbcf53809c.png9967440a-ba18-11f0-8c8f-92fbcf53809c.png99d1a016-ba18-11f0-8c8f-92fbcf53809c.png

然后设置 NVIDIA Container Toolkit 即可。

9a2c9778-ba18-11f0-8c8f-92fbcf53809c.png9a8bbe60-ba18-11f0-8c8f-92fbcf53809c.png

2Docker 测试

下载并运行一个 PyTorch 的容器。

dockerrun --rm -it
  -v"$PWD":/workspace
  -w /workspace
nvcr.io/nvidia/pytorch:25.08-py3
9aee77bc-ba18-11f0-8c8f-92fbcf53809c.png

进入容器后,您可以测试 PyTorch 的 GPU 功能。此外,该容器内也预配置了 CUDA 环境,可运行相关 CUDA 应用。

9b49fd9e-ba18-11f0-8c8f-92fbcf53809c.png9bb051d4-ba18-11f0-8c8f-92fbcf53809c.png

注:如果显示 CUDA available:False,可尝试重启系统加载配置。

三、JetPack SDK 组件安装

nvidia-jetpack 是一个元包,包含以下组件:

9c0d23e6-ba18-11f0-8c8f-92fbcf53809c.png

安装 JetPack 组件:

要在 Jetson 上安装完整的 JetPack 组件软件 / SDK,可以使用以下命令:

sudoapt update
sudoapt install nvidia-jetpack

等待命令运行完成即可。

9c67d368-ba18-11f0-8c8f-92fbcf53809c.png

四、CUDA 环境配置

1使用 JetPack 内置的 CUDA

CUDA 工具包已内置于 JetPack 组件中,将随其自动安装。安装完成后,仅需配置环境变量即可使用。

9cc6c8e6-ba18-11f0-8c8f-92fbcf53809c.png

设置并应用环境变量。

9d23d748-ba18-11f0-8c8f-92fbcf53809c.png

注:运行sudo vim ~/.bashrc之后,需在文本下方加入以下内容:

exportPATH=/usr/local/cuda-13.0/bin:$PATH


exportLD_LIBRARY_PATH=/usr/local/cuda-13.0/lib64:$LD_LIBRARY_PATH
9d815224-ba18-11f0-8c8f-92fbcf53809c.png

2通过 Docker 容器的方式使用 CUDA

本文第二部分 Docker 测试时所下载的nvcr.io/nvidia/pytorch:25.08-py3镜像内已内置 CUDA。

9dddab46-ba18-11f0-8c8f-92fbcf53809c.png

3使用 NGC 下载运行 CUDA 镜像

NGC(全称:NVIDIA GPU Cloud)是适用于 AI、机器学习的 GPU 优化的软件中心,也是 NVIDIA 提供的容器注册表。

9e40b95c-ba18-11f0-8c8f-92fbcf53809c.jpg

在“标签”部分,您可以看到托管容器的标签列表。

9e9cc774-ba18-11f0-8c8f-92fbcf53809c.png

请注意,它显示“2 个架构”。这意味着该容器镜像可同时适用于 x86_64 和 arm64 架构。

您可以单击标签右侧复制图标,将带有该标签的容器图像路径复制到剪贴板,然后使用docker run运行:

dockerrun -it --rm nvcr.io/nvidia/cuda:13.0.0-devel-ubuntu24.04
jetson@jat02-iso0817:~/$ docker run -it --rm nvcr.io/nvidia/cuda:13.0.0-devel-ubuntu24.04


==========
== CUDA ==
==========


CUDA Version13.0.0


Container image Copyright (c)2016-2023, NVIDIA CORPORATION & AFFILIATES. All rights reserved.


This container image and its contents are governedbythe NVIDIA Deep Learning Container License.
By pulling and using the container, you accept the terms and conditions ofthislicense:
https://developer.nvidia.com/ngc/nvidia-deep-learning-container-license


A copy ofthislicenseismade availableinthiscontainer at /NGC-DL-CONTAINER-LICENSEforyour convenience.


WARNING: The NVIDIA Driver was not detected. GPU functionality will not be available.
Use the NVIDIA Container Toolkit to startthiscontainer with GPU support; see
https://docs.nvidia.com/datacenter/cloud-native/ .


root@99042c33f4b2:/#

至此,CUDA 环境配置完成!

现在 Jetson AGX Thor Developer Kit 已经准备就绪,您随时可以进行 AI 和边缘计算开发:

使用 Docker 容器化工作流程

基于 JetPack SDK 构建完整应用

利用 CUDA 加速计算任务

*与 NVIDIA 产品相关的图片或视频(完整或部分)的版权均归 NVIDIA Corporation 所有。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • NVIDIA
    +关注

    关注

    14

    文章

    5682

    浏览量

    110096
  • 开发环境
    +关注

    关注

    1

    文章

    275

    浏览量

    17673
  • Developer
    +关注

    关注

    0

    文章

    28

    浏览量

    6699

原文标题:快速上手!NVIDIA Jetson AGX Thor Developer Kit 开发环境配置指南

文章出处:【微信号:Leadtek,微信公众号:丽台科技】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    如何在NVIDIA Jetson AGX Thor上通过Docker高效部署vLLM推理服务

    继系统安装与环境配置后,本期我们将继续带大家深入 NVIDIA Jetson AGX Thor
    的头像 发表于 11-13 14:08 4363次阅读
    如何在<b class='flag-5'>NVIDIA</b> <b class='flag-5'>Jetson</b> <b class='flag-5'>AGX</b> <b class='flag-5'>Thor</b>上通过Docker高效部署vLLM推理服务

    京东和美团已选用NVIDIA Jetson AGX Xavier 平台

    电商巨头选用NVIDIA Jetson AGX Xavier打造下一代配送机器人 京东、美团采用NVIDIA AI计算平台,以满足大量处理需求
    的头像 发表于 08-01 14:54 1663次阅读

    如何在NVIDIA Jetson AGX Thor上部署1200亿参数大模型

    上一期介绍了如何在 NVIDIA Jetson AGX Thor 上使用 Docker 部署 vLLM 推理服务,以及使用 Chatbox 作为前端调用 vLLM 运行的模型(上期文章
    的头像 发表于 12-26 17:06 5217次阅读
    如何在<b class='flag-5'>NVIDIA</b> <b class='flag-5'>Jetson</b> <b class='flag-5'>AGX</b> <b class='flag-5'>Thor</b>上部署1200亿参数大模型

    关于NVIDIA JETSON TK1板子的话题

    各位大咖,小弟有一块开发板,是NVIDIA JETSON TK1,现要用这个板子做视频图像处理,有对这个板子有了解的朋友么?参考网页:http://www.nvidia.cn/obje
    发表于 07-06 14:57

    JETSON AGX Xavier的相关资料下载

    嵌入式AI 开发JETSON AGX Xavier使用刷机+环境搭建嵌入式大牛刷机指南pytorch-craft项目工程测试嵌入式大牛测
    发表于 12-14 07:04

    怎么做才能通过Jetson Xavier AGX构建android图像呢?

    我正在使用 NvidiaJetson Xavier AGX 按照“android 用户指南”为 imx8 qm Mek 套件构建 android 图像(android 13)。当
    发表于 06-07 08:58

    NVIDIA Jetson AGX Orin提升边缘AI标杆

    最新发布的 NVIDIA Jetson AGX Orin 提升边缘 AI 标杆,使我们在最新一轮行业推理基准测试中的领先优势更加明显。
    的头像 发表于 04-09 08:24 2730次阅读

    NVIDIA Jetson开发者工具包

    Jetson_Nano_Developer_Kit_User_Guide
    发表于 04-27 15:26 0次下载

    开发者们好评如潮,NVIDIA Jetson AGX Orin 是怎么做到的?

    NVIDIA Jetson AGX Orin 自推出以来,收获了许多开发者们的喜爱和支持。这款性能强大、尺寸紧凑且节能的 AI 超级计算机适用于先进的机器人、自主机器以及新一代嵌入式和
    的头像 发表于 12-15 19:35 2296次阅读

    NVIDIA 推出 Jetson AGX Orin 工业级模块助力边缘 AI

    Jetson 边缘 AI 和机器人平台 ,您可以在此类复杂的环境中部署 AI 和传感器融合算法。 NVIDIA 在 COMPUTEX 2023 上发布了全新 Jetson
    的头像 发表于 06-05 10:45 2360次阅读
    <b class='flag-5'>NVIDIA</b> 推出 <b class='flag-5'>Jetson</b> <b class='flag-5'>AGX</b> Orin 工业级模块助力边缘 AI

    NVIDIA Jetson AGX Thor开发者套件概述

    NVIDIA Jetson AGX Thor 开发者套件为您提供出色的性能和可扩展性。它由 NVIDIA
    的头像 发表于 08-11 15:03 2054次阅读

    基于 NVIDIA Blackwell 的 Jetson Thor 现已发售,加速通用机器人时代的到来

    ·专为物理 AI 和机器人打造的机器人计算机 NVIDIA Jetson AGX Thor 开发者套件和量产级模组,现已发售。 ·超过 20
    发表于 08-26 09:28 1343次阅读
    基于 <b class='flag-5'>NVIDIA</b> Blackwell 的 <b class='flag-5'>Jetson</b> <b class='flag-5'>Thor</b> 现已发售,加速通用机器人时代的到来

    NVIDIA Jetson AGX Thor开发者套件重磅发布

    开发者与未来创造者们,准备好迎接边缘AI的史诗级革新了吗?NVIDIA以颠覆性技术再次突破极限,正式推出Jetson AGX Thor
    的头像 发表于 08-28 14:31 1730次阅读

    通过NVIDIA Jetson AGX Thor实现7倍生成式AI性能

    Jetson Thor 平台还支持多种主流量化格式,包括 NVIDIA Blackwell GPU 架构的新 NVFP4 格式,有助于进一步优化推理性能。该平台同时支持推测解码等新技术,为在边缘端加速生成式 AI 工作负载提供了
    的头像 发表于 10-29 16:53 1615次阅读

    NVIDIA Jetson系列开发者套件助力打造面向未来的智能机器人

    NVIDIA Jetson AGX ThorAGX Orin 以及 Jetson Orin N
    的头像 发表于 12-13 10:20 3279次阅读