Jetson AGX Orin环境搭建全记录：JetPack刷机与YOLO部署避坑指南-北京尧图网络

上周给团队那台Jetson AGX Orin开发套件整体重装了一遍系统从JetPack 6.2.3刷机开始一路把conda、PyTorch、YOLO环境全部搭好。这个配置组合是目前AGX Orin上的主流开发环境但动手过的人都知道刷机本身不难难的是各种隐性的坑恢复模式识别不到、SDK Manager组件勾错、conda在aarch64下的发行版选择、PyTorch不能无脑pip install、YOLO跑起来还要过一遍TensorRT。这篇就把我完整的操作记录、版本对应关系和踩过的坑一次说清楚打算入AGX Orin或者准备给设备翻新系统的开发者可以直接照着抄作业。1. 刷机前的物料清点与版本选型1.1 刷机需要准备哪些东西先明确一个基本认知AGX Orin刷机本质上是一条Ubuntu主机 USB数据线恢复模式的操作链路。它没有BIOS、不接受U盘启动所有系统镜像都必须借助另一台Ubuntu主机通过NVIDIA的SDK Manager推送到设备。我实际用到的物料有这几样Ubuntu主机一台我用的是Ubuntu 22.04的x86机器。官方对主机系统版本有要求20.04、22.04、24.04都在支持范围内。需要注意别用精简版服务器系统SDK Manager跑起来依赖图形相关的库。AGX Orin Developer Kit本体外加原装65W USB-C电源。供电不足会在烧写过程中导致设备掉线虽然不至于变砖但卡在中间恢复状态非常麻烦。一根支持数据传输的USB-C线。USB-C转USB-C或者USB-A转USB-C都可以但必须是数据线而不是普通充电线。市面上不少线为了省成本只走了电源引脚插上去完全没反应。一个下载速度有保障的网络环境。JetPack 6.2.3整套镜像加组件体量在15GB上下网络不理想的话光下载就够喝一壶。如果你的主机是Windows建议直接放弃自刷。SDK Manager没有Windows版本WSL里面做USB设备透传又很不稳定经常出现APX识别后传输中断的情况。最省事的方案是找一台原生Ubuntu机器或者装双系统这是投入产出比最高的路子。1.2 为什么偏偏选JetPack 6.2.3JetPack不是一个单薄的系统镜像它是Ubuntu 板级内核 CUDA cuDNN TensorRT OpenCV 众多硬件加速库的整套SDK打包。选择6.2.3这个维护版本是因为它是当前AGX Orin上最稳定的发布分支相比6.2初始版本修复了一批底层问题尤其是USB-C连接稳定性和网络驱动兼容性。具体到这次搭建关键组件版本是这样的操作系统Ubuntu 24.04 LTSaarch64。这也是JetPack系列首次全线切到Ubuntu 24.04的大版本系统自带Python已经是3.12整体生态比JetPack 5时代的20.04新了一大截。CUDA12.6。Jetson端的CUDA版本直接决定后面PyTorch wheel能否对上号务必把这个版本记死。TensorRT10.x。YOLO导出engine时直接调用不需要手工安装额外插件。OpenCV4.x。ultralytics推理时图像处理就靠它系统自带不用重复编译。选这个版本组合还有一个好处NVIDIA针对JetPack 6.2的PyTorch wheel已经稳定放出社区踩坑相对少不会出现官方还没适配好的尴尬局面。1.3 如何把设备正确按进恢复模式刷机过程的第一道门槛是让主机识别到处于恢复模式的设备。识别不到设备的问题绝大多数出在这一步。建议按固定顺序操作不要跳步AGX Orin完全关机、拔掉电源。用USB-C线把Orin和主机USB口连接确认插的是设备端靠近电源接入位置的Type-C口也就是带DP功能的那一个。先把电源插上但先不要开机。找到机身底部的Recovery键它是一个靠近USB口的小按钮旁边印着Recovery字样。按住Recovery不放同时迅速轻按一下Reset键复位保持按住Recovery约3秒再松开。回到主机终端执行lsusb能看到一行 NVIDIA Corp. APX 的输出即说明设备已经正确进入烧写模式。如果输出里始终没有APX信息先换USB线和USB口再检查是不是按Reset时力度不够。尽量避免用扩展坞转接直插主机原生USB口最稳。2. 使用SDK Manager完成整机烧写2.1 SDK Manager的安装与运行注意SDK Manager不是通过apt安装的直接去NVIDIA开发者网站下载deb包。下载完成后执行sudo apt install ./sdkmanager-*.deb sdkmanager第一次启动会要求登录NVIDIA账号没有就注册一个这一步绕不开。启动后选择硬件平台务必选Jetson AGX Orin Developer Kit不要误选成Orin NX、Orin Nano系列。它们的镜像和设备树都不一样选错会在烧写阶段直接报错。这里有个体感上的提醒SDK Manager下载JetPack时会走它自己的仓库首次打开进度条看起来像卡住其实是在后台拉镜像不要轻易中断。整个下载过程是全流程里最耗时的部分耐心等就好。2.2 组件勾选与烧写策略进入版本选择界面后能看到当前适配的JetPack版本列表。选6.2系列里带latest标识的最新维护版本系统刷完在设备端显示的就是JetPack 6.2.3。这里有两个勾选维度需要理解清楚Host Machine指主机端要装的组件比如CUDA工具包、TensorRT的x86版。对纯刷设备来说主机端组件可以全部不勾能省下大量下载时间。Target Machine指设备端要烧进去的组件默认是Full JetPack完整全套。除非有明确的裁剪需求否则保持默认。选择完整版的原因很简单JetPack组件相互之间存在依赖关系PyTorch wheel依赖CUDA运行库TensorRT又依赖cuDNN自己割裂开装后续容易补齐问题。完整版一次到位后期省心。点击安装后SDK Manager会检查设备状态此时走完恢复模式的Orin应该已经被识别。整个烧写过程包含分区、镜像写入、组件部署几个环节设备会自动重启几次中途不要断开USB线或者拔电源。我这一趟从点击Install到设备端出现登录画面耗时大概40分钟具体看主机性能和USB传输速度。2.3 首次开机后的基础设置烧写完成后设备开机第一次进系统会让你设置用户名、主机名和密码。注意这个用户名会成为系统的sudo管理员后续所有开发环境都建议在这个用户下操作而不是直接切root。首次登录后我做了三件事检查系统版本确认Ubuntu确实是24.04JetPack版本号通过系统文件确认。把时区从UTC改成实际时区否则后续软件日志时间全乱。确认存储分区和剩余空间AGX Orin默认分区比较合理不需要额外调整。这些操作看着琐碎但漏掉任何一个后面部署服务时都会出现定位困难的问题。3. JetPack 6.2.3系统状态核验与基础配置3.1 刷完怎么确认真的刷对了设备登录后可以手动执行几条命令快速确认系统版本和硬件状态。我最常用的几条cat /etc/nv_tegra_release nvidia-smi nvcc -V tegrastatsJetPack 6.2.3对应的L4T版本会出现在/etc/nv_tegra_release的输出里从版本号就能判断是不是最新的维护发布。nvidia-smi在JetPack 6.x中已经默认可用但要注意它显示的是板级定制驱动GPU名称会显示为NVIDIA Jetson AGX Orin。nvcc -V输出CUDA 12.6就说明编译工具链就位了。如果nvcc查不到大概率是环境变量没配好。JetPack安装的CUDA位于/usr/local/cuda检查PATH里是否包含/usr/local/cuda/bin。3.2 更换源与系统最小更新Jetson的Ubuntu源默认指向官方服务器国内访问速度不太理想。我刷完机的习惯是先换到国内镜像源把/etc/apt/sources.list.d/ubuntu.sources里的地址替换为镜像站对应aarch64的地址即可。sudo sed -i s/archive.ubuntu.com/mirrors.aliyun.com/g /etc/apt/sources.list.d/ubuntu.sources sudo apt update sudo apt upgrade -y这里有个边界要注意JetPack的L4T内核和板级驱动组件很多来自NVIDIA自己的软件源不要贪图全量升级把NVIDIA源也替换掉否则可能拉取到与板级驱动不兼容的通用包。只换Ubuntu源头保持NVIDIA源不动是环境稳定的基础。3.3 JetPack自带的加速组件体检系统准备就绪后花几分钟确认环境里有哪些可以直接利用的库。检查方法很简单dpkg -l | grep tensorrt dpkg -l | grep cudnn python3 -c import cv2; print(cv2.__version__)TensorRT、cuDNN、OpenCV这些预装库在YOLO部署环节全是关键依赖。尤其是TensorRT的版本直接决定ultralytics导出engine时是否顺利。JetPack 6.2.3自带的TensorRT 10.x与当前版本的ultralytics兼容性良好不需要额外编译自定义算子。4. conda环境搭建Miniforge才是Jetson的正解4.1 为什么Jetson上不能用常规Anaconda安装方式不少从x86开发机转过来的第一反应就是去Anaconda官网下载.sh脚本在AGX Orin上执行后会得到一堆架构不支持的错误。原因是Anaconda官方发行版没有提供完整的aarch64构建defaults源在ARM平台上的包覆盖度也很差。Jetson上更靠谱的方案是Miniforge。它和Miniconda一样是轻量conda发行版但默认使用conda-forge通道而conda-forge对aarch64的包支持非常全。后面创建Python环境、安装numpy、opencv、PyTorch依赖都能在conda-forge下找到对应版本。如果之前误装了Anaconda建议直接删掉重来。Jetson上Anaconda的兼容问题很难靠打补丁解决与其和系统折腾不如一步到位换成Miniforge。4.2 Miniforge下载与安装步骤Miniforge安装本身不复杂关键是要下载aarch64架构版本不要错拿x86_64包。在AGX Orin终端执行wget https://github.com/conda-forge/miniforge/releases/latest/download/Miniforge3-Linux-aarch64.sh bash Miniforge3-Linux-aarch64.sh安装脚本会询问安装位置默认是~/miniforge3保持默认即可。过程中会提示是否初始化conda这里建议选yes。如果当时跳过了安装完成后手动执行source ~/.bashrc conda init bash完成初始化后重新打开终端命令行最前面会出现(base)前缀说明conda基本就位。执行conda --version能查到当前conda版本。想装历史版本的话GitHub的Releases页面能翻到所有历史发布但日常使用直接latest就好。4.3 创建虚拟环境与管理conda环境conda虚拟环境的核心价值是隔离。Jetson系统自带的是Python 3.12但PyTorch和YOLO相关依赖有时候对Python版本有特定要求。为了不污染系统我强烈建议创建独立环境conda create -n yolo python3.10 -y conda activate yolo python --versionPython 3.10是目前NVIDIA PyTorch wheel测试最充分的版本兼容性和包生态都比较成熟。后续有别的项目需要不同版本按同样方式创建即可conda create -n tf26 python3.9 -y conda env list # 查看所有环境 conda remove -n tf26 --all # 删除指定环境 conda deactivate # 退出当前环境说一下conda激活的原理它本质上是shell脚本函数的调用不是简单的PATH修改。所以如果激活时报错提示run conda init before conda activate说明conda init这步没做完整。这个在常见问题里细说。4.4 conda换源与pip源配置conda默认走conda-forge仓库国内访问速度有时不稳定。我习惯给conda配置国内镜像比较通用的是清华源。在用户目录下的~/.condarc里写入channels: - defaults show_channel_urls: true default_channels: - https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/main custom_channels: conda-forge: https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud如果你更习惯阿里云源把default_channels换成阿里的anaconda仓库地址也可以效果类似。后续创建环境时能明显感受到下载速度提升。同样的道理pip也需要配置国内源。创建~/.pip/pip.conf内容如下[global] index-url https://mirrors.aliyun.com/pypi/simple/ trusted-host mirrors.aliyun.com这两个配置一起做掉能省下后续安装PyTorch依赖时的大量等待时间。5. PyTorch安装NVIDIA定制wheel是唯一正解5.1 为什么不能直接pip install torchJetPack自带的CUDA是12.6而PyTorch官方pip源里默认提供的是x86_64 Linux和Windows版本。即便能拉到aarch64架构的包安装后torch.cuda.is_available()也大概率返回False因为官方构建没有为Jetson板级GPU编译对应的CUDA支持。在AGX Orin上直接执行pip install torch最常见的结局是装了一个无法使用GPU的CPU版本或者编译时报错中断。正确做法是用NVIDIA官方为Jetson预编译好的PyTorch wheel这些wheel里的算子库针对AGX Orin的Ampere架构做过调优安装后开箱即用。5.2 下载NVIDIA官方定制版PyTorchNVIDIA在开发者网站提供了PyTorch for Jetson页面需要根据JetPack版本选择对应下载。当前JetPack 6.2.3环境下去官方渠道找到标记为JetPack 6.2 compatible的torch和torchvision wheel包文件名一般是torch-2.x.x...aarch64...whl的格式版本号会随更新而变化下载最新的即可。下载完成后在创建的conda环境里安装conda activate yolo pip install /path/to/torch-2.x.x...aarch64.whl pip install /path/to/torchvision-0.x.x...aarch64.whltorch和torchvision版本必须配套使用。如果只装torch不装torchvision后面ultralytics某些功能会报缺包自己用pip乱装torchvision又可能版本不匹配。最稳妥的方案是同时安装官方提供的两个wheel。5.3 验证GPU能否正常使用安装完成后验证这一步不能省python -c import torch; print(torch.__version__); print(torch.cuda.is_available()); print(torch.cuda.get_device_name(0))正常情况下第一行输出PyTorch版本号第二行输出True第三行输出类似NVIDIA Jetson AGX Orin的设备名。如果is_available返回False最常见的可能性是之前某个步骤用pip默认源把CUDA相关依赖覆盖了需要重装wheel并确认环境里的torch是NVIDIA定制版而不是官方通用版。还可以顺手做一个小张量计算确认GPU真正参与运算python -c import torch; xtorch.rand(1000,1000,devicecuda); print(torch.matmul(x,x).sum())能正常输出数值就说明GPU计算链路已经跑通。5.4 Python、CUDA和PyTorch的版本匹配原则这个组合在Jetson上是铁三角式的固定关系JetPack 6.2.3对应CUDA 12.6。CUDA 12.6对应NVIDIA官方提供的PyTorch wheel构建版本。wheel包对应的Python版本需要和conda虚拟环境里的python版本完全匹配。所以创建环境时选定Python版本后不要再随意升级Python。python3.10的环境就只能装官方为3.10构建的wheel如果wheel标记是cp310而当前环境python是3.11安装就会失败或者需要强制覆盖。版本匹配是Jetson上PyTorch环境的第一原则。6. YOLO部署与TensorRT加速实战6.1 安装ultralytics与依赖处理PyTorch环境就绪后安装YOLO工具链就非常简单了。ultralytics是当前使用YOLO系列模型最主流的Python库推理、训练、导出一站式完成conda activate yolo pip install ultralytics这里有一个重要的顺序问题必须先装NVIDIA版PyTorch再装ultralytics。因为ultralytics在安装时会检查环境中是否已有torch如果已有满足依赖的版本它不会重复安装。如果先装ultralyticspip会尝试从官方源拉取一个默认的torch这很可能破坏后面要装的定制版。如果装错了也不要慌把当前环境删除重建按正确顺序重走一遍conda环境、NVIDIA版torch/torchvision、ultralytics。6.2 第一次推理权重下载与GPU跑通使用ultralytics做推理预训练权重是第一步。注意YOLO的预训练权重通常托管在GitHub Release上网络不理想时下载会非常慢。我的建议是预先用浏览器配合下载工具把模型文件下好放到工作目录下或者耐心等ultralytics自动下载到权重缓存目录。第一次推理我推荐跑最小模型YOLOv8nyolo predict modelyolov8n.pt sourcehttps://ultralytics.com/images/bus.jpg装好ultralytics之后yolo命令是全局可用的。执行上面这条命令程序会自动下载权重和示例图片完成推理在终端输出检测框数量、每个目标的类别置信度以及推理耗时。如果不指定device参数ultralytics会自动检测并使用GPUAGX Orin上会明显感觉到速度差异。想看推理到底走CPU还是GPU加verbose参数或者观察终端日志里的Device字段正常会显示为cuda:0。6.3 用TensorRT引擎把推理提速YOLO在PyTorch层面的推理速度已经可用但AGX Orin这类边缘设备的强项是功耗和吞吐的平衡这时候就该请出JetPack自带的TensorRT了。ultralytics对TensorRT的支持很完善导出engine文件只需要执行from ultralytics import YOLO model YOLO(yolov8n.pt) model.export(formatengine, halfTrue)export过程会先经过ONNX转换再编译成TensorRT引擎耗时取决于网络大小轻量模型一般在一两分钟内完成。导出成功后目录里会出现yolov8n.engine文件后续推理直接加载它model_engine YOLO(yolov8n.engine) results model_engine(bus.jpg)用engine模型推理时不再走PyTorch的图执行路径而是TensorRT优化后的算子图配合FP16半精度AGX Orin上的吞吐量能提升一个数量级。对于视频流或者摄像头多路推理场景engine格式几乎是必须的。顺带一提近几年YOLO模型在检测头上有不少结构改进例如efficient head这类设计训练时确实有收益但部署到TensorRT时要留意算子是否全部支持。碰到导出失败时优先切回官方标准模型最省事。6.4 关于损失函数和实例分割的扩展热词里有人问YOLO的损失函数构成这里简单补充YOLOv8以及YOLO11的基础损失包括三部分分类分支用交叉熵回归分支用CIoU再加上DFL分布损失三者加权一起反向传播。理解这个结构对训练调参有帮助但对部署环节影响不大。如果你要做实例分割而不是单纯目标检测ultralytics也支持分割模型选择yolov8n-seg.pt这样的权重即可API和检测模型完全一样。AGX Orin跑分割模型会比检测模型慢但配合TensorRT和适当降低输入分辨率也能跑到接近实时的帧率。7. 常见问题排查与避坑实录7.1 刷机阶段的典型问题我自己刷机以及帮朋友远程排查时遇到的刷机问题基本集中在下面几个问题现象排查思路lsusb看不到APX设备换USB数据线、换USB口、检查电源供电、重新进入恢复模式SDK Manager卡在下载组件网络问题等待或切换网络重试烧写过程中设备重启后找不到检查USB线是否松动烧写期间不要碰设备和线缆SDK Manager里没有JetPack 6.2选项升级SDK Manager到最新版本旧版本不认识新版镜像刷机阶段的问题基本都和硬件链路相关。记住一个原则恢复模式的识别是一次性的任何中断都可能让设备回到普通启动状态重新进恢复模式再刷一次即可不用慌。7.2 conda与PyTorch阶段的典型问题提示run conda init before conda activate说明conda的shell初始化没生效。解决方法是手动source conda配置文件比如source ~/miniforge3/etc/profile.d/conda.sh然后重新执行conda init bash最后source ~/.bashrc。提示conda不是内部或外部命令在Windows端遇到这个更常见本质是conda路径没写入PATH。Windows上的正确姿势是打开Anaconda Prompt或者Miniforge Prompt来执行conda命令不要用系统自带的CMD或者PowerShell直接敲。如果已经打开了正确的终端仍报错重新跑一遍初始化脚本。torch.cuda.is_available()返回False检查环境里torch包的来源确认不是pip从官方源拉来的通用版。用pip list查看torch的版本字符串如果带jetson或者官方定制标记才是NVIDIA定制版。pip install torch提示找不到匹配版本八成是Python版本对不上回退conda环境里的Python版本调整到NVIDIA wheel支持的版本。7.3 YOLO运行阶段的典型问题ultralytics导入时报numpy版本冲突系统numpy和conda环境里的numpy打架时常见。解决方法是把conda环境里的numpy升级到兼容版本执行pip install --upgrade numpy。模型导出engine时提示ONNX算子不支持先换成官方标准模型版本再检查TensorRT版本。JetPack自带的TensorRT 10.x与ultralytics当前版本兼容性良好一般不会出现这个错。推理时显存溢出AGX Orin的显存和内存统一管理可分配空间够大但大批量推理时仍可能爆。降低batch size或输入分辨率就能解决。实测在Orin上做实时推理640分辨率足够覆盖绝大多数场景。预训练权重下载太慢用浏览器或者下载工具手动下载后放到工作目录执行yolo命令时指定本地路径即可。7.4 我的操作习惯与几点补充整个流程跑下来我最大的习惯变化是刷完机第一时间做环境快照。conda环境稳定后立刻导出依赖清单conda env export environment.yaml这样后续哪怕环境搞坏了一条命令重建不用手动回忆依赖版本。另外我会把JetPack自带的CUDA版本、TensorRT版本和PyTorch wheel版本记录在一个笔记文件里排查问题对照版本信息比翻论坛快得多。还有一个容易忽略的点AGX Orin板载存储的写入寿命有限刷一次机是几十GB的写入量。频繁刷机会缩短存储寿命如果只是测试用途没问题生产环境建议刷好环境后多做配置备份不要反复重装。最近也有人拿T4数据中心卡和AGX Orin做对比。T4的算力确实高单卡跑1080p 25帧的视频流检测能支撑不少路但那是机房场景功耗、体积和部署成本都不占优势。AGX Orin的特点是在低功耗下跑出接近实时的检测效果一块开发板就能塞进工控箱。我这次用YOLOv8n加TensorRT引擎640分辨率输入单路1080p视频的检测延迟能稳定在很低的水平边缘交付完全够用。这个流程走下来我觉得最值得记住的一点是Jetson上的软件生态和x86截然不同每个组件都要认准aarch64和NVIDIA官方适配认准了版本对应关系剩下的就是照流程走的事。

Jetson AGX Orin环境搭建全记录：JetPack刷机与YOLO部署避坑指南

相关推荐

工业SPI隔离实战：MAX14431与STM32F071的通信链路设计

STM32 SPI隔离实战：用数字隔离器解决工业数据采集干扰

工业SPI隔离通信链路设计：数字隔离器选型、原理图与调试实战

更多资讯

深入解析Shenandoah GC在Zero架构下的内存屏障实现

从手工搬砖到智能流水线：用Python和MCP协议重构Excel自动化工作流

Pro/E与Creo三维转二维轴侧图出图全攻略：定向、显示与导出

智能语音控制在水产养殖中的应用与实践

道路交叉口方向判定技术与工程实践

AI知识库可信度治理：用Markdown来源标记与RAG加权排序

今日更新

淘宝商品详情API开发实战与性能优化指南

Unity Package Manager刷新错误排查与解决方案

Java record 规范构造器能否被反序列化或反射绕过

本周精选

面向复杂光照与角度的宠物面部识别鲁棒性增强策略

基于DRV8818与STM32的双极步进电机驱动方案实战解析

DRV8818PWPR+PIC18F45K80双极步进电机控制方案实战

本月热门

面向复杂光照与角度的宠物面部识别鲁棒性增强策略

基于DRV8818与STM32的双极步进电机驱动方案实战解析

DRV8818PWPR+PIC18F45K80双极步进电机控制方案实战

读完文章，想聊聊您的网站？