创作

完善资料让更多小伙伴认识你,还能领取20积分哦, 立即完善>

3天内不再提示

物件检测模型训练的详细过程

NVIDIA英伟达企业解决方案 来源:NVIDIA英伟达企业解决方案 作者:NVIDIA英伟达企业解 2022-05-20 17:43 次阅读

当前面已经训练好修剪过的模型之后,接下来就可以在训练设备上先执行推理计算,看看检测的效果如何?如果实际推理结果并不理想的话,就得回到前面第 6 步骤重新再执行一次。

9、执行推理并查看结果

首先创建一个 test_samples 目录,然后从数据集中 testing/image_2 中复制一些图像过来测试,推理结果输出到 ssd_infer_images 目录下,这个推理计算也可以使用未修剪的模型来进行测试。

在代码框 “!tao ssd inference” 后面所提供的参数中,下面两行是使用修剪后并重新训练的模型来进行推理。

-e $SPECS_DIR/ssd_retrain_resnet18_kitti.txt  -m$USER_EXPERIMENT_DIR/experiment_dir_retrain/weights/ssd_resnet18_epoch_$EPOCH.tlt

如果将这两行参数改成下面内容,就是用原始模型来进行推理。

-e $SPECS_DIR/ssd_train_resnet18_kitti.txt  -m$USER_EXPERIMENT_DIR/experiment_dir_unpruned/weights/ssd_resnet18_epoch_$EPOCH.tlt

这样我们可以执行透过推理结果,来查看二者的不同。下面两张图分别是未修剪(上)与修剪后(下)模型推理结果的局部放大,虽然修剪后的模型效果不如未修剪的,但是执行结果还是令人满意,当然这得看您的要求有多高。

如果认可这个推理结果的话,那么训练阶段的任务就可以告一段落,接下去就准备将模型导出,以便部署到真实的推理设备上。

10、导出模型

要执行这个步骤,最好先确认您的推理设备上所能支持的数据精度,特别是 INT8 类型,例如 Jetson Nano (含 2GB)、TX2/TX1就不支持,Xavier NX 与 AGX Xavier 是支持的。台式机上的游戏卡一般不支持 INT8,而 Tesla、Quadro 专业卡是支持的,不过 NVIDIA 全系列产品都支持 FP16,如果不能确认这方面的信息,至少选择 FP16 是比较稳妥。

简单说明一下代码框 “!tao ssd export” 后面的参数:

6260cd2e-d5d7-11ec-bce3-dac502259ad0.jpg

假如要输出 INT8 模型时,由于需要特殊算法以及辅助的校准工具,因此需要其他参数来协助这类模型的导出,主要如下:

6298af50-d5d7-11ec-bce3-dac502259ad0.jpg

这样就能完成 INT8 模型的输出任务。

到这里所输出的 .etlt 模型文件基本上已经可以部署到 DeepStream 推理设备上使用,因为 DeepStream 支持 .etlt 格式的调用,相当方便。但如果要用其他独立的 TensorRT 来执行加速推理的话,就需要在推理设备上再进行一次的转换。

本步骤最后一个代码块 “!tao converter” 就是在训练设备上,将 .etlt 模型转成这台机器能使用的 TensorRT 引擎文件。由于参数内容较多,这里不一一列举,请自行至https://docs.nvidia.com/tao/tao-toolkit/text/object_detection/ssd.html搜索 “Using the tao-converter” 环节,有详细的参数说明。

要注意的一点,在 “!tao converter 所使用的“-t 指定数据精度部分,需要与前面 !tao ssd export--data_type 一致,否则会失去效果。

11、验证部署模型的效果

这个步骤是验证 TensorRT 加速引擎的推理效果,主要让我们在部署到推理设备之前,能再确认一下推理效果

下面同样提供两张推理结果参照图,上图是未修剪的模型转成 TensorRT 引擎的推理结果,下图是修剪过的模型转成 TensorRT 引擎的推理结果,效果看起来是一样的,表示这个修剪过的模型还是足够好的。

现在就完成一个物件检测模型训练的过程,虽然看起来繁琐,但是只要我们弄清楚一开始的路径对应,以及熟练后面每个环节的参数用法,基本上要比在框架中自行撰写代码容易得多了,除了收集与整理数据的工作是 TAO 工具无法协助的,其余部分已经都为大家提供好完整的指令块,这是一个真正 “Zero Coding” 的全方位模型训练工具。

原文标题:NVIDIA Jetson Nano 2GB 系列文章(63):物件检测的模型训练与优化-3

文章出处:【微信公众号:NVIDIA英伟达企业解决方案】欢迎添加关注!文章转载请注明出处。

审核编辑:汤梓红
  • NVIDIA
    +关注

    关注

    14

    文章

    2571

    浏览量

    94759
  • 检测
    +关注

    关注

    5

    文章

    2600

    浏览量

    86908
  • 模型训练
    +关注

    关注

    0

    文章

    6

    浏览量

    989
收藏 人收藏

    评论

    相关推荐

    基于NVIDIA Triton的AI模型高效部署实践

    NVIDIA Triton 推理服务器(以前称为 TensorRT 推理服务器)是一款开源软件,可简....
    的头像 NVIDIA英伟达企业解决方案 发表于 06-28 15:49 59次 阅读

    使用NGC目录中的生产级模型 加速AI开发工作

    使用 NGC 目录中的生产级模型,加速 AI 开发工作。
    的头像 NVIDIA英伟达企业解决方案 发表于 06-28 15:46 123次 阅读

    首届NVIDIA DPU中国黑客松圆满收官

    2022 年 4 月 17 日,首届 NVIDIA DPU 中国黑客松圆满收官。本次比赛有 4 只队....
    的头像 NVIDIA英伟达企业解决方案 发表于 06-27 14:44 57次 阅读

    NVIDIA T4 GPU和TensorRT提高微信搜索速度

    腾讯公司深耕模型量化开发,且长期与 NVIDIA 团队合作,成功将深度学习模型精度从 FP32 压缩....
    的头像 NVIDIA英伟达企业解决方案 发表于 06-27 14:34 50次 阅读

    NVIDIA RTX A6000和 NVIDIA Omniverse助力天问一号“发射”

    为纪念天问一号火星探测器成功着陆火星一周年,国家航天局和中央广播电视总台(China Media G....
    的头像 NVIDIA英伟达企业解决方案 发表于 06-27 14:30 86次 阅读

    NVIDIA Jetson赋能智骋致想智惠农业平台

    NVIDIA Jetson 赋能智骋致想智惠农业平台,助力 AI 在农业领域的不断发展。
    的头像 NVIDIA英伟达企业解决方案 发表于 06-27 14:27 60次 阅读

    NVIDIA与合作伙伴利于AI技术推动气候灾害管理

    联合国的一个项目使用 NVIDIA 技术和面向全球数据科学家的免费深度学习培训中心课程推动气候灾害管....
    的头像 NVIDIA英伟达企业解决方案 发表于 06-27 14:23 193次 阅读

    NVIDIA EGX 平台能改进洪水预测GPU 加速模型

    为了推动改善气候行动,创造健康的全球环境,NVIDIA 正与联合国卫星中心(UNOSAT)合作,发挥....
    的头像 科技绿洲 发表于 06-27 14:21 169次 阅读

    管道无线潜望镜在自来水管中的应用

    为对管网建设,管理和养护工作提供更加安全、科学有效的依据,确保排水管网运营维护工作具备科学的决策,提....
    发表于 06-24 17:05 9次 阅读

    NVIDIA Riva 2.0的功能亮点有哪些

    NVIDIA Riva 可提供经过全面优化的流程,用于部署实时 AI 语音应用(例如转录和虚拟助理)....
    的头像 NVIDIA英伟达企业解决方案 发表于 06-24 15:33 139次 阅读

    艺术家使用NVIDIA Omniverse创造出照明效果逼真的3D模型

    创意人员使用 Autodesk、Adobe Substance 3D 应用和 NVIDIA Omni....
    的头像 NVIDIA英伟达企业解决方案 发表于 06-24 15:27 84次 阅读

    使用AI技术推动精准医疗的发展

    来自英国的 NVIDIA 初创加速计划成员 PrecisionLife 使用 AI 主导的数据分析确....
    的头像 NVIDIA英伟达 发表于 06-24 15:21 627次 阅读

    NLP的工作原理是什么 有哪些用例

    自然语言处理是一项利用计算机和软件获取人类语言(书面或口语)含义的技术。
    的头像 NVIDIA英伟达 发表于 06-24 15:19 89次 阅读

    【开发教程2】开源蓝牙心率防水运动手环-套件检测教程

    疯壳·开源蓝牙心率防水运动手环套件检测教程 内容简介   本文档主要介绍在如何验证蓝牙心率防水运动手环套...
    发表于 06-24 15:11 3110次 阅读
    【开发教程2】开源蓝牙心率防水运动手环-套件检测教程

    NVIDIA DOCA数据处理器软件正式开放

    NVIDIA 联合发起 Linux 基金会项目,致力于实现数据中心创新的大众化;进一步向软件提供商、....
    的头像 NVIDIA英伟达 发表于 06-24 15:00 108次 阅读

    管道检测机器人施工流程和注意事项的介绍

    使用管道检测机器人的操作人员有义务确保安全,不进行危险性的操作。维护和安装人员必须非常熟悉 各自的工....
    发表于 06-24 11:23 7次 阅读

    CCTV管道机器人让管道检测工作变的得心应手

    如今,人工智能已逐步替代了人工。为我们带来了便捷,对于世界来说,人工智能即将带来新一轮的产业变革,管....
    的头像 hhwlcctv 发表于 06-24 11:21 49次 阅读

    NVIDIA DRIVE助力小马智行控制器大规模量产

    6 月 22 日,领先自动驾驶企业小马智行宣布正式对客户交付基于 NVIDIA DRIVE Hype....
    的头像 科技绿洲 发表于 06-24 10:50 1186次 阅读

    NVIDIA DOCA库API已向开发者公开提供

    本周,NVIDIA 成为 Linux 基金会开放可编程基础设施(OPI – Open Program....
    的头像 科技绿洲 发表于 06-24 10:38 262次 阅读

    NVIDIA RTX GPU产品能够支持4K大屏渲染和扩展内容渲染

    此前,七维科技帮助河南广播电视台完成了演播室改造项目,打造了 XR 沉浸式 4K 超高清演播室。这一....
    的头像 科技绿洲 发表于 06-23 15:11 274次 阅读

    NVIDIA正在建造一台AI超级计算机来驱动地球的数字孪生

    元宇宙是互联网向 3D 网络进化过程中的下一个重要阶段,将为娱乐、汽车、制造业、机器人等各个行业带来....
    的头像 科技绿洲 发表于 06-23 15:06 241次 阅读

    NVIDIA 3D MoMa技术可为虚拟爵士乐队调校乐器

    爵士乐的精髓在于即兴演奏, NVIDIA 正在通过 AI 研究向这一流派致敬。也许有一天,图形创作者....
    的头像 科技绿洲 发表于 06-23 14:53 198次 阅读

    ZL-019小动物代谢检测分析系统

    小动物代谢检测分析系统可实时同步监测动物的食物消耗,饮水消耗,活动量,活动轨迹图,站立行为,并把所得....
    发表于 06-23 14:43 6次 阅读

    NVIDIA RTX A6000助力实现高效渲染输出高质量画面

    电视演播室作为电视节目制作的重要场所,承担了除外拍节目外的大部分节目录制和制作任务,随着设备技术突飞....
    的头像 NVIDIA英伟达企业解决方案 发表于 06-23 12:06 184次 阅读

    NVIDIA在自动驾驶领域取得的新突破

    此前,NVIDIA 中国区软件解决方案总监卓睿代表 NVIDIA 参加了视频采访,针对 NVIDIA....
    的头像 NVIDIA英伟达企业解决方案 发表于 06-23 12:03 584次 阅读

    NVIDIA如何以最好的方式来构建元宇宙

    元宇宙是互联网向 3D 网络进化过程中的下一个重要阶段,将为娱乐、汽车、制造业、机器人等各个行业带来....
    的头像 NVIDIA英伟达企业解决方案 发表于 06-23 11:13 178次 阅读

    NVIDIA 3D MoMa:基于2D图像创建3D物体

    可逆渲染流程 NVIDIA 3D MoMa 将于本周在新奥尔良举行的计算机视觉和模式识别会议 CVP....
    的头像 NVIDIA英伟达企业解决方案 发表于 06-23 11:00 191次 阅读

    小马智行自研自动驾驶域控制器ADC已开始向用户交付样品

    小马智行将成为首批基于NVIDIA DRIVE Hyperion 计算架构及DRIVE Orin 系....
    的头像 Pony.ai小马智行 发表于 06-22 15:22 159次 阅读

    NVIDIA为天壤提供计算能力强劲AI平台和行业解决方案

    天壤成立于 2016 年,是一家专注于通用智能研究的创新企业。致力于打造复杂系统下的通用人工智能平台....
    的头像 科技绿洲 发表于 06-22 11:25 399次 阅读

    NVIDIA 的CUDA平台能够助力实现卓越游戏体验

    越来越多的人在使用 NVIDIA 产品。机器人专家、视觉艺术专家、数据科学家等各类创新者和创作者都信....
    的头像 科技绿洲 发表于 06-22 10:55 187次 阅读

    NVIDIA技术助力各个领域加快创新速度

    更多问题,更多可能:NVIDIA 技术助力人类为之努力的各个领域加快创新速度。
    的头像 NVIDIA英伟达企业解决方案 发表于 06-22 10:39 190次 阅读

    得心应手的AI:NVIDIA Research助力内容创作者使用3D物体进行即兴创作

    可逆渲染流程 NVIDIA 3D MoMa 将于本周在新奥尔良举行的计算机视觉和模式识别会议 CVP....
    的头像 Blue5 发表于 06-22 10:27 1230次 阅读
    得心应手的AI:NVIDIA Research助力内容创作者使用3D物体进行即兴创作

    NVIDIA助力集度ROBO-01概念车发布

    电动汽车制造商集度展示了未来汽车的交互式 AI 驾驶体验。
    的头像 NVIDIA英伟达企业解决方案 发表于 06-22 10:15 109次 阅读

    NVIDIA助力天壤推出全新蛋白质设计平台

    天壤成立于 2016 年,是一家专注于通用智能研究的创新企业。致力于打造复杂系统下的通用人工智能平台....
    的头像 NVIDIA英伟达企业解决方案 发表于 06-22 10:12 137次 阅读

    使用GPU加速RELION进行生物结构解析

    NVIDIA 与智东西公开课共同策划推出「GPU 加速高性能计算(HPC)经典应用在线研讨会」。研讨....
    的头像 NVIDIA英伟达企业解决方案 发表于 06-22 10:06 145次 阅读

    NVIDIA Aerial SDK的概念及特性

    构建和部署 GPU 加速的 5G 虚拟无线接入网 (vRAN)。
    的头像 NVIDIA英伟达企业解决方案 发表于 06-22 10:03 127次 阅读

    NVIDIA Jetson AGX Orin开发套件开箱

    NVIDIA 4 月份推出了新一代嵌入式开发套件JetsonAGX Orin,这是目前市场上性能强大....
    的头像 NVIDIA英伟达企业解决方案 发表于 06-22 09:59 149次 阅读

    市政管网检测机器人助力地下管道360°无死角检测

    中国各地频发道路塌陷,小雨道路渍水,大雨城市内涝,基于此类情况城市管道检测已经是迫在眉睫,随着初夏的....
    发表于 06-21 17:07 28次 阅读

    使用NVIDIA QAT工具包实现TensorRT量化网络的设计

      目前, TensorFlow 在其开源软件 模型优化工具包 中提供非对称量化。他们的量化方法包括....
    的头像 星星科技指导员 发表于 06-21 16:54 291次 阅读
    使用NVIDIA QAT工具包实现TensorRT量化网络的设计

    最大限度地减少Jetson上的存储使用

    NVIDIA Jetson 为开发提供了灵活的存储选项/配置,但一些 Jetson 模块配备了有限的....
    的头像 星星科技指导员 发表于 06-21 16:16 237次 阅读
    最大限度地减少Jetson上的存储使用

    让AI应用程序为本机云做好准备

      Fleet Command 将应用程序部署为容器。通过使用容器,您可以在同一系统上部署多个应用程....
    的头像 星星科技指导员 发表于 06-21 16:07 228次 阅读

    使用ARIA Cybersecurity和NVIDIA实时阻止现代安全攻击

      对于即将推出的增强功能 NVIDIA Morpheus 应用框架 将使用高级 ML 和 AI 算....
    的头像 星星科技指导员 发表于 06-21 16:05 217次 阅读
    使用ARIA Cybersecurity和NVIDIA实时阻止现代安全攻击

    提高Kubernetes的GPU利用率

      在处理多个 CUDA 应用程序时,每个应用程序都可能没有充分利用 GPU 的资源,您可以使用简单....
    的头像 星星科技指导员 发表于 06-21 15:46 252次 阅读
    提高Kubernetes的GPU利用率

    使用最新的TAO工具包简化AI模型开发

      NVIDIA AI 企业 提供了对 TAO 工具包的企业支持,这是一个用于 AI 开发和部署的端....
    的头像 星星科技指导员 发表于 06-21 15:43 213次 阅读

    使用NVIDIA Clara Parabricks 3.8加速基因组分析

      与基于CPU的环境相比,最先进的生物信息学工具的速度提高了60倍。全基因组工作流程的端到端分析只....
    的头像 星星科技指导员 发表于 06-21 15:23 121次 阅读
    使用NVIDIA Clara Parabricks 3.8加速基因组分析

    用AI和高性能计算应对边缘数据挑战

      虽然我们的许多突出的 edge HPC 应用程序都专注于流式视频和成像管道,但 NVIDIA H....
    的头像 星星科技指导员 发表于 06-21 15:18 190次 阅读
    用AI和高性能计算应对边缘数据挑战

    了解何时使用DOCA驱动程序和DOCA库

    DOCA 简化了 BlueField DPU 的编程和应用程序开发,并通过提供更高级别的抽象消除了障....
    的头像 星星科技指导员 发表于 06-21 15:14 124次 阅读
    了解何时使用DOCA驱动程序和DOCA库

    通过全栈创新推动高性能计算

      A100 还以单处理器的形式出现在操作系统中,只需要启动一个 MPI 列即可充分利用其性能。而且....
    的头像 星星科技指导员 发表于 06-21 15:10 188次 阅读
    通过全栈创新推动高性能计算

    使用Nuba扩展在Python中编写光线跟踪应用程序

      光线跟踪是一种计算密集型算法。虽然理论上可以使用标准 C Python 解释器运行光线跟踪内核,....
    的头像 星星科技指导员 发表于 06-21 15:03 170次 阅读
    使用Nuba扩展在Python中编写光线跟踪应用程序

    NVIDIA NetQ自动化网络监控减少停机时间

      NVIDIA BlueField 数据处理器 ( DPU )通过卸载、加速和隔离广泛的高级网络、....
    的头像 星星科技指导员 发表于 06-21 14:58 226次 阅读
    NVIDIA NetQ自动化网络监控减少停机时间

    使用新的Nsight Compute改进导航和性能可视化

      源页面上的度量分组和选择选项有改进,使其更易于使用。此外,此版本还增加了对在基于 ARM SBS....
    的头像 星星科技指导员 发表于 06-21 14:54 169次 阅读
    使用新的Nsight Compute改进导航和性能可视化

    欧盟REACH认证和ROHS检测的区别

    随着贸易全球化,我国出口的产品也是越来越多,经常有客户咨询产品出口欧盟需要办理什么证书,如果办理REACH报告还需要办理...
    发表于 05-14 14:57 4569次 阅读

    Arm Neoverse NVIDIA Grace CPU 超级芯片:为人工智能的未来设定步伐

    人工智能 (AI) 将改变世界。但要实现其潜力,我们将不得不改变设计计算系统的方式。 诸如在云中训练神经网络或在边缘实时执...
    发表于 03-29 14:40 2854次 阅读

    大佬们,波特仪没有结果,是咋回事?

    坛友们,一个简单的电路图,但是波特仪没有结果,这是为什么呢?请大佬们帮忙看一下,多谢 ...
    发表于 03-17 13:20 11275次 阅读

    3个IO直接输出,触摸积水仍可操作的3键触摸检测芯片资料VK36N3D

    型号:VK36N3D品牌:VINKA/永嘉微电封装形式:SOP16/QFN16L年份:新年份概述VK36N3D具有3个触摸按键,可用来...
    发表于 03-11 10:42 7083次 阅读

    JetsonNano的环境配置参考刷机教程

    首先要保证安装好NVIDIA驱动工具和CUDA以及Cudnn软件包(主机的环境配置在第七章中可以找到,JetsonNano的环境配置...
    发表于 12-21 08:22 548次 阅读

    NVIDIA Jetson介绍

    首发极术社区如对Arm相关技术感兴趣,欢迎私信 aijishu20加入技术微信群。分享内容NVIDIA Jetson是嵌入式计算平台,具有...
    发表于 12-14 08:05 1366次 阅读

    如何去实现基于单片机温湿度检测显示报警控制系统设计

    【资源下载】下载地址:点击下载(580)百度网盘本设计是基于单片机的温湿度检测及控制,主要实现以下功能:可实现温湿度采集可实现...
    发表于 11-19 06:34 1098次 阅读

    多个动作的中文填表编程的步骤有哪些

    单个动作的中文填表编程的步骤有哪些? 多个动作的中文填表编程的步骤有哪些? ...
    发表于 10-11 06:46 913次 阅读

    求一种基于QT的线材检测方案

    求一种基于QT的线材检测方案
    发表于 09-28 07:58 674次 阅读