0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

Edge Impulse发布新工具,助 NVIDIA 模型大规模部署

微云疏影 来源:综合整理 作者:综合整理 2024-03-25 16:00 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

Edge Impulse 边缘智能平台近日推出全新工具套组,借力 NVIDIA TAO Toolkit 和 Omniverse,针对基于 Arm Cortex-A、Cortex-M 以及Ethos-U NPU 的低阶硬件架构推出新型 AI 模型,如 NXP I.MX RT1170、Alif E3、STM32H747AI 及 Renesas CK-RA8D1。

借助 Edge Impulse 和 NVIDIA TAO 工具包的协同效应,工程师得以快速构建并部署至边缘优化硬件(如上述型号)的计算机视觉模型。该平台还支持用户运用经由 GPU 优化的 NVIDIA TAO 模型(如 YOLO 以及 RetinaNet)进行自定义数据定制,调配后可适应有无 AI 加速器的边缘设备。

然而需注意,此创新方案需使用 GPU 进行模型训练。另外,Edge Impulse 还携手 NVIDIA Omniverse,实现模型在使用合成数据和边缘测试环境的应用程序中的集成。尤其适用环境下获取真实世界数据的成本高昂、耗时、存在隐私困扰或是无法充分描绘各类情景者。

利用 NVIDIA Omniverse Replicator ,Edge Impulse 可生成合成数据,并导入边缘设备的 AI 模型,配合应用于检测制造生产线上的缺陷、设备故障或者临床监测中的手术对象,以期避免术后并发症等状况。合成数据生成的优势颇多,包括:虚拟化减轻物理原型设计及测试负担;加速开发周期及实验过程;实现模拟传感器及模型行为;为MCU兼容性测试提供机会;提升模型可靠性并创设难以复现的情境。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • NVIDIA
    +关注

    关注

    14

    文章

    5694

    浏览量

    110119
  • gpu
    gpu
    +关注

    关注

    28

    文章

    5272

    浏览量

    136073
  • 模型
    +关注

    关注

    1

    文章

    3819

    浏览量

    52274
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    Edge Impulse 唤醒词模型训练 | 技术集结

    今天,将手把手带领学习如何训练一个语音关键词模型部署到嵌入式硬件上,采用Edgi-Talk平台适配EdgeImpulse,当然原理在其他的ARM嵌入式平台也是通用的。让我们看看如何让
    的头像 发表于 04-20 10:05 721次阅读
    <b class='flag-5'>Edge</b> <b class='flag-5'>Impulse</b> 唤醒词<b class='flag-5'>模型</b>训练 | 技术集结

    NVIDIA发布Vera Rubin DSX AI Factory参考设计

    Rubin DSX 的 NVIDIA Omniverse DSX Blueprint,旨在为大规模设计、建设及运营提供物理精确的 AI 工厂数字孪生。
    的头像 发表于 03-18 14:42 650次阅读

    NVIDIA 携手全球机器人领导者,将物理 AI 带入现实世界

    基于 NVIDIA 技术,大规模开发并部署物理 AI。 NVIDIA 发布全新 NVIDIA C
    的头像 发表于 03-17 11:22 606次阅读
    <b class='flag-5'>NVIDIA</b> 携手全球机器人领导者,将物理 AI 带入现实世界

    黑芝麻智能华山A2000 BaRT工具链助力辅助驾驶模型部署

    随着智驾模型参数规模与计算复杂度指数级增长,大模型应用与车端硬件、性能功耗的矛盾愈发凸显,成为技术量产的关键瓶颈。在此背景下,黑芝麻智能华山A2000 BaRT 工具链以 MLIR 框
    的头像 发表于 02-02 15:37 560次阅读
    黑芝麻智能华山A2000 BaRT<b class='flag-5'>工具</b>链助力辅助驾驶<b class='flag-5'>模型</b><b class='flag-5'>部署</b>

    NVIDIA在CES 2026发布全新开放模型、数据和工具

    为扩展开放模型生态,NVIDIA 发布全新开放模型、数据和工具,推动各行业 AI 技术的发展。
    的头像 发表于 01-09 10:42 734次阅读

    如何在NVIDIA Jetson AGX Thor上部署1200亿参数大模型

    上一期介绍了如何在 NVIDIA Jetson AGX Thor 上使用 Docker 部署 vLLM 推理服务,以及使用 Chatbox 作为前端调用 vLLM 运行的模型(上期文章链接)。本期
    的头像 发表于 12-26 17:06 5274次阅读
    如何在<b class='flag-5'>NVIDIA</b> Jetson AGX Thor上<b class='flag-5'>部署</b>1200亿参数大<b class='flag-5'>模型</b>

    NVIDIA 推出 Nemotron 3 系列开放模型

    token 数。 ● Nemotron 通过先进的强化学习技术以及大规模并行多环境后训练,实现了卓越的准确率。 ● NVIDIA 率先推出整套前沿的开放模型、训练数据集及强化学习环境与
    的头像 发表于 12-16 09:27 819次阅读
    <b class='flag-5'>NVIDIA</b> 推出 Nemotron 3 系列开放<b class='flag-5'>模型</b>

    NVIDIA推动面向数字与物理AI的开源模型发展

    NVIDIA 发布一系列涵盖语音、安全与辅助驾驶领域的全新 AI 工具,其中包括面向移动出行领域的行业级开源视觉-语言-动作推理模型(Reasoning VLA)
    的头像 发表于 12-13 09:50 1547次阅读

    利用NVIDIA Cosmos开放世界基础模型加速物理AI开发

    NVIDIA 最近发布NVIDIA Cosmos 开放世界基础模型(WFM)的更新,旨在加速物理 AI 模型的测试与验证数据生成。借助
    的头像 发表于 12-01 09:25 1445次阅读

    面向科学仿真的开放模型系列NVIDIA Apollo正式发布

    用于加速工业和计算工程的开放模型系列 NVIDIA Apollo 于近日举行的 SC25 大会上正式发布
    的头像 发表于 11-25 11:15 7.4w次阅读

    大规模专家并行模型在TensorRT-LLM的设计

    DeepSeek-V3 / R1 等模型采用大规模细粒度混合专家模型 (MoE) 架构,大幅提升了开源模型的质量。Llama 4 和 Qwen3 等新
    的头像 发表于 09-06 15:21 1436次阅读
    <b class='flag-5'>大规模</b>专家并行<b class='flag-5'>模型</b>在TensorRT-LLM的设计

    edge impulse的文件存入sd卡,插入sd卡到开发板后openmv中还是显示找不到tflite模型和labels,怎么解决?

    edge impulse的文件存入sd卡,插入sd卡到开发板后openmv中还是显示找不到tflite模型和labels。
    发表于 09-02 07:23

    使用Ansible实现大规模集群自动化部署

    当你面对1000+服务器需要部署时,你还在一台台手工操作吗?本文将揭秘如何用Ansible实现大规模集群的自动化部署,让运维效率提升10倍!
    的头像 发表于 08-27 14:41 990次阅读

    Arm方案 基于Arm架构的边缘侧设备(树莓派或 NVIDIA Jetson Nano)上部署PyTorch模型

    本文将为你展示如何在树莓派或 NVIDIA Jetson Nano 等基于 Arm 架构的边缘侧设备上部署 PyTorch 模型
    的头像 发表于 07-28 11:50 3064次阅读

    如何本地部署NVIDIA Cosmos Reason-1-7B模型

    近日,NVIDIA 开源其物理 AI 平台 NVIDIA Cosmos 中的关键模型——NVIDIA Cosmos Reason-1-7B。这款先进的多模态大
    的头像 发表于 07-09 10:17 1014次阅读