0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

Edge Impulse发布新工具,助 NVIDIA 模型大规模部署

微云疏影 来源:综合整理 作者:综合整理 2024-03-25 16:00 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

Edge Impulse 边缘智能平台近日推出全新工具套组,借力 NVIDIA TAO Toolkit 和 Omniverse,针对基于 Arm Cortex-A、Cortex-M 以及Ethos-U NPU 的低阶硬件架构推出新型 AI 模型,如 NXP I.MX RT1170、Alif E3、STM32H747AI 及 Renesas CK-RA8D1。

借助 Edge Impulse 和 NVIDIA TAO 工具包的协同效应,工程师得以快速构建并部署至边缘优化硬件(如上述型号)的计算机视觉模型。该平台还支持用户运用经由 GPU 优化的 NVIDIA TAO 模型(如 YOLO 以及 RetinaNet)进行自定义数据定制,调配后可适应有无 AI 加速器的边缘设备。

然而需注意,此创新方案需使用 GPU 进行模型训练。另外,Edge Impulse 还携手 NVIDIA Omniverse,实现模型在使用合成数据和边缘测试环境的应用程序中的集成。尤其适用环境下获取真实世界数据的成本高昂、耗时、存在隐私困扰或是无法充分描绘各类情景者。

利用 NVIDIA Omniverse Replicator ,Edge Impulse 可生成合成数据,并导入边缘设备的 AI 模型,配合应用于检测制造生产线上的缺陷、设备故障或者临床监测中的手术对象,以期避免术后并发症等状况。合成数据生成的优势颇多,包括:虚拟化减轻物理原型设计及测试负担;加速开发周期及实验过程;实现模拟传感器及模型行为;为MCU兼容性测试提供机会;提升模型可靠性并创设难以复现的情境。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • NVIDIA
    +关注

    关注

    14

    文章

    5508

    浏览量

    109119
  • gpu
    gpu
    +关注

    关注

    28

    文章

    5105

    浏览量

    134487
  • 模型
    +关注

    关注

    1

    文章

    3652

    浏览量

    51723
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    NVIDIA推动面向数字与物理AI的开源模型发展

    NVIDIA 发布一系列涵盖语音、安全与辅助驾驶领域的全新 AI 工具,其中包括面向移动出行领域的行业级开源视觉-语言-动作推理模型(Reasoning VLA)
    的头像 发表于 12-13 09:50 161次阅读

    利用NVIDIA Cosmos开放世界基础模型加速物理AI开发

    NVIDIA 最近发布NVIDIA Cosmos 开放世界基础模型(WFM)的更新,旨在加速物理 AI 模型的测试与验证数据生成。借助
    的头像 发表于 12-01 09:25 559次阅读

    面向科学仿真的开放模型系列NVIDIA Apollo正式发布

    用于加速工业和计算工程的开放模型系列 NVIDIA Apollo 于近日举行的 SC25 大会上正式发布
    的头像 发表于 11-25 11:15 3.3w次阅读

    NVIDIA 利用全新开源模型与仿真库加速机器人研发进程

    。   借助全新的 NVIDIA Cosmos 世界基础模型,开发者可以生成多样化数据,从而大规模加速物理 AI 模型的训练。   来自斯 坦福大学、苏黎世
    的头像 发表于 09-30 09:52 2787次阅读
    <b class='flag-5'>NVIDIA</b> 利用全新开源<b class='flag-5'>模型</b>与仿真库加速机器人研发进程

    大规模专家并行模型在TensorRT-LLM的设计

    DeepSeek-V3 / R1 等模型采用大规模细粒度混合专家模型 (MoE) 架构,大幅提升了开源模型的质量。Llama 4 和 Qwen3 等新
    的头像 发表于 09-06 15:21 945次阅读
    <b class='flag-5'>大规模</b>专家并行<b class='flag-5'>模型</b>在TensorRT-LLM的设计

    edge impulse的文件存入sd卡,插入sd卡到开发板后openmv中还是显示找不到tflite模型和labels,怎么解决?

    edge impulse的文件存入sd卡,插入sd卡到开发板后openmv中还是显示找不到tflite模型和labels。
    发表于 09-02 07:23

    使用Ansible实现大规模集群自动化部署

    当你面对1000+服务器需要部署时,你还在一台台手工操作吗?本文将揭秘如何用Ansible实现大规模集群的自动化部署,让运维效率提升10倍!
    的头像 发表于 08-27 14:41 546次阅读

    NVIDIA Nemotron Nano 2推理模型发布

    NVIDIA 正式推出准确、高效的混合 Mamba-Transformer 推理模型系列 NVIDIA Nemotron Nano 2。
    的头像 发表于 08-27 12:45 1422次阅读
    <b class='flag-5'>NVIDIA</b> Nemotron Nano 2推理<b class='flag-5'>模型</b><b class='flag-5'>发布</b>

    NVIDIA从云到边缘加速OpenAI gpt-oss模型部署,实现150万TPS推理

    发布持续深化了双方的 AI 创新合作。NVIDIANVIDIA Blackwell 架构上优化了这两款全新的开放权重模型并实现了推理性能加速,在
    的头像 发表于 08-15 20:34 1982次阅读
    <b class='flag-5'>NVIDIA</b>从云到边缘加速OpenAI gpt-oss<b class='flag-5'>模型</b><b class='flag-5'>部署</b>,实现150万TPS推理

    NVIDIA Dynamo新增对亚马逊云科技服务的支持

    ) 和 AWS Elastic Fabric Adapter (EFA) 的现有集成。此次更新将大规模部署大语言模型 (LLM) 的性能、可扩展性和成本效益提升到了新的水平。
    的头像 发表于 07-28 14:31 791次阅读
    <b class='flag-5'>NVIDIA</b> Dynamo新增对亚马逊云科技服务的支持

    Arm方案 基于Arm架构的边缘侧设备(树莓派或 NVIDIA Jetson Nano)上部署PyTorch模型

    本文将为你展示如何在树莓派或 NVIDIA Jetson Nano 等基于 Arm 架构的边缘侧设备上部署 PyTorch 模型
    的头像 发表于 07-28 11:50 2516次阅读

    如何本地部署NVIDIA Cosmos Reason-1-7B模型

    近日,NVIDIA 开源其物理 AI 平台 NVIDIA Cosmos 中的关键模型——NVIDIA Cosmos Reason-1-7B。这款先进的多模态大
    的头像 发表于 07-09 10:17 576次阅读

    英伟达GTC2025亮点:NVIDIA认证计划扩展至企业存储领域,加速AI工厂部署

    全新的存储认证和参考架构让企业 IT 部门能更轻松地选择和部署 AI 基础设施,实现最优的性能和能效。 AI 部署的成功依靠速度、数据和规模。因此,NVIDIA 正在扩展
    的头像 发表于 03-21 19:38 1728次阅读

    添越智创基于 RK3588 开发板部署测试 DeepSeek 模型全攻略

    方法的优缺点与操作要点。 01-使用Ollama工具部署-便捷但有短板 Ollama 是一个开源的大模型服务工具,可以支持最新的deepseek模型
    发表于 02-14 17:42

    NVIDIA Cosmos世界基础模型平台发布

    NVIDIA 宣布推出NVIDIA Cosmos,该平台由先进的生成式世界基础模型、高级 tokenizer、护栏和加速视频处理管线组成,将推动自动驾驶汽车(AV)和机器人等物理 AI 系统的发展。
    的头像 发表于 01-08 10:39 1046次阅读