0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

NVIDIA与恩智浦联手,在边缘设备上部署AI模型

微云疏影 来源:综合整理 作者:综合整理 2024-03-25 16:05 次阅读

Nvidia与恩智浦宣布展开新合作,将Nvidia的AI模型运用到恩智浦边缘处理设备当中。这项合作将让开发者借助Nvidia TAO工具包,无缝地将其集成进NXP的eIQ机器学习开发环境,共同推动AI的加速发展。据悉,恩智浦是首个直接内置Nvidia TAO API于AI产品半导体厂商

恩智浦工业IoT边缘高级副总裁Charles Dachs表示,人工智能的创新将塑造智能互联世界的未来,融入Nvidia先进的AI培训技术以及恩智浦在工业及物联网边缘科研实力,将产生协同效益,让用户能更迅速地将自家AI模型推向市场。

Nvidia机器人与边缘计算副总裁Deepu Talla则强调,Nvidia TAO大大简化了AI模型的创建和部署过程,无论是复杂的生成式AI模型亦能轻松应对。这次合作带来高精度且经Nvidia TAO精心优化的AI模型,可无缝整合进NXP的eIQ开发环境,从而加速边缘AI的部署。

恩智浦的 eIQ 机器学习软件开发环境支持广泛的微控制器微处理器上进行AI算法的运用。作为完全集成在恩智浦MCUXpresso SDK和Yocto Project Linux开发环境中的特色功能,eIQ机器学习开发环境和Nvidia TAO的打通可为模型AI训练、优化和部署提供统一平台,使得AI业务的研发更为简便。同时,Nvidia TAO还提供API驱动的工作流程,利用一系列预训练模型和迁移学习,尽享人性化的设计。此外,AI模型的剪裁等优化措施还能有效提升预测效率。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 恩智浦
    +关注

    关注

    14

    文章

    5715

    浏览量

    100773
  • NVIDIA
    +关注

    关注

    14

    文章

    4592

    浏览量

    101719
  • 人工智能
    +关注

    关注

    1776

    文章

    43845

    浏览量

    230605
收藏 人收藏

    评论

    相关推荐

    NVIDIA数字人技术加速部署生成式AI驱动的游戏角色

    NVIDIA 在 GDC 2024 大会上宣布,Inworld AI 等领先的 AI 应用程序开发者,正在使用 NVIDIA 数字人技术加速部署
    的头像 发表于 04-09 10:08 214次阅读
    <b class='flag-5'>NVIDIA</b>数字人技术加速<b class='flag-5'>部署</b>生成式<b class='flag-5'>AI</b>驱动的游戏角色

    Edge Impulse发布新工具,助 NVIDIA 模型大规模部署

    借助 Edge Impulse 和 NVIDIA TAO 工具包的协同效应,工程师得以快速构建并部署边缘优化硬件(如上述型号)的计算机视觉模型。该平台还支持用户运用经由 GPU 优化
    的头像 发表于 03-25 16:00 302次阅读

    使用CUBEAI部署tflite模型到STM32F0中,模型创建失败怎么解决?

    看到CUBE_AI已经支持到STM32F0系列芯片,就想拿来入门嵌入式AI。 生成的模型很小,是可以部署到F0上的,但是一直无法创建成功。 查阅CUBE
    发表于 03-15 08:10

    AI边缘计算机应用场景广泛!大语言模型与数字人结合方案在边缘侧落地

    电子发烧友网报道(文/李弯弯)AI边缘计算机是一种人工智能和边缘计算技术相结合的计算机设备。它可以在本地设备上运行
    的头像 发表于 01-16 01:11 1558次阅读

    边缘部署模型优势多!模型量化解决边缘设备资源限制问题

    电子发烧友网报道(文/李弯弯)大模型边缘部署是将大模型部署边缘
    的头像 发表于 01-05 00:06 1551次阅读

    利用 NVIDIA Jetson 实现生成式 AI

    近日,NVIDIA 发布了 Jetson 生成式 AI 实验室(Jetson Generative AI Lab),使开发者能够通过 NVIDIA Jetson
    的头像 发表于 11-07 21:25 487次阅读
    利用 <b class='flag-5'>NVIDIA</b> Jetson 实现生成式 <b class='flag-5'>AI</b>

    想在STM32 MCU上部署机器学习模型?这份入门教程,让你一学就会~

    想在STM32 MCU上部署机器学习模型?这份入门教程,让你一学就会~
    的头像 发表于 10-18 17:45 3228次阅读
    想在STM32 MCU<b class='flag-5'>上部署</b>机器学习<b class='flag-5'>模型</b>?这份入门教程,让你一学就会~

    AI边缘计算是什么意思?边缘ai是什么?AI边缘计算应用

    算法部署边缘设备上实现智能化的计算方式。 什么是边缘计算? 边缘计算是一种通过把计算能力尽可能靠近数据来源或消费者的计算模式,提高应用程序
    的头像 发表于 08-24 15:18 1492次阅读

    如何使用TensorFlow将神经网络模型部署到移动或嵌入式设备

    、iOS和Linux。每个框架和操作系统的部署过程是相似的,但每个框架和系统可能使用不同的工具。本演练专门介绍Android、Linux和iOS上部署TensorFlow模型的准备工
    发表于 08-02 06:43

    使用 NVIDIA TAO Toolkit 5.0 体验最新的视觉 AI 模型开发工作流程

    的预训练模型AI 辅助的数据标注,以及在任何平台上部署模型的能力。 发布亮点包括: 以开放的 ONNX 格式
    的头像 发表于 07-31 20:45 413次阅读
    使用 <b class='flag-5'>NVIDIA</b> TAO Toolkit 5.0 体验最新的视觉 <b class='flag-5'>AI</b> <b class='flag-5'>模型</b>开发工作流程

    如何部署ML模型到Google云平台

    实践中的机器学习:在 Google 云平台上部署 ML 模型
    的头像 发表于 07-05 16:30 422次阅读
    如何<b class='flag-5'>部署</b>ML<b class='flag-5'>模型</b>到Google云平台

    边缘AI应用越来越普遍,AI模型边缘端如何部署

    模型在端侧的部署也成了业界关注的焦点。   如何把AI 模型边缘部署   首先得软硬件适配
    的头像 发表于 07-04 00:11 1939次阅读
    <b class='flag-5'>边缘</b><b class='flag-5'>AI</b>应用越来越普遍,<b class='flag-5'>AI</b><b class='flag-5'>模型</b>在<b class='flag-5'>边缘</b>端如何<b class='flag-5'>部署</b>?

    在OpenNCC上部署人脸检测模型

    电子发烧友网站提供《在OpenNCC上部署人脸检测模型.zip》资料免费下载
    发表于 06-27 10:34 0次下载
    在OpenNCC<b class='flag-5'>上部署</b>人脸检测<b class='flag-5'>模型</b>

    NVIDIA “魔盒”有哪些“内涵”

    的同时对画面精准识别,这展现了FCU3001处理性能和视频分析的应用能力。 二、U盘升级 AI 边缘计算终端FCU3001除了支持NVIDIA原有的OTG(须用Linux PC)
    发表于 05-26 14:12

    边缘AI模型压缩技术

    模型压缩是在计算能力和内存较低的边缘设备上部署SOTA(最先进的)深度学习模型的过程,而不会影响模型
    的头像 发表于 05-05 09:54 592次阅读
    <b class='flag-5'>边缘</b><b class='flag-5'>AI</b>的<b class='flag-5'>模型</b>压缩技术