0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

揭秘eIQ Neutron神经处理单元:高效的边缘机器学习加速器!

NXP客栈 来源:未知 2023-02-11 13:15 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

高级处理能力和机器学习能力对于下一波边缘应用至关重要。机器学习用例在不同的市场和应用领域大不相同,因而需要不同的加速计算性能,在功耗和整体解决方案成本方面也差别迥异。

了解详情>>

机器学习应用提升计算性能和能效可通过多种方式,其中最有效的是将专门构建的专用神经处理单元 (NPU),或称为机器学习加速器 (MLA) 或深度学习加速器 (DLA) 集成到器件中,以补充CPU计算核心。

恩智浦提供广泛的产品组合,从传统的Kinetis MCULPC系列以及最近的MCX产品系列,到我们的i.MX RT跨界MCU和i.MX应用处理器,我们服务的每一个市场领域,对高效的机器学习计算能力的需求都在增长。

为了向我们的用户提供高度优化的器件,我们开发了eIQ Neutron神经处理单元 (NPU)。eIQ Neutron神经处理单元架构可从我们产品组合中最高效的MCU扩展到功能最强大的i.MX应用处理器。它具有较高的可扩展性,每周期运算频次为数十亿 (Giga) 到数万亿 (Tera),还支持多种神经网络类型 (如CNN、RNN、TCN和Transformer网络等),这些要素是成功的秘诀。

a91eb4c6-a9c9-11ed-bfe3-dac502259ad0.jpg  

图1: eIQ Neutron神经处理单元框图

eIQ Neutron神经处理单元提供了一套丰富的选项,用户可根据内核集成的恩智浦边缘处理器件和产品系列要满足的市场需求加以选择。

  • 专用的控制器内核

  • 内联去量化、激活和池化

  • 内置微缓存,可降低功耗并减少对系统内存速度的依赖性

  • 重量减压引擎

  • 用于输入和输出的多维DMA,包括跨步、批处理、交织、级联

  • 可配置耦合存储器

进一步了解为新一代安全互联的边缘设备而设计的i.MX 95系列应用处理器,点击这里>>

除硬件功能和特性外,eIQ Neutron神经处理单元内核还完全受屡获殊荣的eIQ机器学习软件开发环境的支持。

将恩智浦开发的硬件加速和软件支持相结合,用户能够利用恩智浦边缘处理产品组合的优势,并保证即使在部署了设备并投入实地使用之后,也能更高效地支持新兴机器学习神经网络、模型和操作员。

欢迎使用eIQ Neutron神经处理单元、MCX-N系列MCU、i.MX 95应用处理器及未来推出的更多器件等开发智能解决方案!

延伸阅读

了解MCX N MCU上搭载的eIQ Neutron神经处理单元:

  • MCX N系列高级微控制器官网,点击访问>>

  • 创造无限可能:全新恩智浦MCX N系列高性能MCU,点击阅读>>

i.MX 95系列应用处理器技术资讯:

  • i.MX 95系列应用处理器:安全可扩展的人工智能边缘平台,了解详情>>

  • i.MX 95系列应用处理器产品官网,点击访问>>

a939e6ba-a9c9-11ed-bfe3-dac502259ad0.jpg

本文作者

Ali Ors,恩智浦半导体边缘处理AI机器学习战略技术主管。Ali专门负责领导跨职能团队,为机器学习和视觉处理领域提供创新产品和平台。他目前在恩智浦负责全球AI机器学习战略和技术工作。Ali曾在恩智浦汽车业务部负责ADAS和自主产品的AI战略、战略伙伴关系和平台设计。加入恩智浦之前,Ali曾担任CogniVue公司的工程副总裁,负责开发视觉SoC解决方案和认知处理器IP内核。Ali持有加拿大渥太华卡尔顿大学的工程学学位。


原文标题:揭秘eIQ Neutron神经处理单元:高效的边缘机器学习加速器!

文章出处:【微信公众号:NXP客栈】欢迎添加关注!文章转载请注明出处。


声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • NXP
    NXP
    +关注

    关注

    61

    文章

    1410

    浏览量

    199241

原文标题:揭秘eIQ Neutron神经处理单元:高效的边缘机器学习加速器!

文章出处:【微信号:NXP客栈,微信公众号:NXP客栈】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    使用 Neutron 运行eiq_genai_flow时输出错误怎么解决?

    eiq_genai_flow 与 Neutron 一起使用时,我们得到乱码的 LLM 输出(请参阅下面的输出日志) root@imx95-var-dart:/home
    发表于 04-16 08:37

    边缘 AI 加速的 Arm® Cortex®‑M0+ MCU 如何为电子产品注入更强智能

    神经网络模型。 · 在 MCU 上运行机器学习推理可实现唤醒词检测、手势识别和预测性维护等高级功能。 利用 MCU 提升边缘 AI 的普及度 如今的通用型 MCU,尤其是集成了 TI
    的头像 发表于 03-25 09:22 295次阅读
    <b class='flag-5'>边缘</b> AI <b class='flag-5'>加速</b>的 Arm® Cortex®‑M0+ MCU 如何为电子产品注入更强智能

    在 NPU 上运行了 eIQ TensorFlow Lite 示例模型报错

    处理器 neutron-rproc 现已启动 信息:Neutron委托委托:31 个节点中的 29 个节点委托,有 1 个分区。 信息:已应用外部委托。 信息:为CPU创建了TensorFlow Lite
    发表于 03-18 06:52

    恩智浦推出全新eIQ Agentic AI框架

    恩智浦半导体宣布推出全新eIQ Agentic AI框架,进一步巩固其在安全实时边缘AI领域的领导地位。该工具支持在边缘设备上直接实现自主智能体功能,助力资深与新手设备开发人员简化并加速
    的头像 发表于 01-13 11:15 1560次阅读

    边缘计算中的AI加速器类型与应用

    人工智能正在推动对更快速、更智能、更高效计算的需求。然而,随着每秒产生海量数据,将所有数据发送至云端处理已变得不切实际。这正是边缘计算中AI加速器变得不可或缺的原因。这种专用硬件能够直
    的头像 发表于 11-06 13:42 1004次阅读
    <b class='flag-5'>边缘</b>计算中的AI<b class='flag-5'>加速器</b>类型与应用

    恩智浦推出i.MX 952人工智能应用处理器

    恩智浦半导体宣布推出i.MX 9系列的新成员——i.MX 952应用处理器。该处理器专为AI视觉、人机接口(HMI)及座舱感知应用而设计,通过集成eIQ Neutron
    的头像 发表于 10-27 09:15 3702次阅读

    SNN加速器内部神经元数据连接方式

    的数量级,而且生物轴突的延迟和神经元的时间常数比数字电路的传播和转换延迟要大得多,AER 的工作方式和神经网络的特点相吻合,所以受生物启发的神经形态处理器中的NoC或SNN
    发表于 10-24 07:34

    【「AI芯片:科技探索与AGI愿景」阅读体验】+第二章 实现深度学习AI芯片的创新方法与架构

    Transformer和视觉Transformer模型。 ViTA是一种高效数据流AI加速器,用于在边缘设备上部署计算密集型视觉Transformer模型。 2、射频神经网络 2.1线
    发表于 09-12 17:30

    Andes晶心科技推出新一代深度学习加速器

    高效能、低功耗 32/64 位 RISC-V 处理器核与 AI 加速解决方案的领导供货商—Andes晶心科技(Andes Technology)今日正式发表最新深度学习
    的头像 发表于 08-20 17:43 3123次阅读

    Arm神经技术是业界首创在 Arm GPU 上增添专用神经加速器的技术,移动设备上实现PC级别的AI图形性能

    Arm 神经技术是业界首创在 Arm GPU 上增添专用神经加速器的技术,首次在移动设备上实现 PC 级别的 AI 图形性能,为未来的端侧 AI 创新奠定基础 神经超级采样是 Arm
    的头像 发表于 08-14 17:59 2929次阅读

    FPGA在机器学习中的具体应用

    随着机器学习和人工智能技术的迅猛发展,传统的中央处理单元(CPU)和图形处理单元(GPU)已经无
    的头像 发表于 07-16 15:34 3096次阅读

    恩智浦eIQ Time Series Studio简介

    Time Series Studio是恩智浦推出的免费端到端工具包,为微控制和应用处理器提供时间序列AI的自动机器学习 (AutoML)。
    的头像 发表于 07-02 14:59 1990次阅读

    大联大世平推出基于恩智浦产品的边缘AI加速方案

    大联大世平 (WPI) 基于恩智浦i.MX 95系列应用处理器推出边缘AI加速方案,该方案结合了多项核心技术,包括神经处理
    的头像 发表于 06-24 17:33 2457次阅读
    大联大世平推出基于恩智浦产品的<b class='flag-5'>边缘</b>AI<b class='flag-5'>加速</b>方案

    粒子加速器 —— 科技前沿的核心装置

    粒子加速器全称“荷电粒子加速器”,是一种利用电磁场在高真空环境中对带电粒子(如电子、质子、离子)进行加速和控制,使其获得高能量的特种装置。粒子加速器技术现已发展成为集高能物理、核物理、
    的头像 发表于 06-19 12:05 4091次阅读
    粒子<b class='flag-5'>加速器</b> —— 科技前沿的核心装置

    MAX78002带有低功耗卷积神经网络加速器的人工智能微控制技术手册

    人工智能(AI)需要超强的计算能力,而Maxim则大大降低了AI计算所需的功耗。MAX78002是一款新型的AI微控制,使神经网络能够在互联网边缘端以超低功耗运行,将高能效的AI处理
    的头像 发表于 05-08 10:16 1025次阅读
    MAX78002带有低功耗卷积<b class='flag-5'>神经</b>网络<b class='flag-5'>加速器</b>的人工智能微控制<b class='flag-5'>器</b>技术手册