0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

机器学习入侵边缘处理 机器学习在嵌入式端具体如何实现

电子设计 来源:电子工程专辑 作者:邵乐峰 2021-02-27 16:39 次阅读

作为移动设备之后的第五波计算浪潮,边缘计算受到空前关注。它可以参与到生活的方方面面,包括居家、办公、城市、工厂等,使智能生活更安全、效率更高。

2020 年,Gartner 将边缘计算列为十大战略技术趋势之一。Gartner 指出,边缘计算是一种拓扑结构,信息处理以及内容收集和传递被放置在离信息源更近的位置,其核心逻辑是保持流量本地和分布式以减少延迟。

这将包括物联网的所有技术。边缘赋能将着眼于这些设备的增长方式并为智能空间奠定基础,并使关键应用和服务更接近使用它们的人员和设备。根据预测,到 2023 年,网络边缘的智能设备数量可能是传统 IT 领域的 20 倍以上。

o4YBAF-hWw-AOg3tAAJ4vnD99Oo186.png


边缘处理——数十亿量级的蓝海市场

边缘计算何以实现这样的增长?恩智浦(NXP)高级副总裁兼边缘处理事业部总经理 Ron Martino 指出了背后的三大驱动因素:第一,它能够降低总体拥有成本,不需要总是进行云接入,从而降低本地成本。第二,它可以保护数字隐私,提高安全性。第三,它能够减少应用延迟,支持实时应用,增强本地体验质量。

随着边缘计算与传统分布式计算架构的深度融合,边缘处理——正在悄然酝酿一场变革。NXP 作为在安全、连接、嵌入式领域耕耘多年的半导体厂商,将如何布局边缘处理的广阔市场?又会进行哪些变革?

Ron Martino 表示,边缘处理市场可以看作一个分布式智能金字塔。底部是包括工业和物联网在内的应用边缘,其中工业边缘包括工厂自动化、基础设施、交通运输、医疗等,物联网边缘包括智能家居、消费及可穿戴领域,这是边缘处理规模最大的、十亿量级的大市场;中部是网络边缘,主要支持 5G 本地网络及数据集成,是一个千万到亿级的市场;最顶部则是数据中心,以云服务为主,大约是百万量级。对边缘处理的布局,NXP 的应用主要包括三大类:网络边缘、工业边缘、物联网边缘,也就是金字塔底部和腰部规模最大的两块。

pIYBAF-hWxSADaVLAAMUzlpvVpg057.png

机器学习入侵边缘处理

几年前,人们普遍认为机器学习、深度学习只能通过由网关、边缘服务器或数据中心执行的边缘训练和推理,在高端硬件上完成。如今,情况已然发生了变化,处理器不必提供每秒数万亿次操作(TOPS),也能执行机器学习,只要使用带有嵌入式机器学习加速器的微控制器,就能在边缘设备上进行机器学习。

内置机器学习加速器的微控制器代表着物联网的下一阶段:在生产数据的源头,例如麦克风、摄像头和监控其他环境条件的传感器中引入智能计算,只需极低的成本和极低的功耗,这些设备就能出色地完成机器学习,仅在绝对必要时才连接到云。

目前,机器学习在边缘计算中的应用已经比较普遍,有 55%的开发人员表示他们当前或未来工作需要机器学习,早期的采纳者已经开始探索更有意义的用例,未来则会被越来越多的开发者接受,也将使得机器学习的开发鸿沟得以消弭。

pIYBAF-hWxiANDoxAAIXH-yzZ8I439.png

在 NXP 看来,在嵌入式开发中引入机器学习,当务之急是让更多的开发者用起来。NXP 与 Au-zone 合作开发机器学习工具包,并与 Arm 合作,使 Arm Ethos-U65 microNPU 提供可扩展且高性能的机器学习用例。通过合作,加强 NXP 对 eIQ 机器学习开发环境的支持,帮助用户部署优化机器学习的模式,并且在全球范围内优化机器学习能力,直到 MCU 的层级。

不过,机器学习在嵌入式端具体如何实现?毕竟设备资源受限,对功耗、带宽、存储、模型尺寸等都有完全不同的要求。

NXP 边缘处理事业部副总裁兼 IoT 业务线总经理于修杰表示,很多客户其实都关心有没有可能免费在设计中实现人工智能或机器学习,其实指的就是用 CPU 来运行。NXP 的 eIQ 工具可以部署类似这种模式,例如在家居场景中,由于人是交互对象,因此在推理方面需求不高,在机器学习方面就无需购买加速产品,从而可以降低成本。

此外,微处理器中应用处理器和神经网络加速器的发展速度十分迅猛,更完善的解决方案也层出不穷。总体趋势是将更多以人工智能为中心的功能(例如神经网络处理)与应用处理器一起整合到微处理器中,同时避免功耗或尺寸显著增加。

不过,目前尚处于机器学习发展的早期,会有很多迭代和战略微调。他强调,机器学习和人工智能应用,在选择处理器方面不可能做到一刀切,取决于市场对于应用的需求和对功耗、成本的容忍度,每种技术都能找到自己适用和擅长的领域,因此未来还有很大的继续创新的空间。NXP 将通过可扩展的处理器,支持从简单到复杂的机器学习用例。

EdgeVerse 是 NXP 的边缘处理平台,通过嵌入式处理产品组合,结合安全、软件和整体解决方案来加速边缘计算。具体包括 MCU、跨界处理器、应用处理器以及高端微处理器等多系列的产品组合。其适用范围较为广泛,据 Ron Martino 介绍,可覆盖新基建七大重点领域中的六个,如 AI、工业互联网、城际交通、5G、数据中心、新能源汽车充电。

o4YBAF-hWx2AHZ7wAAL3q2xsWFo600.png

边缘赋能下,嵌入式计算将如何演进?

混合计算架构成为边缘计算迅速融入物联网多种多样应用中的一个趋势,跨界 MCU——就是 NXP 顺应这一趋势的创新。所谓“跨界”,是指介于常规的 MPU 与 MCU 之间,采用了 MCU 的内核,但基于 MPU 的架构,因此既能实现 MPU 的高性能和丰富功能,同时又兼具传统 MCU 的易用性、低功耗、低成本的特性,从而打破了 MPU 和 MCU 之间的界限。

Ron Martino 指出,机器学习已经出现约 20 年了,一旦发布一款芯片,人们就会尝试在处理引擎上运行各类计算,不论是 DSP、CPU 还是 GPU,随着高集成度的出现,在产品中使用这些计算密集型神经网络也成为可能。在软件层面,整个协议栈到软件和应用层,也必须从机器学习的角度对许多方面进行评估。而更重要的是用户体验,需要找到他们真正想解决的问题。这就使得当前对于机器学习的用例优化非常重要,通过硬件 IP 与软件相结合,真正解决终端应用需求。

“边缘计算有着广泛的可能性,无论是性能还是能力,因此可扩展的解决方案具有更大的价值,它能够充分挖掘边缘计算的能力,这也需要非常广泛的器件组合,在满足软件方面要求的同时又能够兼顾平台的效率”,Ron Martino 强调,“安全也越来越重要,随着接入点的增多,产生了非常多的关键数据,安全性和不断集成的功能已经成为极为重要的因素,也成为嵌入式计算不断演进的关键因素。”

至于嵌入式计算会如何演进?他表示,这些年来嵌入式计算的关键指标从频率、单线程性能一直到具有很多计算模块的异构计算,能耗效率和成本效益在不断提升,机器学习功能也会不断进化。在开发嵌入式计算产品方面不仅要结合各种计算模块实现互联,也需要进行软件的优化赋能和硬件的用例优化。机器学习和传统的 CPU 工作负载有不同,比如内存的接入可能会成为一个潜在的瓶颈,另外还需要优化它的尺寸,将其作为计算部件的一部分,实现与 CPU 功能及其他功能的协同,这是涉及系统级优化的复杂过程,需要熟练的制造流程作用于软件和硬件应用,以便真正优化性能并降低功耗。

编辑:hfy

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 物联网
    +关注

    关注

    2860

    文章

    41271

    浏览量

    357395
  • 机器学习
    +关注

    关注

    66

    文章

    8062

    浏览量

    130442
  • 嵌入式计算
    +关注

    关注

    0

    文章

    25

    浏览量

    14062
  • 边缘计算
    +关注

    关注

    22

    文章

    2759

    浏览量

    45935
收藏 人收藏

    评论

    相关推荐

    嵌入式学习步骤

    开发板上测试固件以及实际设备上进行测试。 嵌入式系统的多样化发展,它将更为广泛地应用于各个领域,实现智能化、网络化、自动化的目标。同时,随着人工智能和机器
    发表于 02-02 15:24

    如何学习嵌入式系统

    ,这将对以后的驱动程序编写带来很大的方便。同样,裸机程序学习可像51单片机一样,购买开发板,开发板上进行一些中断、GPIO、UART的操作。  具体操作:回复CD查看主菜单,再回复106进入
    发表于 08-17 10:18

    学习嵌入式有前途吗?

    和半导体技术与各行业的具体应用相结合的综合技术学科。受限空间和资源的不足,嵌入式系统的硬件和软件都必须高效率地设计,争取相同的硅片面积上去实现更高的性能,这样才能在
    发表于 10-07 11:45

    嵌入式系统机器人中的应用

    机器狗为代表的智能机器宠物是最典型的嵌入式机器人控制系统,除了能够实现复杂的运动功能,它还具有图像识别、语音
    发表于 07-06 11:08

    学习嵌入式有前途吗?

    和半导体技术与各行业的具体应用相结合的综合技术学科。受限空间和资源的不足,嵌入式系统的硬件和软件都必须高效率地设计,争取相同的硅片面积上去实现更高的性能,这样才能在
    发表于 09-08 11:45

    学习嵌入式有没有前途

    学习嵌入式有前途吗?很多计算机行业的人都有这个问题。日益信息化的社会,计算机和网络已渗透到我们日常生活的每一个角落。我们每个人,需要的已不再仅仅是放在桌上处理文档,进行工作管理和生产
    发表于 10-27 06:31

    学习嵌入式有前途吗

    学习嵌入式有前途吗?很多计算机行业的人都有这个问题。日益信息化的社会,计算机和网络已渗透到我们日常生活的每一个角落。我们每个人,需要的已不再仅仅是放在桌上处理文档,进行工作管理和生产
    发表于 10-27 07:49

    机器学习的相关资料下载

    https://www.toutiao.com/a6712245202418926083/机器学习最重要的应用之一是嵌入式机器视觉领域,各类系统正在从视觉使能系统演进为视觉引导自动化系
    发表于 12-14 07:03

    介绍机器学习的基础内容

    嵌入式系统之硬件总复习提示:这里可以添加系列文章的所有文章的目录,目录需要自己手动添加例如:第一章 Python 机器学习入门之pandas的使用提示:写完文章后,目录可以自动生成,如何生成可
    发表于 12-16 06:27

    嵌入式结合机器学习文章分享

    嵌入式结合机器学习方向的两篇比较好的文章,记录一下。1
    发表于 12-20 06:56

    为什么需要将机器学习迁移到边缘设备

    本文翻译自《ARM Embedded Machine Learning Design》一书。本书共有5章,小编会分别翻译,并在公众号连载,喜欢的同学请关注小编,以免错过精彩内容哦!嵌入式软件杂货铺
    发表于 12-20 06:35

    机器人技术和机器学习

    机器人技术和机器学习正成为嵌入式系统硬件和软件供应商的下一个重大事件。嵌入式系统可以通过网络连接和物联网(IoT)来传递信息、共享资源。无论
    发表于 12-20 06:03

    什么是机器学习? 机器学习基础入门

    微控制器和单板计算机等受限设备上的机器学习)的出现,机器学习已经与所有类型的工程师相关,包括那些从事嵌入式应用的工程师。此外,即使您熟悉 T
    发表于 06-21 11:06

    由Qeexo嵌入式机器提供的AI亮相于边缘设备

    Qeexo嵌入式机器学习,不依靠云端中运行实时机器学习推理的嵌入式
    发表于 08-20 11:24 754次阅读

    边缘人工智能:微芯片和嵌入式机器学习

    边缘人工智能:微芯片和嵌入式机器学习
    的头像 发表于 12-30 09:40 1075次阅读
    <b class='flag-5'>边缘</b>人工智能:微芯片和<b class='flag-5'>嵌入式</b><b class='flag-5'>机器</b><b class='flag-5'>学习</b>