零基础让普通MCU跑人工智能！

2月27日消息，电气和电子工程师协会（IEEE）在其官网分享了一家名为Cartesiam的法国B2B软件开发公司的研发成果，该公司创立于2016年，主要面向人工智能（AI）研发嵌入式系统，让普通的Arm微控制器都能运行无监督学习AI。

在几年前，随着物联网传感器和产品的泛滥，人们曾认为这些数据将通过数百亿个智能传感器传递到云端，接着云端的AI和其他软件系统将对数据进行理解并处理。

但这在Cartesiam联合创始人兼总经理Marc Dupaquier看来，这个数据处理方案并不可行。

“从能源和成本的角度来看，传输所有的数据将耗费较高的成本，同时还增加了事件和系统反馈之间的等待时间，危及数据的隐私和使用，因此它也并不安全。“Marc Dupaquier说到。

而这，也成为了Cartesiam成立的缘由。2017年，该公司成立研发团队，计划重写所有机器学习和信号处理算法，以便用户可以在任何Arm Cortex M微控制器中去执行AI算法。

▲Cartesiam公司的四位合作伙伴

一、无需专业知识就可实现机器学习推理和预测

Marc Dupaquier认为，将AI放在边缘端进行处理，是Cartesiam等一些创企和大公司长期以来的目标之一。

“但就工具、数据和专业知识而言，实际构建嵌入式系统和程序微控制器的研发人员，却无法很好地利用它。”Marc Dupaquier谈到。

因此，Cartesiam研发了一个名为NanoEdge AI Studio的软件系统，该系统能够安全地生成AI算法，并且生成的算法只需两分钟就可在Arm微处理器上运行，容量大小仅为4～16KB RAM。

具体来说，NanoEdge AI Studio软件解决方案能够在Windows 10或Linux Ubuntu系统上运行，帮助开发人员轻松地生成机器学习静态库，以嵌入在任何Arm微控制器上运行的主程序中，并直接在微控制器内部进行机器学习、推理和预测。

实际上，整个使用过程，几乎都无需研发人员具备数学、机器学习、数据科学等其他神经网络知识。其中，系统生成的机器学习静态库包含一个AI模型，该模型能够在学习阶段逐步收集信息，从而能够检测到潜在的异常及其行为，并对其进行预测。

▲NanoEdge AI Studio软件解决方案操作示例

二、深度学习需求数据量大，专业开发人员短缺

Marc Dupaquier表示，NanoEdge AI Studio能够让任何嵌入式设计人员，都能快速开发特定应用程序的机器学习库，并在微控制器内部运行程序。

“其中涉及到的机器学习类型就是无监督学习，实际上它是我们公司取得成功的关键。”Marc Dupaquier说。

无监督学习属于机器学习的子类，通常用于大量无标签的数据挖掘，其训练数据没有人工提前去进行标注，需要机器自己通过某一特征去寻找海量数据中的相关结构。

而现在大部分人脸识别或路标识别的机器学习，都属于卷积神经网络，即深度学习。深度学习需要通过数据集进行成百上千次训练，并在训练完成后被移植到功能较弱的计算机中。

但Marc Dupaquier认为，在微控制器控制的传感器领域中，深度学习所需要的大量被标注数据集很难生成，同时数据科学领域的AI专业人才又十分稀少。

根据市场研究机构IDC数据，即使生成的数据能够使用，但只有不到1%的嵌入式开发人员拥有AI技能。与此同时，Marc Dupaquier透露公司的大多数客户也并不了解AI。

因此，Cartesiam研发的NanoEdge AI Studio软件系统，则尝试通过利用无监督学习技术，来解决研究人员在以往深度学习训练过程中所面临的标记数据集问题。

三、无监督学习的数字孪生样本应用

基于深度学习的大量数据需求，以及具备专业AI技能的嵌入式开发人员短缺，Cartesiam的NanoEdge AI Studio软件系统采用的无监督学习方案，则很好地解决了这一困境。

据了解，NanoEdge AI Studio的无监督学习能够为传感器提供数字孪生样本，分别为两分钟的正常操作样本和异常操作样本。同时，该系统还能帮助用户选择最佳的AI算法来构建网络，并将这些算法移植到嵌入式控制器的内存中。

当传感器在环境中运行时，它会同时检测正常情况，并观察数据中是有存在有意义的偏差。最终，它还能够在问题出现之前进行预测。

值得一提的是，Cartesiam已经与许多利用Arm Cortex-M来制造设备公司建立了合作关系，其中就包括法国专业级工业电子制造商Eolane。

Eolane与Cartesiam合作推出了一款名为Bob Assistant的温度/振动传感器，主要用于预测工业维修。目前，该解决方案已经被许多欧洲客户所采用，成为首个大规模部署的工业4.0预测性维护解决方案。

▲Bob Assistant

Marc Dupaquier谈到，由于周围环境的特殊性，每个传感器的微处理器上的神经网络可能会有所不同。“因为学习是在设备上进行的，所以它将学习该机器的运作模式。同时，AI也正在将机器的数字孪生植入到微控制器中。”他谈到。

结语：助力低功耗芯片的机器学习应用

将机器学习嵌入低功耗、低资源处理器中，是许多创企和半导体公司的一直以来不断精进研发和创新的动力之一。

实际上，很多公司也正在使用专门的计算机架构、内存计算方案和其他硬件技术，以生产运行深度学习和其他网络的低功耗芯片。

今年2月初，Arm也推出了一款机器学习加速处理器Cortex-M5，其数字信号处理器性能提升了5倍，机器学习性能提升至15倍。同时，它与微神经网络处理器Ethos U55配合使用，还能将机器学习性能提高480倍。

值得一提的是，Arm透露Cartesiam已经获得了测试新硬件的机会。届时，Arm的新款机器学习处理器与Cartesiam的NanoEdge AI Studio软件系统，又将擦出什么火花？我们拭目以待。