TinyML将可以助力打开超低功耗机器学习的大门

（文章来源：EEWORLD）

如果你把人工智能和物联网相结合，你会得到什么?AIoT是一个简单的答案，但你也得到了一个巨大的微控制器的应用新领域，这得益于神经网络技术的进步，意味着机器学习不再局限于超级计算机的世界。如今，智能手机应用程序处理器可以执行图像处理、推荐引擎和其他复杂功能的人工智能推理。

我们将这种能力应用到不起眼的微控制器中是一个巨大的机会。想象一下，我们可以使用人工智能过滤对话中的背景噪音的助听器，也会有识别用户面部并切换到其个性化设置的智能家电，这些以AI驱动的传感器节点可以用最小的电池运行数年。这也在端点处理数据提供了不可忽视的延迟、安全和隐私优势。

然而，利用微控制器设备实现有意义的机器学习并非易事。例如，人工智能计算的一个关键标准——内存，它经常受到严重限制。但数据科学正在迅速发展，以缩小模型的尺寸，设备和IP供应商正通过开发工具和整合为现代机器学习需求量身定制的功能来应对。

作为该行业快速增长的一个标志，TinyML峰会正变得越来越强大。据组织者说，去年举办的首届峰会有11家赞助公司，而今年的活动有27家，而且门票销售时间也早得多。他们的全球设计师月度聚会的会员人数大幅增加。一批企业正在利用TinyML相关的技术与产品，探索如何在这些无处不在的小型设备上，更好的搭载机器学习，以便提高设备的分析能力和运行效率。

TinyML是不同技术领域和推动因素的交集，它位于物联网设备、机器学习和边缘计算之间的结合部，并因为多种驱动力的综合作用，进展很快。

在TinyML 2020峰会上，英伟达、ARM、高通、谷歌、微软、三星等公司纷纷展示了微型机器学习的最新成果。这是TinyML峰会的第二届，这次他们得出了一些重要的结论：对于很多应用场景，TinyML技术和硬件已经进化到实用性较强的阶段；无论是算法、网络，还是低于100KB的ML模型，都取得了重大突破；视觉和音频领域的低功耗需求快速增长。

何为TinyML？分布最广的物联网设备往往体积很小、电量有限。它们被作为终端硬件，通过嵌入式传感器采集各种数据；计算能力有限，对功耗极为敏感。这类设备也能实现机器学习吗？一个趋势是，人工智能AI正在加快速度从“云端”走向“边缘”，进入到越来越小的物联网设备中。

在终端和边缘侧的微处理器上，实现的机器学习过程，被称为微型机器学习，即TinyML。更准确的说，TinyML是指工程师们在mW功率范围以下的设备上，实现机器学习的方法、工具和技术。

TinyML委员会联合主席、高通的Evgeni Gousev在展会上表示：“我们看到了一个新世界，TinyML技术带来了数以万亿计的智能设备，它们可以感知、分析和自主行动，为所有人创造一个更健康、更可持续的环境。” Gousev将这种增长归因于更节能的硬件和算法的发展，以及更成熟的软件工具的结合。他指出，企业和VC的投资正在增加，初创企业和并购活动也在增加。

如今，TinyML委员会相信这项技术已经得到验证，在微控制器中使用机器学习的初始产品将在2-3年内上市。“杀手级应用”预计将在3-5年内问世。

去年春天，当Google首次演示了用于微控制器的TensorFlow框架版本时，技术验证的一个重要象征。微控制器的TensorFlow Lite被设计为在只有千字节内存设备上运行(核心运行时在Arm Cortex M3上只有16 KB，并且有足够的操作员运行语音关键字检测模型，总共需要22 KB)。它只支持推理(不支持训练)。

大型微控制器制造商当然正饶有兴趣地关注着TinyML社区的发展。随着研究使得神经网络模型越来越小，它们的机会也越来越大。大多数都支持机器学习应用程序。例如，意法半导体有一个STM32Cube扩展包。是一个人工智能，使映射和运行神经网络在其STM32系列的Arm Cortex-M为基础的微控制器。

瑞萨有自己的e-AI开发环境，允许在微控制器上实现AI推理。它有效地将模型转换为一种在e2 studio中可用的形式，并与C/ c++项目兼容。e2 studio ISDE专为Synergy平台而设计，并提供相关工具以用于软件设计流程的三个阶段：准备阶段、构建阶段和调试阶段。

对于准备阶段，e2 studio配备用于硬件选项（包括MCU引脚分配）和软件选项（如RTOS线程分配）的图形配置器。内置错误检查功能可确保做出有效选择，并在出现任何冲突或违规时通知用户。e2 studio还提供设计用于简化构建阶段的功能，如自动代码生成、内置代码模板和自动代码构造。借助关键字彩色编码、跳转声明、变量自动完成和上下文感知手册，开发人员可以节省大量时间和投入。

对于调试阶段，e2 studio提供多种方法来深入显示代码执行情况。调试工具支持动态跟踪线程执行时间和中断服务例程，并支持对整体系统行为进行可视化。全面调试和分析功能将简化实时系统事件的故障诊断流程。NXP表示，有客户使用其低端Kinetis和LPC MCU进行机器学习应用。NXP尽管目前主要是围绕其更大的应用处理器和交叉处理器(在应用处理器和微控制器之间)。但他们正在硬件和软件解决方案上实现人工智能化。
（责任编辑：fqj）