掌握边缘人工智能

GreenWaves Technologies 和 Imagimob 讨论了在边缘为 AI 开发应用程序的挑战以及用例将如何演变。

EE Times Europe 采访了两家参展商 GreenWaves Technologies 和 Imagimob 的高管，以深入了解在边缘开发 AI 应用程序的挑战以及用例将如何演变。

机器学习并不新鲜；十多年来，许多ML模型已经在高端服务器和云服务提供商上可用。然而，对超低功耗、资源受限的微控制器进行推理仅在过去四年才开始获得发展势头。2019 年，tinyML 基金会成为希望探索在低功耗 MCU 上运行 ML 算法（通常消耗毫瓦级能量）的公司的焦点。随着超低功耗 MCU 的面世，它们开启了始终在线运行的潜力，特别是对于电池供电的用例。

定义“边缘”

对某些人来说，“边缘”代表可靠的网络连接和线路电源的地方；其他人认为它是一个偏远的地方，连接有限或不可靠，电池供电是常态。从环境资源中收集能量越来越成为边缘节点物联网设备的一个特点。

“边缘有很多定义，”超低功耗处理器的无晶圆厂开发商 GreenWaves Technologies（法国格勒诺布尔）营销副总裁 Martin Croome 说。“对于移动网络运营商来说，边缘可能是他们的基站，在生产线上它可能是机器人，而对我们来说它可能是耳塞。定义边缘的重要因素之一是功率：是瓦、毫瓦还是微瓦？边缘的第二个维度是成本，其中边缘设备受到成本限制，要么是因为它是一件本身成本不高的小东西，要么是市场紧张。tinyML 设备成本低、功耗低。”

边缘人工智能开发挑战

市场对 tinyML 和在边缘创建机器学习应用程序的兴趣帮助建立了多家 ML 开发平台公司。这些软件包涵盖整个 AI 工作流程，从数据收集到数据分析、模型选择和部署，是探索边缘 AI 的嵌入式开发人员的热门选择。

Imagimob（瑞典斯德哥尔摩）于 2019 年推出了 Imagimob AI 平台。在开发人员面临的所有 ML 挑战中，合适的训练数据的可用性至关重要。但这不仅仅是拥有正确的数据，Imagimob 的首席执行官兼创始人安德斯·哈德布林 (Anders Hardebring) 说。“借助我们的 AutoML 功能，你可以使用智能算法找到正确的模型架构，但这里重要的是对数据有很好的理解。理解数据是关键。如果不了解数据并且正在使用 AutoML，那么就无法真正了解正在发生的事情。”

GreenWaves的Croome证实，一揽子方法对那些刚起步的人有帮助，但也强调了了解正在使用的数据的重要性。“如果你正在做的事情适合其中一个包，那么也许你可以走很长一段路，而不必让自己暴露对特定模型的更深入理解。我会争辩说，[如果你]使用一个不了解你将要做的统计数据的包，对它的数学理解，那么我认为你可能会犯一些错误。”

学习什么是可能的

虽然已经存在许多用于对象检测的训练数据集，例如动物、水果或蔬菜，但对于许多用例，你需要从头开始。Imagimob 的首席技术官兼联合创始人 Alexander Samuelsson 指出了数据挑战：“假设你需要为安全用例检测枪声。首先，你需要从不同的环境中获得质量好的枪声，然后你想要将这些声音与不同的背景噪音叠加在一起，让模型开始理解这种声音的边界。”

更大的模型和加速器

当被问及人工智能在边缘的当前局限性时，Samuelsson回答说：“市场仍然是新的，人们正在试验并试图了解可以做什么。到目前为止，我们不得不帮助用户解释一下这项技术可以做什么，不可以做什么。

“例如，几年前，一个惯性测量单元，因为它是一个低带宽传感器，是一个很好的起点。现在这些平台，尤其是带有加速器的平台，变得越来越强大，所以可以做更高级的事情。”

虽然许多 tinyML 简单的神经网络模型可以在低功耗微控制器上运行，但毫无疑问，添加加速器会打开可能的用例并使用更大的模型。每个处理器创新周期都在不断降低功耗，进一步扩大人工智能在边缘的作用。

GreenWaves 的第二代处理器 GAP9 具有超低功耗规格，并集成了 DSP 和神经网络加速器。Croome 解释了添加 DSP 的原因：“在很多情况下，在将数据输入神经网络之前，需要对 [数据] 进行大量预处理。任何时间序列往往都需要更多的前期工作，比如编解码器之类与人工智能无关但无论如何都需要的东西。”

Croome 承认用例的内存和处理注意事项，包括升级到功能更强大的 MCU 的潜在需求。“然后你可能会遇到成本或功率问题，”他说。“一般来说，固定的硬件会更有效率。存在灵活性与成本权衡。比如人声检测，放在麦克风里面就很明显了。可能会占据很大一部分麦克风市场。你可以专门为此构建网络并设计麦克风内部的控制器。然而，对于其他情况，它可能根本没有意义，因为你想升级它、改变它或变得更灵活。”

推进边缘 AI 所必需的下一个创新

超低功耗微控制器、AI/ML 开发平台和神经网络加速器取得的进步有助于扩展基于边缘的 tinyML 应用程序的复杂性。但下一步是什么？需要哪些硬件创新来延续边缘人工智能的发展步伐？

Imagimob 的 Hardebring 说：“我们认为技术已经在这里了，但我们认为市场需要接受更多教育。归根结底，我认为技术在这里，芯片在这里，软件在这里，但市场需要理解这一点。市场需要了解他们可以在边缘做什么以及这样做的优势。”

Imagimob 的 Samuelsson 说，供应商在这里发挥了作用。“我认为，为了真正帮助我们的客户投入生产，我们所有的公司，包括硬件和软件，都需要非常、非常紧密地合作。”

边缘人工智能成为常态

GreenWaves 的 Croome 强调了边缘 AI 引人注目的用例日益多样化。“在使用神经网络进行电池管理方面有很多工作，这些神经网络本质上是在了解电池、基于电池使用时间的电池寿命以及许多其他参数，”他指出。“这是另一种统计模型。”

边缘人工智能将如何发展？“神经网络将无处不在，”Croome 说。“他们将成为编程的一部分，一旦他们无处不在，他们就会变得越来越微不足道，因为这只是一件很正常的事情。”

电子行业无疑是创新的温床。在短短四年内，我们见证了微控制器功能的进步，使边缘 AI 成为可能。产品经理和开发人员已准备好将边缘 AI 纳入他们的下一个设计中，并在此过程中将这些技术确立为未来的规范。

审核编辑 ：李倩