为什么 FPGA 是边缘人工智能的支持组件

作者：DEEPAK BOPPANA，产品和细分市场营销高级总监Lattice Semiconductor

从智能家居到自动驾驶汽车再到医疗设备，人工智能 (AI) 和边缘计算一直是中心舞台，毫无疑问，人工智能正在多个行业迅速蔓延。物联网和连接设备的持续发展正在推动系统架构和新应用的转变，不仅欢迎人工智能的兴起，也欢迎边缘智能的增加。

在边缘构建计算解决方案的设计人员面临着满足灵活、低功耗、小尺寸和低成本的新要求，同时又不影响功耗和性能的挑战。这些新应用将需要基于人工智能和机器学习的计算解决方案，而不是云计算更接近物联网传感器数据的来源。

图 1：新一代基于 AI 的边缘计算应用程序需要独特的需求组合。

那么，开发人员如何才能在不影响性能的情况下以低成本构建低功耗的边缘解决方案呢？首先，设计师需要保持低成本解决方案与大批量边缘解决方案竞争。其次，他们需要现场可编程门阵列 (FPGA)，以在神经网络架构和算法快速发展的市场中提供最大的设计灵活性并支持广泛的 I/O 接口。此外，还需要通过自定义量化来权衡精度和功耗的解决方案。事实证明，使用针对低功耗运行进行优化的低密度 FPGA 可以满足网络边缘严格的性能和功耗限制，并具有上市时间优势。

设计人员还需要 FPGA，让他们能够构建紧凑的 AI 设备，在不违反封装或热管理限制的情况下提供高性能。最后，那些首先将解决方案推向市场的人将获得巨大的优势。任何预期的解决方案都必须能够访问适当的资源来定制解决方案并相应地缩短开发周期——无论是演示、参考设计还是设计服务。

鉴于此，FPGA 如何在边缘计算中发挥作用？机器学习通常需要两种类型的计算工作负载。训练中的系统可以从现有数据中学习新的能力。例如，面部检测功能通过收集和分析数万张图像来学习识别人脸。正如人们想象的那样，这个早期的培训阶段是高度密集的。在这些情况下，开发人员通常会在数据中心中使用可以处理大量数据的高性能硬件。

推理是机器学习的第二阶段，通过识别模式和执行任务将系统的能力应用于新数据。继续上述示例，面部检测功能将继续改进其正确识别人脸的能力。在这个阶段，系统一直在学习，这会随着时间的推移增加它的智能。鉴于在边缘执行的许多限制，设计人员无法在云中执行推理。相反，他们必须通过在边缘数据源附近执行计算任务来扩展系统的智能。

那么设计人员如何才能替换云中可用的大量计算资源来在边缘执行推理呢？一种有效的解决方案是利用 FPGA 固有的并行处理能力，并使用它来加速神经网络性能。通过使用专为低功耗运行而优化的低密度 FPGA，设计人员能够满足网络边缘的性能和功耗需求。例如，莱迪思的 ECP5 FPGA 可以将神经网络加速到 1 W 以下，而 iCE40 UltraPlus FPGA 可以将神经网络加速到毫瓦级，这两者都允许设计人员构建高效的、基于 AI 的边缘计算应用程序。

图 2：边缘超低功耗堆栈的一个示例是最近推出的 Lattice sensAI。

除了访问计算硬件之外，设计人员还需要各种 IP、工具、参考设计和设计专业知识来构建有效的解决方案并加快上市时间。sensAI 就是一个有助于应对这一挑战的综合开发生态系统的例子，它基于 ECP5 和 iCE40 UltraPlus FPGA 系列。Lattice sensAI 堆栈旨在加速人工智能在消费者和工业物联网应用中的部署，提供针对边缘优化的灵活推理解决方案。

Lattice sensAI 通过以下方式满足边缘计算的要求：

结合模块化硬件平台、神经网络 IP 内核、软件工具、参考设计和来自生态系统合作伙伴的定制设计服务

简化构建灵活推理解决方案的任务

针对从 1 mW 到 1 W 的低功耗进行优化，封装尺寸从 5.5 mm2开始 ，大批量生产的价格在 1 美元到 10 美元之间

随着机器学习越来越接近边缘，为公司和开发人员提供快速有效地开发未来消费者解决方案所需的所有必要工具

随着物联网的不断发展，连接设备的数量和数据量也将不断增加。最终，将数据发送到云所需的功率和带宽将过于巨大，存储数据所需的空间将挑战即使是最强大的云公司的资源。这是人工智能和边缘计算革命的开始。随着用户寻求更高水平的智能，对在靠近物联网数据源的地方集成低功耗推理的系统的需求将增长，并青睐在边缘设备上具有计算能力的平台。FPGA 在满足新一代基于 AI 的边缘计算的要求方面变得越来越重要，因为它提供了安全延迟、设计灵活性，并能够加快 AI 系统中编程智能的上市时间。

审核编辑 黄昊宇