边缘计算中的AI加速器类型与应用-电子发烧友网

作者：Eleanor Hecks，《Designerly Magazine》主编

人工智能正在推动对更快速、更智能、更高效计算的需求。然而，随着每秒产生海量数据，将所有数据发送至云端处理已变得不切实际。这正是边缘计算中AI加速器变得不可或缺的原因。

这种专用硬件能够直接在边缘设备上提升AI应用的性能。在边缘计算中，有多种类型的AI加速器，各自具有不同的优势、局限性和适用场景。

AI加速器在边缘计算中的作用

人工智能正在各行各业加速普及，但为了满足实时决策和数据隐私的需求，需要更快的本地化数据处理。云计算在这方面面临诸多限制：

首先，设备与云端之间传输海量数据需要时间。即使在高速网络下，这种往返传输也会引入延迟，可能造成关键时刻的反应滞后。

其次，带宽有限且成本较高，尤其是在越来越多智能设备连接的情况下，将大量数据流传输到云端进行处理，往往既不现实又代价高昂。在网络基础设施薄弱或偏远地区，连通性差的问题尤为突出。

最后，安全和隐私问题也使得通过网络传输敏感信息存在风险。国防、医疗和金融等行业要求数据尽可能靠近源头处理，以最小化泄露风险并满足合规要求。

AI加速器正是为了解决上述问题而生。它们将AI计算能力直接部署在边缘，让设备在毫秒级别完成数据处理，无需依赖云端。这使得AI应用能够即时响应，具备更大规模的本地智能处理能力。

5种边缘计算常用的AI加速器

AI加速器因应用场景、行业需求与性能要求不同而差异显著。有些是高性能处理器，可支持复杂的机器学习模型；有些则是超低功耗芯片，用于执行简单AI任务。以下是推动边缘创新的五类主流AI加速器：

1. 神经网络处理单元（NPU）

NPU专为神经网络计算设计，尤其适合处理机器学习推理任务。深度学习模型需要强大的并行处理能力，NPU能将神经网络的不同部分分配到多个核心中进行并行计算，其架构天然适配人工神经网络的运算方式。

NPU集成了激活函数、池化、特征提取等常见AI运算电路，大幅减少处理时间与功耗。其内置的内存缓冲区可确保数据在内存与计算单元之间高效流动。

典型应用场景：

2. 图形处理单元（GPU）

GPU最初用于图像和视频的图形渲染，如今已成为并行处理任务的主力硬件，可高效运行各种AI负载。

GPU架构包含数百到上千个小型处理核心。例如，Nvidia RTX 3090拥有10,496个CUDA核心，采用单指令多线程（SIMT）模型，可大幅提高吞吐量。GPU虽然性能强大，但功耗较高，对于轻量AI任务效率较低。

典型应用场景：

3. 数字信号处理器（DSP）

DSP是一种专用于音频、视频与信号处理的微处理器，特别适用于通信与多媒体设备的持续数据流处理。其硬件在执行快速傅里叶变换、滤波、矩阵运算等重复性数学操作方面表现出色，具备低延迟与低功耗优势，适合对响应速度要求极高的应用。

例如，远程办公需保障视频会议流畅和协作实时，DSP可以在本地高效完成音视频处理。随着报告显示90%的HR领导支持远程办公，DSP能满足数字员工对边缘计算的需求。

典型应用场景：

4. 可编程门阵列（FPGA）

FPGA是一种可重构的集成电路，开发者可将其编程为执行特定计算任务。它由可配置的逻辑单元、互连结构和存储模块组成，能够灵活地以低延迟执行特定算法。

工程师常在需要实时性和确定性响应的场景中使用FPGA。它适合处理大规模数据流且功耗低，特别适合时间敏感的任务，如机器视觉。

典型应用场景：

5. AI微控制器（AI-enabled Microcontrollers）

AI微控制器是一种超低功耗计算单元，适用于资源受限设备的轻量AI任务。这类控制器具备基本的硬件支持，可运行简单的机器学习模型，在本地进行数据推理。相比通过蜂窝网络将数据上传至云端所需的800毫瓦，AI微控制器仅需约5毫瓦，显著节能，特别适用于电池供电设备。

AI微控制器适合对计算要求较低、对功耗与体积有严格限制的边缘环境。例如，穿戴式健康监测设备利用它们来处理传感器数据，实时反馈且延长电池寿命。尽管无法处理复杂模型或高流量数据，但在智能设备中越来越不可或缺。

典型应用场景：

引领边缘AI的未来

AI加速器正在成为推动更快、更高效处理的关键。但不同类型的加速器各有所长，适配不同的任务和行业应用，因此选择合适的加速器至关重要。总的来说，AI加速器正在重塑边缘计算格局，并将在未来的智能应用中扮演越来越重要的角色。

作者简介：
Eleanor Hecks 拥有超过8年技术写作经验，曾为 freeCodeCamp、Smashing Magazine 和 Fast Company 等知名媒体撰稿。现任《Designerly Magazine》主编，可通过 LinkedIn 关注她的动态。

本文翻译自：Embedded

声明：本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人，不代表电子发烧友网立场。文章及其配图仅供工程师学习之用，如有内容侵权或者其他违规问题，请联系本站处理。举报投诉

边缘计算中的AI加速器类型与应用