面向Altera FPGA和SoC的边缘就绪型AI工具套件-电子发烧友网

如今，边缘采集的数据量十分庞大。据 Gartner 预测，到 2025 年，将有多达 75% 的企业数据会在传统数据中心以外生成[1]。

随着企业运营的节奏日益加快，人们对快速响应的期望日益提升，决策逐渐从数据中心转向网络边缘。将采用人工智能 (AI) 和机器学习 (ML) 算法的计算能力及具有 AI 功能的设备安排在边缘，可以在提升数据处理量的同时生成更多数据，从而实现更复杂的 AI 用例，进而获得更多可行洞察。

企业实施 AI 需要满足哪些要求?

在整个企业内广泛实施 AI 时，务必要确保边缘设备、边缘基础设施和云三大基础设施要素均具备处理 AI 工作负载的足够性能。实施 AI 的具体要求包括：

- 高性能：AI 工作负载往往计算密集度较高，在进行 AI 训练或推理的地方，必须具备强大的计算性能;

- 低时延：将 AI 工作负载转移到边缘位置(即使只是将部分 AI 工作负载转移到边缘)，有助于降低决策时延;

- 高容量：AI 依赖大量数据，运行 AI 的基础设施必须确保计算、存储和内存容量能够胜任任务，从而避免瓶颈;

- 可靠的安全性：AI 工作负载涉及大量敏感数据，无论是何种 AI 工作负载，运行它们的设备和软件都必须更加安全可靠。

为什么 FPGA 是 AI 实施的理想选择?

人的大脑中有近 1,000 亿个神经元。尽管这已经是个天文数字，但将这些神经元组织成为网络的神经连接数量更是达到了百万亿级，而神经连接的数量显著影响着大脑的能力。

FPGA 内的互连性就类似于人脑中的神经连接。FPGA 内的可编程逻辑结构也以类似的方式相互连接，这就是为什么 Altera FPGA 是神经网络和其他 AI 工作负载实施的理想选择。

在逻辑和线路互连的层面上，FPGA 的比特级动态可编程性就好比灵活的大脑，可以调整注意力，专注于当前的特定任务。此外，一直以来，FPGA 的外部 I/O 也具备其他硬件架构所不具备的出色灵活性，可以连接到雷达、音频、振动和视觉等各种来源的传感器。这些特性能够让信号实时进出 FPGA，达到可媲美人脑的高级智能水平。

Altera FPGA 早先的一些产品比如 Cyclone 10 GX FPGA、Arria 10 GX FPGA 和 Stratix 10 GX FPGA 等，具备 I/O 灵活性、低功耗和低时延，本就可在 AI 推理上带来优势。

这些优势在三个全新的 Altera FPGA 和片上系统 (SoC) 家族的产品中又得到了补充，使得 AI 推理性能进一步获得了显著提升。这三个家族分别是 Stratix 10 NX FPGA 以及 Agilex FPGA 家族的新成员：Agilex 5 FPGA D 系列和 Agilex 5 FPGA E 系列。这些 Altera FPGA 和 SoC 家族包含专门面向张量数学运算优化的专用 DSP 模块，为加速 AI 计算奠定了基础。

AI 和 DSP 计算密度的数量级提升*限 Agilex 5 FPGA D 系列和 Agilex 5 FPGA E 系列提供。

面向 Altera FPGA 和 SoC 的边缘就绪型 AI 工具套件

分布式 AI/机器学习边缘解决方案往往十分复杂，开发难度非常高。Altera 提供的开发工具和软件致力于推动开放标准并支持容器化和云原生开发，从而帮助开发人员简化工作流程并加速分布式边缘解决方案的部署。对于使用 Altera FPGA 和 SoC 进行 AI/机器学习应用开发的人员，可以使用以下开发工具。