边缘AI需求爆发，边缘计算网关亟待革新

电子发烧友网报道（文/吴子鹏）根据《全球与中国边缘AI芯片市场竞争建议及发展状况调研报告2024-2030》，2023年全球边缘AI芯片市场规模大约为2563.6百万美元，预计未来六年年复合增长率CAGR为17.4%，到2030年达到8004.3百万美元。如果将范围扩大到整个边缘AI市场，根据英特尔公司高级副总裁兼网络与边缘事业部总经理Sachin Katti在分享中提到的数据，2030年全球边缘AI市场将达到4450亿美元的规模。

在构建边缘AI方案时，计算、存储、网络和应用等资源都被移到更靠近终端的位置，以提供更低的延迟和更高的性能。在此过程中，边缘计算网关起到重要的作用：一方面作为边缘和云端连接的重要枢纽，将边端计算的数据传回云端；另一方面边缘计算网关也能够协调边缘端的多款设备，协调这些设备的计算资源和计算任务。

基于边缘计算网关实现更好的终端智能

作为边缘计算和网关的结合体，边缘计算网关带来了一种分布式计算范式，将计算任务和数据存储从中心化的数据中心推向网络的边缘——终端设备。因而，边缘计算网关通常部署在网络的边缘侧，提供数据采集、处理、存储和通信等功能。

由于是部署在现场的终端，因此边缘计算网关具有很多突出的优势：低延迟、高安全并降低云端的计算负载。

边缘计算网关具有一定的计算能力，可以将数据处理在更靠近终端的场景下实现，因此有明显的低延迟特性。像工业自动化、智能交通和智能家居等对数据处理时效要求高的领域，边缘计算网关能够实时采集来自各种传感器和执行器的数据，并将这些数据进行整合和标准化处理，这一低延迟特性被格外看重。

边缘计算网关将数据采集和处理都在更靠近终端的场景下完成，减少了数据的传输，也就降低了数据在网络传输中暴露的风险。在云AI场景里，敏感数据总是会在终端和云端之间反复地传输，有非常大的泄露风险，而有了边缘计算网关，云端最终接收到的数据都是脱敏的结果数据。

同时，我们也不难看出，边缘计算网关将计算任务进行了有效地分发，而不是全部集中在云计算场景下，也能够有效降低云计算的负载。当然，市场需求在不断变化，对于边缘计算网关也提出了更高的要求，包括高算力、低功耗、智能化和灵活部署。

边缘计算网关着力强化计算性能

在新的市场需求下，边缘计算网关成为普惠算力的一类关键设备，相关设备的核心性能也变得越来越强，产业界涌现出一系列具有竞争力的新品。

比如，联想集团打造了智能边缘计算品牌“慧天”，包括智能边缘网关、边缘服务器、工业控制器、嵌入式计算机等硬件设备。这些设备可以让相关应用在边缘硬件上处理AI算法，并且有5G的加持，和云端的互动也更加高效。

2024年初，TSINGSEE青犀视频在年初推出了一款高性能、低功耗的软硬一体AI边缘计算硬件设备——智能分析网关V4，硬件采用BM1684芯片，集成高性能8核ARM A53，主频高达2.3GHz。这款智能网关提供高达17.6/32 Tops的INT8峰值算力，2.2T的FB32高精度算力，支持高达16 TFLOPS的FP16/BF16半精度算力，以及支持高达16/32路1080P高清视频全流程处理。在安全方面，支持高容量eMMC可开发支持主备分区和可编程加密分区等加密技术。

去年下半年，Dusun IoT基于Rockchip的RK3588芯片推出了DSGW-380边缘人工智能网关。作为系统核心，RK3588芯片提供四核Arm Cortex A76和四核Arm Cortex A55架构，配备NEON协处理器，专用于低功耗控制的MCU，以及宽大的8GB 64位LPDDR4 RAM和128GB eMMC。RK3588让DSGW-380边缘人工智能网关提供6TOPS的计算算力，能够无缝支持包括INT4、INT8、INT16和FP16混合操作等多种精确操作。

另外，前不久研扬科技基于昇腾Atlas 200I A2加速模组，打造了电力通信边缘AI网关ARES-501AI A2，使能客户在Mega OM平台的基础上快速对接管理自己的运维平台。ARES-501AI A2智能网关能够提供高达20TOPS (INT8）的强劲算力，拥有丰富的工业级I/O接口，包括RS232/RS485、USB 3.0*4、GbE LAN*2、CAN*2等。

通过上述案例不难看出，目前边缘计算网关一个重要的升级方向就是提供高算力，并强化算法的承载能力。不过，这些性能的提升并不能牺牲系统功耗，因此在相关产品中，往往会配合低功耗的MCU，配合低功耗的外设，以最低的系统功耗去运行非计算的控制功能，并将系统运行功耗进行更细分的区分。

结语

在边缘AI爆发的大潮下，边缘计算网关也在朝着边缘智能网关的方向发展，一个重要的标志就是NPU逐渐成为网关内核心的一部分，且系统算力得到了显著提升。当然，由于部署在边缘端，且设备数量巨大，因此低功耗将一直都是边缘计算网关更新过程中需要面对的挑战。