0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

边缘AI需求爆发,边缘计算网关亟待革新

Felix分析 来源:电子发烧友 作者:吴子鹏 2024-06-20 01:04 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

电子发烧友网报道(文/吴子鹏)根据《全球与中国边缘AI芯片市场竞争建议及发展状况调研报告2024-2030》,2023年全球边缘AI芯片市场规模大约为2563.6百万美元,预计未来六年年复合增长率CAGR为17.4%,到2030年达到8004.3百万美元。如果将范围扩大到整个边缘AI市场,根据英特尔公司高级副总裁兼网络与边缘事业部总经理Sachin Katti在分享中提到的数据,2030年全球边缘AI市场将达到4450亿美元的规模。

在构建边缘AI方案时,计算、存储、网络和应用等资源都被移到更靠近终端的位置,以提供更低的延迟和更高的性能。在此过程中,边缘计算网关起到重要的作用:一方面作为边缘和云端连接的重要枢纽,将边端计算的数据传回云端;另一方面边缘计算网关也能够协调边缘端的多款设备,协调这些设备的计算资源和计算任务。

基于边缘计算网关实现更好的终端智能

作为边缘计算和网关的结合体,边缘计算网关带来了一种分布式计算范式,将计算任务和数据存储从中心化的数据中心推向网络的边缘——终端设备。因而,边缘计算网关通常部署在网络的边缘侧,提供数据采集、处理、存储和通信等功能。

由于是部署在现场的终端,因此边缘计算网关具有很多突出的优势:低延迟、高安全并降低云端的计算负载。

边缘计算网关具有一定的计算能力,可以将数据处理在更靠近终端的场景下实现,因此有明显的低延迟特性。像工业自动化、智能交通和智能家居等对数据处理时效要求高的领域,边缘计算网关能够实时采集来自各种传感器和执行器的数据,并将这些数据进行整合和标准化处理,这一低延迟特性被格外看重。

边缘计算网关将数据采集和处理都在更靠近终端的场景下完成,减少了数据的传输,也就降低了数据在网络传输中暴露的风险。在云AI场景里,敏感数据总是会在终端和云端之间反复地传输,有非常大的泄露风险,而有了边缘计算网关,云端最终接收到的数据都是脱敏的结果数据。

同时,我们也不难看出,边缘计算网关将计算任务进行了有效地分发,而不是全部集中在云计算场景下,也能够有效降低云计算的负载。当然,市场需求在不断变化,对于边缘计算网关也提出了更高的要求,包括高算力、低功耗、智能化和灵活部署。

边缘计算网关着力强化计算性能

在新的市场需求下,边缘计算网关成为普惠算力的一类关键设备,相关设备的核心性能也变得越来越强,产业界涌现出一系列具有竞争力的新品。

比如,联想集团打造了智能边缘计算品牌“慧天”,包括智能边缘网关、边缘服务器、工业控制器、嵌入式计算机等硬件设备。这些设备可以让相关应用在边缘硬件上处理AI算法,并且有5G的加持,和云端的互动也更加高效。

2024年初,TSINGSEE青犀视频在年初推出了一款高性能、低功耗的软硬一体AI边缘计算硬件设备——智能分析网关V4,硬件采用BM1684芯片,集成高性能8核ARM A53,主频高达2.3GHz。这款智能网关提供高达17.6/32 Tops的INT8峰值算力,2.2T的FB32高精度算力,支持高达16 TFLOPS的FP16/BF16半精度算力,以及支持高达16/32路1080P高清视频全流程处理。在安全方面,支持高容量eMMC可开发支持主备分区和可编程加密分区等加密技术。

去年下半年,Dusun IoT基于Rockchip的RK3588芯片推出了DSGW-380边缘人工智能网关。作为系统核心,RK3588芯片提供四核Arm Cortex A76和四核Arm Cortex A55架构,配备NEON协处理器,专用于低功耗控制的MCU,以及宽大的8GB 64位LPDDR4 RAM和128GB eMMC。RK3588让DSGW-380边缘人工智能网关提供6TOPS的计算算力,能够无缝支持包括INT4、INT8、INT16和FP16混合操作等多种精确操作。

另外,前不久研扬科技基于昇腾Atlas 200I A2加速模组,打造了电力通信边缘AI网关ARES-501AI A2,使能客户在Mega OM平台的基础上快速对接管理自己的运维平台。ARES-501AI A2智能网关能够提供高达20TOPS (INT8)的强劲算力,拥有丰富的工业级I/O接口,包括RS232/RS485USB 3.0*4、GbE LAN*2、CAN*2等。

通过上述案例不难看出,目前边缘计算网关一个重要的升级方向就是提供高算力,并强化算法的承载能力。不过,这些性能的提升并不能牺牲系统功耗,因此在相关产品中,往往会配合低功耗的MCU,配合低功耗的外设,以最低的系统功耗去运行非计算的控制功能,并将系统运行功耗进行更细分的区分。

结语

在边缘AI爆发的大潮下,边缘计算网关也在朝着边缘智能网关的方向发展,一个重要的标志就是NPU逐渐成为网关内核心的一部分,且系统算力得到了显著提升。当然,由于部署在边缘端,且设备数量巨大,因此低功耗将一直都是边缘计算网关更新过程中需要面对的挑战。






声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 算法
    +关注

    关注

    23

    文章

    4811

    浏览量

    98628
  • 网关
    +关注

    关注

    9

    文章

    6971

    浏览量

    56613
  • 边缘计算
    +关注

    关注

    22

    文章

    3567

    浏览量

    53724
  • 边缘AI
    +关注

    关注

    1

    文章

    272

    浏览量

    6221
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    边缘计算网关有什么好用的推荐

    随着工业4.0与物联网技术的深度融合,数据采集的实时性、安全性以及本地处理需求愈发凸显,边缘计算网关作为连接物理设备与云端平台的核心枢纽,成为破解数据传输延迟、带宽占用过高难题的关键设
    的头像 发表于 01-12 15:23 531次阅读
    <b class='flag-5'>边缘</b><b class='flag-5'>计算</b><b class='flag-5'>网关</b>有什么好用的推荐

    边缘计算中的AI加速器类型与应用

    人工智能正在推动对更快速、更智能、更高效计算需求。然而,随着每秒产生海量数据,将所有数据发送至云端处理已变得不切实际。这正是边缘计算AI
    的头像 发表于 11-06 13:42 1047次阅读
    <b class='flag-5'>边缘</b><b class='flag-5'>计算</b>中的<b class='flag-5'>AI</b>加速器类型与应用

    结合AI算法的边缘计算服务器,在城市管理场景有什么作用?

    在智慧城市建设的棋盘上,边缘计算服务器正成为激活全城AI细胞的"神经突触"。当算法模型走出数据中心,通过边缘计算服务器、
    的头像 发表于 10-17 15:31 578次阅读
    结合<b class='flag-5'>AI</b>算法的<b class='flag-5'>边缘</b><b class='flag-5'>计算</b>服务器,在城市管理场景有什么作用?

    工业视觉网关:RK3576赋能多路检测与边缘AI

    ~150ms6TOPS NPU 边缘AI推理易对接 MES / 追溯系统 一、产线痛点:从“人看”到“机判”的转变· 多工位/多角度同步:单机位覆盖不足,典型项目需 8~12 路并发,且画面时序一致性要求高
    发表于 10-16 17:56

    边缘计算网关的公式计算功能体现在哪

    边缘计算网关的公式计算功能主要体现在其能够在靠近数据源头的边缘侧,对实时采集的数据进行复杂的数学和逻辑运算,无需将数据上传至云端即可完成本地
    的头像 发表于 09-15 11:06 1001次阅读

    工业系统为什么需要边缘计算网关

    工业系统需要边缘计算网关,主要是因为其能够解决传统工业架构中数据传输延迟、带宽瓶颈、安全隐患、系统孤立等核心问题,同时满足工业场景对实时性、可靠性、安全性和成本控制的严苛需求。以下是具
    的头像 发表于 09-03 10:25 1041次阅读
    工业系统为什么需要<b class='flag-5'>边缘</b><b class='flag-5'>计算</b><b class='flag-5'>网关</b>

    选型指南:如何为企业挑选合适的边缘计算网关

    选型指南:如何为企业挑选合适的边缘计算网关 在企业迈向智能化转型的道路上,选择一款合适的物联网边缘计算
    的头像 发表于 08-20 16:14 1115次阅读

    AI 边缘计算网关:开启智能新时代的钥匙​—龙兴物联

    在数字化浪潮的当下,AI 边缘计算网关正逐渐崭露头角,成为众多行业转型升级的关键力量。它宛如一座智能桥梁,一端紧密连接着各类物理设备,如传感器、摄像头、工业机器等,负责收集丰富的数据信
    发表于 08-09 16:40

    边缘智能网关在水务行业中的应用—龙兴物联

    /管网的“数字镜像”载体,实时映射状态并运行本地仿真模型,支持快速预测和决策。 随着边缘计算AI等技术的持续突破,边缘智能网关在水务领域的
    发表于 08-02 18:28

    边缘计算网关生产厂家哪个好?怎么选?

    边缘计算网关是工业物联网(IIoT)领域的关键设备,它介于底层工业设备(如传感器、PLC、机床等)与云端平台之间,承担着数据采集、协议转换、边缘计算
    的头像 发表于 07-31 15:45 1632次阅读
    <b class='flag-5'>边缘</b><b class='flag-5'>计算</b><b class='flag-5'>网关</b>生产厂家哪个好?怎么选?

    MQTT网关具备边缘计算功能吗?有什么功能?

    现代MQTT网关通常具备边缘计算功能,尤其是为适应物联网(IoT)场景中低延迟、高可靠、带宽优化等需求而设计的新一代网关。传统MQTT
    的头像 发表于 07-15 15:01 1114次阅读
    MQTT<b class='flag-5'>网关</b>具备<b class='flag-5'>边缘</b><b class='flag-5'>计算</b>功能吗?有什么功能?

    边缘计算网关有些品牌?有哪些推荐

    华为:5G+边缘计算的全能标杆 作为全球通信技术领军者,华为的边缘计算网关深度融合5G与边缘
    的头像 发表于 07-11 14:31 1232次阅读

    边缘计算网关哪个好用?有哪些推荐?

    如果你正在工业物联网项目中寻找可靠的边缘计算网关,面对市场上众多品牌和型号,确实容易陷入“选择困难”。以下是一些市场上表现较为出色的边缘计算
    的头像 发表于 07-05 15:47 1040次阅读

    AI边缘计算网关_AI边缘智能网关赋能自助政务服务机_厦门计讯物联科技有限公司

    在数字化浪潮席卷全球的今天,政务服务智能化转型已成为提升治理效能、优化民生体验的关键举措。计讯物联凭借深耕物联网领域的技术积淀,其自主研发的AI边缘计算网关,以“
    的头像 发表于 05-19 18:08 751次阅读
    <b class='flag-5'>AI</b><b class='flag-5'>边缘</b><b class='flag-5'>计算</b><b class='flag-5'>网关</b>_<b class='flag-5'>AI</b><b class='flag-5'>边缘</b>智能<b class='flag-5'>网关</b>赋能自助政务服务机_厦门计讯物联科技有限公司