0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

借助自适应模块化系统(SOM)加速边缘创新

李鑫 来源:hzp_bbs 作者:hzp_bbs 2022-08-03 17:01 次阅读

AI 提供支持的应用,正在日益普遍地被部署到边缘和终端,高性能 AI 推断正在推动更智慧的城市和高度自动化的智能工厂步入现实。随着智能零售引入了极为精致的自动化购物体验,零售体验也变得更加精巧细腻。这些应用需要具备极高可靠性并提供高性能,同时也需要提供高效紧凑的外形尺寸。

边缘处理难题

在边缘部署系统时,功耗、占板面积和成本都是制约因素。在边缘处理的种种限制条件下,处理需求的不断提高,意味着提供所需的性能水平将面临更大的挑战。虽然 CPU 在边缘计算上也有发展,但近年来的增长速度有所放缓。在为新一代AI 支持的边缘应用交付所需性能时,未加速的 CPU 表现得相当勉强,特别是考虑到严格的时延要求。

当在边缘上实现前沿 AI 应用时,领域专用架构 (DSA) 是关键。此外,DSA 还提供确定性和低时延。

合适的 DSA 专门设计用于高效处理所需数据,既有 AI 推断,也有非 AI 部分的应用,也就是整体应用的加速。考虑到 AI 推断需要非 AI 的预处理和后处理,这些都需要更高的性能,这一点很重要。从根本上说,要在边缘上(和其他地方)实现由 AI 提供支持的高效应用,需要整体应用的加速。

如同任何固定功能的芯片解决方案一样,为 AI 边缘应用开发的应用专用标准产品 (ASSP) 仍有自己的局限性。主要挑战在于 AI 创新的速度异乎寻常。与非 AI 技术相比,AI模型的过时速度会快得多。使用固定功能的芯片器件实现 AI,会因更新型、更高效AI 模型的出现而迅速过时。固定功能芯片器件的流片需要花费数年时间,到那时 AI 模型的前沿技术将已经向前发展。此外,对于边缘应用,安全和功能安全要求的重要性也在提高,可能经常需要成本高昂的现场更新。

自适应计算的前景

自适应计算包含能够针对具体应用进行优化的硬件,例如现场可编程门阵列 (FPGA),它是一个功能强大的解决方案,专门用于基于AI 的边缘应用。

此外,新的自适应硬件也层出不穷,包括含有 FPGA 架构并与一个或多个嵌入式 CPU 子系统耦合的自适应片上系统 (SoC)。然而自适应计算远不止“纯硬件”。它整合了一套综合而全面的设计软件和运行时软件。将它们结合起来,就形成了一种独特的自适应平台,可在其上构建非常灵活高效的系统。

用自适应计算实现 DSA,可避免使用 ASIC 等定制芯片器件所需的设计时间和前期成本。这样就能为任何特定领域应用,包括基于 AI的边缘应用,迅速部署经过优化的灵活的解决方案。自适应SoC 是此类领域专用处理的理想选择,因为它们既拥有综合全面的嵌入式CPU 子系统的灵活性,又具备自适应硬件的优异的数据处理能力。

推出自适应模块化系统 — SOM

模块化系统 (SOM) 提供完整的、可量产的计算平台。与从芯片级从头开发 (chip-down development)相比,这种方法能节省可观的开发时间与成本。SOM 能够插入到较大的边缘应用系统内,从而既可以提供定制实现方案的灵活性,又可以提供现成解决方案的易用性和更快的上市速度。这些优势让 SOM 成为边缘 AI 应用的理想平台。然而,要实现现代化AI 应用所需的性能,加速必不可少。

某些应用需要定制硬件组件与自适应 SoC 接口连接,意味着需要从芯片级从头设计 (Chip-down design)。然而,越来越多基于 AI 的边缘应用,需要相似的硬件组件和接口,甚至在终端应用迥异的时候也是如此。随着企业转向标准化接口和通信协议,尽管处理需求显著不同,但同一套组件可适用于各种类型的应用。

面向基于 AI 的边缘应用的自适应 SOM, 结合了自适应 SoC与行业标准接口和组件,使得硬件经验有限甚至没有硬件经验的开发者也可以获益于自适应计算技术。自适应SoC 既能实现 AI 处理,也能实现非 AI 处理,也就是说其可以满足整体应用的处理需求。

此外,自适应 SOM 上的自适应 SoC 支持高度的定制化。它的设计目的,是集成到更大型的系统内并使用预定义的外形尺寸。使用自适应 SOM,可以全面发挥自适应计算的优势,同时避免了从芯片级从头开始的芯片设计。自适应 SOM 只是解决方案的一个部分。软件也是关键。

采用自适应 SOM 的企业,能广泛受益于性能、灵活性和快速开发时间的独特组合。无需构建自己的电路板,他们就能够享受自适应计算提供的各种优势 — 这个优势,最近才随着赛灵思Kria™自适应 SOM 产品组合的推出在边缘得以实现。

Kria K26 SOM 构建在 Zynq® UltraScale+™ MPSoC 架构顶端,搭载四核 Arm® Cortex™-A53 处理器,超过25万个逻辑单元和一个 H.264/265 视频编解码器。此外,该 SOM 还搭载4GB的DDR4存储器、69 个 3.3V I/O 和 116 个 1.8V I/O,使之能够适配几乎任何处理器或接口。凭借1.4TOPS的AI算力,与基于 GPU 的 SOM 相比,Kria K26 SOM 助力开发者开发出时延和功耗更低,性能高 3 倍的视觉 AI 应用。这对安保、交通与市政摄像头、零售分析、机器视觉和视觉引导机器人等智能视觉应用,可谓是重大福音。通过标准化系统核心部分,开发者拥有更多时间专心开发自己的专属特性,从而在市场竞争中实现技术差异化。

与软件可以更新但受到固定加速器限制的其他边缘 AI 产品不同,Kria SOM 在两个方面提供灵活性,即软件和硬件都能在今后更新。用户能够适配 I/O 接口、视觉处理和 AI 加速器,为以下的部分或全部应用提供支持:MIPI、LVDS 和SLVS-EC 接口;适用于日间或夜间的高质量专用高动态范围成像算法;8 位深度学习处理单元;或未来的 4 位甚至是 2 位深度神经网络方法。多模传感器融合与实时 AI 处理的结合,如今已经非常容易实现,可以从赛灵思 KV260 视觉 AI 入门套件开始设计,通过 Kria K26 SOM 部署到生产中。

面向软硬件开发者提供的优势

自适应 SOM 同时让硬件开发者和软件开发者受益。对于硬件开发者,自适应 SOM 提供了现成的、可量产的解决方案,从而节省了大量的开发成本与开发时间。此外,这些器件也允许硬件团队在流程后期变更设计,而基于固定功能芯片技术的 SOM 则无法实现。

对于 AI 开发者和软件开发者来说,自适应计算比过去更容易应用。赛灵思为确保自适应计算的易用性,对工具流进行了大量投资。通过将软硬件平台与可量产的视觉加速应用相结合,Kria SOM 产品组合的推出将这种易用性提升到全新水平。这些交钥匙应用取消了所有 FPGA 硬件设计工作,只需要软件开发者集成他们的定制 AI 模型、应用代码并有选择地修改视觉流水线。在 Vitis™ 统一软件开发平台和库支持下,他们可以使用熟悉的设计环境,如 TensorFlow、Pytorch 或 Caffe 框架以及 C、C++、OpenCL™ 和 Python 编程语言。

通过这种面向软件设计的新的加速应用范式,赛灵思还面向边缘应用推出了首个嵌入式应用商店,为客户提供来自赛灵思及其生态系统合作伙伴的丰富多样的 Kria SOM 应用选择。赛灵思解决方案属于免费提供的开源加速应用,包含智能摄像头、人脸检测、带有智能视觉辅助的自然语言处理等多种应用。

灵活应变的未来

AI 模型将继续以高速步伐向前演进发展。这意味着加速平台必须能够灵活应变,才能在现在和未来以最佳方式实现 AI 技术。实际上,SOM 提供了理想的边缘处理平台。与自适应 SoC 相结合,SOM 为由 AI 提供支持的应用,提供了综合全面、可量产的平台。采用这类器件的企业能广泛受益于性能、灵活性和快速开发时间的独特组合,并从自适应计算种收获丰厚的回报。

审核编辑:彭静
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • FPGA
    +关注

    关注

    1592

    文章

    21210

    浏览量

    592190
  • 硬件
    +关注

    关注

    11

    文章

    2913

    浏览量

    64592
  • AI
    AI
    +关注

    关注

    87

    文章

    26149

    浏览量

    263716
  • 边缘计算
    +关注

    关注

    22

    文章

    2759

    浏览量

    45935
收藏 人收藏

    评论

    相关推荐

    什么是自适应光学?自适应光学原理与方法的发展

    目前,世界上大型的望远镜系统都采用了自适应光学技术,自适应光学的出现为补偿动态波前扰动,提高光波质量提供了新的研究方向。 60多年来,自适应光学技术获得蓬勃发展,现已应用于天文学
    发表于 03-11 10:27 132次阅读

    【ALINX 技术分享】AMD Versal AI Edge 自适应计算加速平台之 Versal 介绍(2)

    【ALINX 技术分享】AMD Versal AI Edge 自适应计算加速平台之 Versal 介绍,以及Versal 芯片开发流程的简介。
    的头像 发表于 03-07 16:03 257次阅读
    【ALINX 技术分享】AMD Versal AI Edge <b class='flag-5'>自适应</b>计算<b class='flag-5'>加速</b>平台之 Versal 介绍(2)

    【ALINX 技术分享】AMD Versal AI Edge 自适应计算加速平台之准备工作(1)

    AMD Versal AI Edge 自适应计算加速平台之准备工作,包含软件环境、硬件环境。
    的头像 发表于 03-07 15:49 254次阅读
    【ALINX 技术分享】AMD Versal AI Edge <b class='flag-5'>自适应</b>计算<b class='flag-5'>加速</b>平台之准备工作(1)

    LabVIEW开发自适应降噪ANC

    数据,因为这两款设备都具有PCI和PXI接口。 可以使用LabVIEW自适应滤波工具包、LabVIEW FPGA模块和NI Compact RIO平台来实现实时ANC系统。 LabVIEWFPGA
    发表于 11-30 19:38

    自适应巡航系统的组成及原理

    在ACC系统中,测距雷达用于测量自车与前方车辆的车头距、相对速度、相对加速度,是自适应巡航控制系统中的关键设备之一,也是决定该系统造价的主要
    发表于 11-01 09:55 475次阅读
    <b class='flag-5'>自适应</b>巡航<b class='flag-5'>系统</b>的组成及原理

    浅析AMD Kria K24 SOM电机控制模块化应用方案

    AMD Kria K24 SOM是一款颠覆性的模块化解决方案,为电机控制领域带来了更多可能性。其先进的特性、灵活的配置和易用的开发环境使其成为控制平台的理想选择。
    发表于 10-10 12:43 201次阅读
    浅析AMD Kria K24 <b class='flag-5'>SOM</b>电机控制<b class='flag-5'>模块化</b>应用方案

    AMD正式推出Kira K24系统模块(SOM)

    近日,AMD正式推出了Kira K24系统模块(SOM)、KD240驱动器入门套件,尺寸极小,能效极高,非常适合对成本非常敏感的工业和商业边缘应用。
    发表于 09-27 11:04 288次阅读
    AMD正式推出Kira K24<b class='flag-5'>系统</b><b class='flag-5'>模块</b>(<b class='flag-5'>SOM</b>)

    AMD 以面向工业与商业应用的 Kria K24 SOM 及入门套件加速边缘创新

    推出 AMD Kria™ K24 系统模块SOM )和 KD240 驱动器入门套件,这是 Kria 自适应 SOM 及开发者套件产品组合
    发表于 09-25 09:41 123次阅读
    AMD 以面向工业与商业应用的 Kria K24 <b class='flag-5'>SOM</b> 及入门套件<b class='flag-5'>加速</b><b class='flag-5'>边缘</b><b class='flag-5'>创新</b>

    两关节机械手的自适应控制介绍

    控制系统的性能变差,不能满足控制要求。采用一般反馈技术或开环补偿方法不能很好的解决这一问题[2l。如要解决上述问题,就要求控制器能在运行过程中不断地测量受控对象的特性,并根据测得的系统当前特性信息,使系统自动地按闭环控制方式实施
    发表于 09-21 07:55

    Versal:首款自适应计算加速平台(ACAP)

    电子发烧友网站提供《Versal:首款自适应计算加速平台(ACAP).pdf》资料免费下载
    发表于 09-18 09:28 1次下载
    Versal:首款<b class='flag-5'>自适应</b>计算<b class='flag-5'>加速</b>平台(ACAP)

    借助Kria SOM实现嵌入式设计简化

    电子发烧友网站提供《借助Kria SOM实现嵌入式设计简化.pdf》资料免费下载
    发表于 09-14 11:35 0次下载
    <b class='flag-5'>借助</b>Kria <b class='flag-5'>SOM</b>实现嵌入式设计简化

    自适应控制试题

    自适应控制理论试题
    发表于 08-21 12:41

    变频自适应超声波振动筛电源发生器系统

    电源系统模型的"大脑",通过整合和调配超声波换能器模块。 变频自适应超声波振动筛电源发生器系统采用频率扫描和振幅检测综合的方法跟踪换能器有效谐振频率;依据串联匹配最佳原理,变频
    的头像 发表于 08-11 10:28 240次阅读
    变频<b class='flag-5'>自适应</b>超声波振动筛电源发生器<b class='flag-5'>系统</b>

    研华模块化电脑与登临GPU加速卡完成产品互认证,携手加速AI应用规模化落地

    导读 : 研华基于Intel第12代酷睿(Alder Lake-S)平台的模块化电脑产品 SOM-C350 与登临创新通用 GPU 系列加速卡 Goldwasser (高凛) 完成适配
    发表于 07-31 18:10 299次阅读
      研华<b class='flag-5'>模块化</b>电脑与登临GPU<b class='flag-5'>加速</b>卡完成产品互认证,携手<b class='flag-5'>加速</b>AI应用规模化落地

    “‘芯’科技加速创新落地” AMD 自适应和嵌入式产品技术日苏州站成功举办

    2023 年 6 月 7 日,中国苏州 — AMD(超威,纳斯达克股票代码:AMD)“自适应和嵌入式产品技术日”活动日前在苏州成功举办。AMD 全球副总裁唐晓蕾发表了主题为《“芯”科技加速创新落地
    发表于 06-08 17:44 322次阅读
    “‘芯’科技<b class='flag-5'>加速</b><b class='flag-5'>创新</b>落地” AMD <b class='flag-5'>自适应</b>和嵌入式产品技术日苏州站成功举办