侵权投诉

AI新兴应用通过带可配置加速的片上系统器件来满足严格性能、效率需求

FPGA开发圈 2019-08-06 16:07 次阅读

随着智能安全、机器人或无人驾驶汽车等应用越来越依靠嵌入式人工智能技术来提高性能,交付全新的用户体验,传统计算平台上的推断引擎很难在有限的功耗、时延和物理尺寸限制下满足实际要求。推断引擎必须满足严格定义的推断精度,还受限于总线宽度,而且存储器难以为最佳速度、效率和芯片面积进行调整优化。我们需要灵活应变的计算平台来满足运行一流卷积神经网络 (CNN) 的嵌入式 AI 的要求。

放眼未来,适应于更多前沿神经网络的灵活性是我们的主要关注点。今天广受欢迎的 CNN 正加速被新型的先进架构所取代。然而,传统的 SoC 设计要使用当前的神经网络架构知识,从开发开始到未来部署通常需要大约三年时间。RNN 或 Capsule Network 等新型神经网络可能会让传统 SoC 变得低效,也难以提供保持竞争力所需的性能。

嵌入式 AI 要满足最终用户期望,特别是要跟上可预见的未来不断提升的需求,就必须采用更加灵活的自适应计算平台。我们可利用用户可配置的多核片上系统 (MPSoC) 器件,整合主应用处理器和可扩展的可编程逻辑结构,包含可配置的存储器架构和满足可变精度推断所需的信号处理技术,从而满足上述要求。

推断精度

在传统的 SoC 中,决定性能的特性如存储器架构和计算精确度等是固定的。最小值通常为 8 位,由核心 CPU 定义,不过就给定的算法而言最佳精度可能更低。MPSoC 支持可编程逻辑优化至晶体管层面,这就能根据需要让推断精度降低到 1 位。此外,这类器件还包含成千上万可配置的 DSP slice,能高效处理乘积累加 (MAC) 计算。

能自由优化推断精度,根据平方律提供刚好满足需求的计算效率,也就是说单位的运算用 1 位核心执行,相对于用 8 位核心完成相同计算而言,所需的逻辑仅为 1/64。此外,MPSoC 能让推断精度针对神经网络的每层做出不同优化,从而以最大的效率提供所需的性能。

存储器架构

除了通过改变推断精度来提高计算效率之外,配置可编程片上存储器的带宽和结构能进一步提高嵌入式 AI 的性能和效率。定制 MPSoC 相对于运行相同推断引擎的传统计算平台而言,片上存储器可能达到 4 倍多,存储器—接口带宽可能达到 6 倍。存储器的可配置性使得用户能减少瓶颈,并优化芯片资源的利用率。此外,典型的子系统只有有限的片上集成高速缓存,必须与片外存储设备频繁交互,这就会增加时延和功耗。在 MPSoC 中,大多数存储器交换都在片上进行,这就会大幅提高速度,而且相对于片外存储器交互而言功耗降低超过 99%。

芯片面积

解决方案的尺寸也越来越重要,特别就采用移动 AI 的无人机、机器人或无人/自动驾驶汽车而言尤其如此。MPSoC 的 FPGA 结构上实现的推断引擎可能仅占用传统 SoC 八分之一的芯片面积,这就能让开发人员在更小的器件中构建功能更强大的引擎。

此外,MPSoC 器件系列为设计人员提供了实现推断引擎的丰富选择,能支持最节能、成本效率最高、面积占用最小的方案,从而满足系统性能要求。一些通过汽车应用认证的部件具备硬件功能安全特性,达到业界标准的 ISO 26262 ASIL-C 安全规范,这对自动驾驶应用而言至关重要。比如赛灵思的 Automotive XA Zynq UltraScale+ 系列采用 64 位四核 ARM Cortex-A53 和双核 ARM Cortex-R5 处理系统以及可扩展的可编程逻辑结构,这就能在单个芯片上整合控制处理、机器学习算法和安全电路,同时提供故障容错功能。

今天,嵌入式推断引擎可用单个 MPSoC 器件实现,功耗低至 2 瓦,这对移动机器人或自动驾驶汽车而言都是比较合适的功耗水平。传统计算平台即便现在也无法用这么低的功耗运行实时 CNN 应用,未来也不太可能在更严格的功耗限制条件下满足更快响应和更复杂功能的日益严格的要求。基于可编程 MPSoC 的平台能够提供更高的计算性能,更高的效率,也能在 15瓦以上的功率水平下减小面积和减轻重量。

如果开发人员不能在自己的项目中轻松地实现这些优势,那么这种可配置型多平行计算架构的优势就仅限于学术领域。成功需要适当的工具来帮助开发人员优化目标推断引擎的实现。为了满足有关需求,赛灵思不断扩展开发工具生态系统和机器学习软件堆栈,并与专业合作伙伴合作,一起简化和加速计算机视觉和视频监控等应用的实现。

面向未来的灵活性

利用 SoC 的可配置性为手头应用创建最佳平台,也使得 AI 开发人员能够灵活地跟上神经网络架构快速发展演进的要求。业界可能迁移到新型神经网络的可能性,对于平台开发人员来说是一个巨大的风险。可重配置的 MPSoC 通过重配置并用当前最先进的策略来构建最高效的处理引擎,能够让开发人员灵活地响应神经网络架构方式的变化。

AI 越来越多地嵌入到各种设备中,包括工业控制、医疗设备、安全系统、机器人和自动驾驶汽车等。利用可编程逻辑结构的 MPSoC 器件的灵活应变加速技术,是提供保持竞争力所需的快速响应和高级功能的关键。

原文标题:灵活应变的加速是将人工智能从云端带到边缘的关键

文章出处:【微信号:FPGA-EETrend,微信公众号:FPGA开发圈】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
分享:

评论

相关推荐

Arm中国首款IP正式商用,揭开“周易”的神秘面纱

作为一款面向智能音箱和智能家居等应用的产品,全志的这颗芯片搭载了双核Cortex-A53,强劲的性能....
发表于 04-08 17:52 478次 阅读
Arm中国首款IP正式商用,揭开“周易”的神秘面纱

Lytx增强型机器视觉与AI风险探测技术解决分心驾驶问题

Lytx是全球领先的视频远程信息处理技术解决方案供应商,近日,为解决分心驾驶,该公司推出了增强型机器....
的头像 汽车玩家 发表于 04-08 17:21 116次 阅读
Lytx增强型机器视觉与AI风险探测技术解决分心驾驶问题

AI技术和5G技术赋能移动监控领域,加速移动监控产品的迭代

生活中存在着大量需要移动管理的对象:公交车、地铁、高铁、矿井运输设备、港口码头……随着信息社会发展,....
的头像 牵手一起梦 发表于 04-08 16:57 141次 阅读
AI技术和5G技术赋能移动监控领域,加速移动监控产品的迭代

AI能把你的脑电波转译 错误率只有3%

参加实验的4名志愿者都是癫痫患者,他们由于治疗需要在大脑表面植入了数百个微电极。研究人员正是利用这些....
的头像 汽车玩家 发表于 04-08 16:48 87次 阅读
AI能把你的脑电波转译 错误率只有3%

AI芯片和传统芯片的差异在哪里

目前在图像识别、语音识别、自然语言处理等领域,精度最高的算法就是基于深度学习的,传统的机器学习的计算....
发表于 04-08 16:31 87次 阅读
AI芯片和传统芯片的差异在哪里

中兴通讯AIVO数字化运营解决方案,立足于大数据分析和AI赋能平台

随着5G网络部署加速和流量快速增长,运营商面临网络系统庞大复杂、网络管理与业务运营难度超出人工处理能....
的头像 牵手一起梦 发表于 04-08 15:55 82次 阅读
中兴通讯AIVO数字化运营解决方案,立足于大数据分析和AI赋能平台

未来的智能体能否代替程序员而进行代码编写

首先,在当前的程序开发领域,代码辅助生成系统一直是一个重要的研究方向,相关领域的很多技术也确实为程序....
的头像 独爱72H 发表于 04-08 15:44 80次 阅读
未来的智能体能否代替程序员而进行代码编写

金山云推出AIoT防疫解决方案,测温到进出一站式智能服务

2020年的开始,注定是不平凡的,一场突如其来的新冠疫情引发全国人民的关注。面对疫情,全国各界众志成....
的头像 牵手一起梦 发表于 04-08 14:52 91次 阅读
金山云推出AIoT防疫解决方案,测温到进出一站式智能服务

人工智能应用遇上怎样的新机遇

人工智能新场景的创新应用,也使其成为一股新的战疫力量。
发表于 04-08 14:41 42次 阅读
人工智能应用遇上怎样的新机遇

人工智能是怎么样的

因此人工智能的研究往往涉及对人的智能本身的研究。其它关于动物或其它人造系统的智能也普遍被认为是人工智....
发表于 04-08 14:33 31次 阅读
人工智能是怎么样的

小Biu空调Max正式上市该空调支持AI智能语音操控

据官方介绍,小Biu空调Max支持AI智能语音操控,用户开启或关闭空调时,只需要对空调喊一句“打开空....
发表于 04-08 14:28 28次 阅读
小Biu空调Max正式上市该空调支持AI智能语音操控

产业智能化如何利用人工智能来守护

AI算法本身存在安全漏洞。因为各类机器学习的高度复杂,带来的“黑箱问题”使得算法不可解释。
发表于 04-08 14:26 22次 阅读
产业智能化如何利用人工智能来守护

人工智能实现成本怎样去降低

伴随着“战疫”工作的深入,AI测温、AI医生、送药送餐机器人等多项以人工智能为核心的各类远程应用与无....
发表于 04-08 14:07 165次 阅读
人工智能实现成本怎样去降低

通过人工智能技术如何来改善视频会议的效果

如今,AI计划来自端点供应商,会议软件供应商和初创公司,这些公司可以自行提供或与会议平台提供商合作提....
发表于 04-08 09:58 16次 阅读
通过人工智能技术如何来改善视频会议的效果

人工智能技术如何优化医学影像

随着人们对人工智能技术的探索逐步深入,AI正在渐渐渗透到医疗影像行业的方方面面。毫不夸张地说,AI正....
发表于 04-08 09:56 23次 阅读
人工智能技术如何优化医学影像

Monet Analytics最新推出了基于AI内容的测试系统

Monet Analytics推出了一款产品,该产品使用人工智能来衡量受众对内容的反应。
发表于 04-08 09:51 85次 阅读
Monet Analytics最新推出了基于AI内容的测试系统

医疗影像AI落地的难处有哪些

另一方面数据的不统一还存在一定的客观原因,例如不同品牌的仪器成像机理和标准不同,因此对于同一病灶输出....
发表于 04-08 09:45 25次 阅读
医疗影像AI落地的难处有哪些

解密面部识别技术,AI如何识别人脸

自从人工智能诞生之初,计算机科学家就一直梦想着能制造出可以像人类一样看到和理解世界的机器。这些努力导....
的头像 独爱72H 发表于 04-07 17:30 170次 阅读
解密面部识别技术,AI如何识别人脸

5G、AI、大数据的发展,对智慧城市会有什么影响

市场分调研机构Omdia的最新数据分析显示,全球智能城市人工智能(AI)软件市场将从6.738亿美元....
的头像 独爱72H 发表于 04-07 17:24 189次 阅读
5G、AI、大数据的发展,对智慧城市会有什么影响

RPA是什么,AI和RPA结合方式和架构的解析

RPA是Robotic Process Automation(机器人流程自动化)的简称。RPA的概念....
的头像 独爱72H 发表于 04-07 17:08 214次 阅读
RPA是什么,AI和RPA结合方式和架构的解析

人工智能技术将如何促进体育事业的发展

目前,人工智能服务于体育事业和体育文化等领域已有很多尝试,取得了丰富的成果,使体育领域不断走向“更快....
发表于 04-07 16:59 270次 阅读
人工智能技术将如何促进体育事业的发展

物联网的未来将朝着范式转变的方向而发展

当今,大多数成长中的工业公司都将最大的赌注押在根据工业4.0转型解决各种技术计划上。
的头像 独爱72H 发表于 04-07 16:47 156次 阅读
物联网的未来将朝着范式转变的方向而发展

人工智能与神经科学的碰撞将会带来什么影响

人工智能与神经科学,这两个看似相隔甚远的学科,实际上有着非常紧密的联系。这两个领域的协作