还未设置个性签名
成为VIP会员 享9项特权: 开通会员

完善资料让更多小伙伴认识你,还能领取20积分哦, 立即完善>

3天内不再提示

2024年设备端AI推理功能将覆盖近60%的设备

电子发烧友网 来源:电子发烧友网 作者:电子发烧友网 2022-08-11 09:32 次阅读

ABI的研究调查表明,预计到2024年设备端的AI推理功能将覆盖近60%的设备。FPGA作为实现边缘AI的技术方式之一受到了青睐。要知道AI的算法灵活多变,FPGA硬件可编程可以适应快速变化的机器学习算法,它可以做灵活的计算资源,包括预处理、后处理、图像处理和滤波等数据。还能进行性能扩展,可实现高速并行处理。因此,我们看到不少FPGA厂商正在大力推动FPGA在边缘计算的应用。

去年莱迪思发布了sensAI 4.1解决方案,当时介绍的一个典型案例是用于PC智能和感知体验。如今,这一方案已经落地于品牌笔记本电脑。凭借其优异特性和不断增强的性能,莱迪思sensAI 4.1解决方案还可广泛应用于工业、安防等众多领域,可挖掘的边缘智能应用非常之多。

莱迪思sensAI 4.1解决方案提升品牌笔记本电脑交互体验

Lattice Nexus FPGA和sensAI解决方案集合可用于开发计算机视觉和传感器融合应用,可以提升用户的参与和协作,保护用户隐私,同时可以帮助开发人员实现新颖的AI功能,提高设备的电池寿命。

据测试,与使用CPU来驱动 AI 应用的设备相比,采用 sensAI 开发,并在莱迪思FPGA上运行的 AI 计算设备的电池使用时间延长了28%。sensAI 还支持现场软件更新,从而保持AI算法的演进,还能让OEM厂商灵活选择不同的传感器和SoC技术来适配他们的设备。

比如在用户检测应用上,用户接近或离开设备时会自动启动或关闭客户端设备;注意力追踪:当用户的注意力不在屏幕上时,降低设备的屏幕亮度,节约电量,延长使用时间;面部取景:在视频会议应用中提升视频体验;旁边者检测:检测站在设备后面潜在的窥视者,模糊屏幕以保障数据隐私。

当然,这也需要Lattice和OEM、其他芯片厂商、操作系统和软件支持商,以及传感器厂商合作,共同推动方案落地。据了解,目前莱迪思已与联想合作,ThinkPad X1系列笔记本电脑采用了专为AI优化的软件方案,能够在不损失性能或电池使用时间的情况下提供优化的用户体验,包括沉浸式交互、更好的隐私保护和更高效的协作。LG也在其最新的GRAM系列产品用采用莱迪思AI和计算机视觉解决方案,提升安全和便捷特性。

sensAI 4.1的增强特性

莱迪思最新发布的sensAI解决方案集合4.1版本提供了即用的AI/ML工具、IP核、硬件平台、参考设计和演示以及定制化设计服务,有助于设计团队开发新的网络边缘设备,并将其快速推向市场。

最新版本的sensAI支持CertusPro-NX FPGA。这个器件的容量会提升,同时计算的能力和功效也会提高,在这款器件基础上,推出了相对应的开发板,称之为声音和视觉机器学习板。还提供支持这块新芯片的CNN Plus加速器,以及相对应的sensAI Studio。

随着sensAI 4.1支持莱迪思CertusPro-NX FPGA系列产品,sensAI的性能也有了较大提升,除了已有的对象检测和追踪应用之外,还新增了对多个对象实时分类等应用。包括自动化工业系统中使用的高精度目标检测和瑕疵检测等应用。该解决方案集合拥有全新硬件平台,包括板载图像传感器、两个I2S麦克风和用于添加更多传感器的扩展连接器,助力基于语音和视觉的机器学习应用的开发。

sensAI还更新了神经网络编译器,支持Lattice sensAI Studio,这是一款基于GUI的工具,拥有AI模型库,经过配置和训练可适用于各类主流应用场景。sensAI Studio现支持AutoML功能,能根据应用和数据集目标来创建机器学习模块。一些基于Mobilenet机器学习推理训练平台的模型专为最新的Nexus系列产品——Lattice CertusPro-NX进行了优化。sensAI还兼容其他广泛使用的机器学习平台,包括最新版本的Caffe、Keras、TensorFlowTensorFlow Lite。通过标准的Caffe、TensorFlow、TensorFlowLite、Keras等常用培训网络培训完之后,再通过Lattice提供的神经网络编译器,编译成相对应的可执行指令,这些指令最终会由Lattice的芯片所调取使用。

Lattice 提供一个硬件优化的设计方案,通过Lattice Radiant和DIAMOND设计AI解决方案,产生FPGA比特流,然后再把训练后的模型录进来,这样产生一个类似于中央处理器的功能,而这里产生的量化的权重和指令更多指向于执行的代码,这两个结合之后,可以产生一个AI的体验项目。

另外,从软件优化的设计方案中可以看到,Lattice专门提供了一个PROPEL的软件,这个是C代码开发环境,便于大家使用更常用的C代码实现开发而不是使用比较难以上手的FPGA硬件开发语言,这样的代码是便于初学者能够调用一些基本的指令进行一些控制。左侧更多指的是Lattice的开发AI引擎的一些架构,包括机器学习引擎,以此能够做视觉的收取,同时做软核的控制。

不断满足边缘计算的需求

网络边缘处理使得计算和数据存储越来越靠近收集数据的设备端,而不是在数千里之外的数据中心进行分析和决策。网络边缘的实时应用通常不容许高延迟,因此处理、分析和决策必须转移到设备本身。网络边缘设备包括自动驾驶汽车、物联网传感器、安全摄像头、智能手机、笔记本电脑和个人电脑等生成大量数据,而开发人员越来越多地采用人工智能和机器学习(AI/ML)算法来匹配和识别复杂的模式,以帮助分析数据并据此做出决策。

AI/ML算法可以识别出传统的算法程序难以解析和识别的复杂、多维度的数据模式。一些特定的AI/ML应用包括检测、识别、辨认和计数人员或物体;资产和存货追踪、环境感知、声音和语音检测和识别、系统健康监测以及系统维护调度等。

莱迪思sensAI 4.1 工具和IP将低功耗FPGA变为网络边缘智能AI/ML计算引擎。Lattice的网络边缘AI可以实现从一毫瓦到低于一瓦这样的功耗范围。同时,Lattice有灵活的计算资源,硬件可编程最大的特点就是实现加速和机器算法。此外,还内嵌了很多安全功能,具有更高的安全性。

目前Lattice Nexus平台已推出四款FPGA产品,包括CrossLink-NX、Certus-NX、Mach-NX、CertusPro-NX,未来还将有两款新品。同样,sensAI 也将不断推陈出新。总之莱迪思FPGA和sensAI解决方案以其性能、功耗以及灵活的优势推动边缘AI的广泛应用。

审核编辑:彭静
  • PC
    PC
    +关注

    关注

    9

    文章

    1650

    浏览量

    149090
  • AI
    AI
    +关注

    关注

    85

    文章

    20726

    浏览量

    238817
  • 边缘计算
    +关注

    关注

    20

    文章

    2027

    浏览量

    42537
收藏 人收藏

    评论

    相关推荐

    英特尔为开发者提供AI、安全、量子计算等一站式解决方案

    英特尔为开发者提供AI、安全、量子计算等领域的一站式解决方案。 • 英特尔推出了新的服务和工具,帮助....
    的头像 英特尔中国 发表于 09-30 19:33 435次 阅读

    弱监督学习解锁医学影像洞察力

    人工智能 (AI) 通过比人类专家更快、更准确地检测和测量异常情况,从图像中进行先进的医学诊断。构建....
    的头像 观察专栏 发表于 09-30 18:04 139次 阅读
    弱监督学习解锁医学影像洞察力

    如何建立一台Windows 365企业版的Cloud PC

    Windows 365企业版搭配MicrosoftEndpoint Manager管理中心,可以用来....
    的头像 我快闭嘴 发表于 09-30 16:45 188次 阅读

    瑞萨电子推出能处理多个摄像头图像数据的全新RZ/V2MA器件

    RZ/V2MA器件配备以太网、USB和PCI Express等高速接口,允许从多个外部摄像头输入图像....
    的头像 瑞萨电子 发表于 09-30 16:43 250次 阅读

    云知声基于“双碳”目标数智园区综合管理运营平台赋能客户产业升级

    近日,“第四届上海绿色智慧建设高峰论坛”(以下简称论坛)在上海浦东星河湾国际会议中心成功举办。云知声....
    的头像 云知声 发表于 09-30 16:26 187次 阅读

    5G边缘计算网关在智能电网远程监控的应用

    随着5G通信技术的发展和数据量爆发时增长,基于5G的边缘计算技术受到越来越多的关注。云计算无法满足海....
    的头像 wtbl物通博联 发表于 09-30 16:24 307次 阅读
    5G边缘计算网关在智能电网远程监控的应用

    华为助力大连构建人工智能产业生态

    9月,2022昇腾AI创新大赛-大连区域赛成功举办!本次大赛,面向各学校、科研院所、企事业行业科技领....
    的头像 华为计算 发表于 09-30 10:33 753次 阅读

    AI词典笔/扫描翻译笔解决方案横向评测

    君正、瑞芯微、ASR方案对比
    的头像 王展WinTECH 发表于 09-30 10:30 428次 阅读
    AI词典笔/扫描翻译笔解决方案横向评测

    东八区先生的AI公司有多离谱?

    放假倒计时,想必很多朋友已经无心工作学习,满心都是“节后再说”,所以咱们今天就放松一下,给大家分享下....
    的头像 脑极体 发表于 09-29 20:55 93次 阅读

    OpenVINO各AI模型对应不同处理器的效能

    Google于2017年制作了TeachableMachine网页版本的AI软件工具,甫一推出就受到....
    的头像 lhl545545 发表于 09-29 16:25 263次 阅读

    Q2中国PC显示器出货量同期下降22.2%

      根据IDC发布的一份报告,2022年第二季度,中国售出624万台PC显示器,比去年同期下降22.....
    的头像 科技快讯 发表于 09-29 15:23 90次 阅读

    瑞芯微和英伟达的边缘计算盒子方案,你会选哪一家的?

    边缘计算解决由于中心流量拥堵和智能终端快速增长带来的算力资源不足的问题,具有业务处理的实时性和高效性,安全和隐私保护等优...
    发表于 09-29 14:31 170次 阅读
    瑞芯微和英伟达的边缘计算盒子方案,你会选哪一家的?

    声智成功入选2021年度北京民营企业“中小企业百强”榜单

    9月,北京市工商联发布2021年度北京民营企业百强“1+4”榜单。声智成功入选2021年度北京民营企....
    发表于 09-29 11:47 213次 阅读

    西安未来人工智能计算中心推动人工智能产业快速演进

    AI陕耀2022昇腾AI创新大赛暨第一届“昇腾杯”秦创原人工智能开发者大赛在西安成功举办。本次大赛是....
    的头像 华为计算 发表于 09-29 10:39 412次 阅读

    人工智能反诈骗创新解决方案有效保护群众财产安全

    近日,河南信大网御科技有限公司的中原人工智能反诈骗创新解决方案与华为Atlas 800训练服务器和全....
    发表于 09-29 10:33 99次 阅读

    鱼泡网通过大数据、AI等技术在创业创新大赛全国选拔赛斩获佳绩

    9月1日至3日,第五届“中国创翼”创业创新大赛全国选拔赛在山东省青岛市成功举办。经过组委会秉承客观、....
    发表于 09-29 10:31 31次 阅读
    鱼泡网通过大数据、AI等技术在创业创新大赛全国选拔赛斩获佳绩

    FP-AI-MONITOR1简介

    FP-AI-MONITOR1是一种多传感器AI数据监控框架(基于面向STM32Cube的功能包),工....
    的头像 意法半导体中国 发表于 09-29 09:04 100次 阅读

    昇腾AI解决方案 成都天巡微小推超大规模交通数字底座方案 助力智慧交通

    基于昇腾AI基础软硬件平台,成都天巡微小卫星科技有限责任公司(以下简称:成都天巡微小)推出超大规模交....
    的头像 华为计算 发表于 09-28 19:17 503次 阅读

    纯视觉AI设置符合汽车安全等应用的选择

    今天,我们经常听到有人说自动驾驶时代即将到来,但是,真正在各种现实条件下实现的自动驾驶仍然尚需时日。
    的头像 贸泽电子 发表于 09-28 17:33 282次 阅读

    登临科技致力于与合作伙伴助力AI行业高质量发展

    近日,国内AI算力资源池化领导厂商趋动科技与登临科技联合宣布展开战略合作,双方将围绕众多行业智能化场....
    的头像 登临科技 DenglinAI 发表于 09-28 17:02 268次 阅读

    借助NVIDIA DRIVE IX开创智能座舱新体验

    Cerence、Smarteye、Rightware 和 DSP Concepts 等车载技术公司正....
    的头像 NVIDIA英伟达企业解决方案 发表于 09-28 11:28 210次 阅读

    海康威视智能物联技术助力粮食仓储智慧监管

    今年的春小麦早已成熟,现在冬小麦也播下了种。海康威视助力当地农户“科技种麦”,通过与合作伙伴打造的智....
    发表于 09-28 10:40 189次 阅读

    EDA工具助力AI加速器开发 ARC AI参考设计平台发力

    大数据真的很厉害,相信很多人都感受到了,比如你刚逛完某宝开始刷某音,却发现某音给你推送了你刚刚看过的....
    发表于 09-28 09:16 277次 阅读

    大模型的禾下乘凉梦,百度自己来做试验田

    禾下乘凉梦,是一个今天国人无比熟悉的词。它来自袁隆平院士对杂交水稻高产的理想追求,是袁隆平的中国梦。....
    的头像 脑极体 发表于 09-27 21:51 278次 阅读

    AI视觉检测赋能工业制造,助力企业智造升级

    富唯智能AI视觉检测系统,拥有自主开发的深度学习模型、3D点云算法、AI测量算法,可适应大部分的检测....
    的头像 机器视觉检测 发表于 09-27 15:48 206次 阅读
    AI视觉检测赋能工业制造,助力企业智造升级

    研扬同步在GTC中宣布NVIDIA Jetson Orin Nano 边缘计算AI平台BOXER-8621AI上市

    采用NVIDIA Jetson Orin Nano系统模块的BOXER-8621AI (台北,中国台....
    的头像 大崔崔sz 发表于 09-27 11:34 252次 阅读
    研扬同步在GTC中宣布NVIDIA Jetson Orin Nano 边缘计算AI平台BOXER-8621AI上市

    标准浮点算术处理器对AI精度的应用

    OpenAI 最先进的语言模型 GPT-3需要惊人的数以亿计的操作来训练,并且花费了大约 500 万....
    发表于 09-27 10:57 91次 阅读

    OpenDILab幕后的「孤勇者」:AI研究员、电竞冠军和他们的开源梦

    过去数十年,研究者夙兴夜寐,将无数人类智慧灌注其中,不断将「人工智能」的能力上限抬高。一个刚刚诞生的....
    的头像 邢强 发表于 09-27 10:40 215次 阅读
    OpenDILab幕后的「孤勇者」:AI研究员、电竞冠军和他们的开源梦

    基于昇腾AI的东盟人工智能计算中心和适配中心正式发布

    日前,第三届中国(广西)—东盟人工智能大会在广西南宁正式举办。广西壮族自治区人民政府副主席秦如培,华....
    发表于 09-27 10:07 111次 阅读

    商汤科技亮相第二届BEYOND国际科技创新博览会

    近日,第二届“BEYOND国际科技创新博览会”在澳门举行。
    的头像 商汤科技SenseTime 发表于 09-27 09:42 1147次 阅读

    NVIDIA DRIVE Sim仿真平台中的神经重建引擎功能

    DRIVE Sim 中的神经重建引擎(Neural Reconstruction Engine,NR....
    的头像 NVIDIA英伟达企业解决方案 发表于 09-27 09:39 156次 阅读

    借助NVIDIA Research新的AI模型打造虚拟世界

    得益于 NVIDIA Research 新的 AI 模型,越来越多的公司和创作者创建的大型虚拟世界可....
    的头像 NVIDIA英伟达企业解决方案 发表于 09-27 09:33 225次 阅读

    NVIDIA DRIVE Concierge重塑未来智能车载信息娱乐体验

    凭借在信息娱乐领域十余年的经验累积,NVIDIA 致力于为每位乘客提供个性化的智能车载信息娱乐体验。
    的头像 NVIDIA英伟达企业解决方案 发表于 09-27 09:29 120次 阅读

    KT利用NVIDIA AI平台训练大型语言模型

    韩国先进的移动运营商构建包含数百亿个参数的大型语言模型,并使用 NVIDIA DGX SuperPO....
    的头像 NVIDIA英伟达企业解决方案 发表于 09-27 09:24 187次 阅读

    亿智电子完成数亿元B轮融资 加速推进在端侧AI通用算力平台建设

    近日,亿智电子完成了累计数亿元规模的B轮融资。其中超亿元的B2轮于本月完成交割,B2轮由温氏资本领投....
    的头像 亿智电子 发表于 09-26 17:44 355次 阅读

    中科曙光联合雅捷信息面向金融行业发布数据智能一体机

    随着金融领域数智化转型进程的不断深入,金融大数据正呈现几何式爆发,而作为金融信息系统的关键基础设施,....
    的头像 中科曙光 发表于 09-26 15:18 383次 阅读

    RA6M4驱动5寸屏显示PC运行状态并进行监控源码

    RA6M4驱动5寸屏显示PC运行状态并进行监控源码。基于瑞萨 CPK-RA6M4 开发板。
    发表于 09-26 14:53 22次 阅读

    思必驰携手追觅科技打造智能家居AI语控清洁助理

    近日,思必驰与智能清洁领域的创新科技公司追觅科技达成深入合作,携手推出智能扫地机器人新品——追觅豪华....
    发表于 09-26 14:35 46次 阅读

    物联网边缘设备如何更好的为数据采集保驾护航

    物联网是一种为现实物理设备与虚拟数字世界构建连接的技术,通过传感器、网关、路由器等物联网设备从实体设....
    的头像 wtbl物通博联 发表于 09-26 11:45 162次 阅读
    物联网边缘设备如何更好的为数据采集保驾护航

    华为加速昇腾AI生态在高校的落地

    “智能基座昇腾高校行”活动是基于教育部-华为“智能基座”产教融合协同育人基地项目开展的重要活动。活动....
    发表于 09-26 11:00 112次 阅读

    星图空间GEOVIS iBrain平台与华为AI框架昇思MindSpore完成兼容性测试

    作为人类视觉的延伸,海量的卫星影像中隐藏着巨大的价值。随着人工智能技术的进步,AI代替人工操作进行自....
    的头像 华为计算 发表于 09-26 09:54 303次 阅读

    NVIDIA DRIVE Thor超级芯片助力车企打造安全可靠的自动驾驶汽车

    新一代系统级芯片能够将各种智能汽车功能整合到同一 AI 计算平台,助力车企打造安全可靠的自动驾驶汽车....
    的头像 NVIDIA英伟达 发表于 09-26 09:49 178次 阅读

    NVIDIA Nova Orin平台助力AMR的构建和部署

    NVIDIA 发布了Nova Orin(一种自主移动机器人 (AMR) 参考平台)的更新,从而推进其....
    的头像 NVIDIA英伟达 发表于 09-26 09:45 117次 阅读

    借助NVIDIA Omniverse实现交互式商店数字孪生

    这几家公司正在赋予员工为客户提供更优质服务的“超能力”。
    的头像 NVIDIA英伟达 发表于 09-26 09:42 131次 阅读

    NVIDIA Omniverse ACE助力AI虚拟形象为各行各业带来新变革

    GTC 大会上的演示展示了 AI 赋能的虚拟形象,该虚拟形象可以响应自然语言并提出智能推荐。
    的头像 NVIDIA英伟达 发表于 09-26 09:34 133次 阅读

    NVIDIA助力机器人手术初创公司为产品上市提速

    Activ Surgery、Moon Surgery 和 Proximie 将使用基于 NVIDIA....
    的头像 NVIDIA英伟达 发表于 09-26 09:32 124次 阅读

    HEAVY.AI借助NVIDIA Omniverse实现数字孪生

    2027 年,5G 部署将迎来翻倍增长,基于 NVIDIA Omniverse 构建的 HEAVY.....
    的头像 NVIDIA英伟达 发表于 09-26 09:27 126次 阅读

    NVIDIA BioNeMo框架将为生物学研究提供加速

    领先的制药公司、生物技术初创企业和前沿生物研究人员正在使用 NVIDIA BioNeMo LLM 服....
    的头像 NVIDIA英伟达 发表于 09-26 09:23 197次 阅读

    全新NVIDIA Base Command功能说明

    新一批创新企业开始基于 DGX 系统、Base Command 和 DGX SuperPOD 来实现....
    的头像 NVIDIA英伟达 发表于 09-26 09:21 104次 阅读

    新版NVIDIA Maxine为实时音频和视频通信铺平道路

    新版 NVIDIA Maxine 为实时音频和视频通信铺平了道路。无论是参加视频会议、致电客户服务中....
    的头像 NVIDIA英伟达 发表于 09-26 09:19 106次 阅读

    英码RK3588开发套件限量首发!6大亮点内外兼修,超高性价比

    在“十四五”规划推动下,AIoT加快与产业融合并逐步落地,AI场景应用落地过程中,IoT终端硬件的智能化需求日益突出,芯片...
    发表于 06-07 11:07 2099次 阅读
    英码RK3588开发套件限量首发!6大亮点内外兼修,超高性价比

    PLC对接SQL数据库,实现数据采集和边缘计算

            智能网关IGT-DSER方便实现PLC与数据库之间的数据通讯,既可以读取PLC的数据...
    发表于 03-29 13:20 6714次 阅读

    瑞芯微边缘计算盒子DEP02A

    DEP02A 是一款英码科技基于 RK3568 设计的搭载英码 AIM16T AI 加速模组的高性能、低功耗的边缘计算设备,DEP02A...
    发表于 03-24 16:20 1544次 阅读
    瑞芯微边缘计算盒子DEP02A

    USB摄像机的方案主要分为哪几类

    USB接口有USB2.0和USB3.0,USB2.0的带宽较小,仅能传输VGA(640*480)画质的全实时非压缩视频,传输高分辨率和高...
    发表于 02-17 07:21 859次 阅读

    FPGA的zynq-SecureCRT串口连接的相关资料分享

    安装串口驱动程序,驱动程序可以使使用驱动精灵等工具,如果出现上面就是成功,记住串口使用端口号为com5,每台电脑都不一样。RT...
    发表于 12-27 07:27 762次 阅读

    边缘计算的相关资料推荐

    面向边缘计算的嵌入式FPGA平台卷积神经网络的构建 通过设计卷积神经网络函数中的网络层间可复用的加速器核心  以减...
    发表于 12-23 07:26 1113次 阅读

    什么是边缘计算

    什么是【边缘计算】,这个概念还得从【云计算】说起。云计算云计算 (cloud computing)指的是通过网络“云”将巨大的数据计算处...
    发表于 12-23 07:05 1313次 阅读

    用tflite接口调用tensorflow模型进行推理

    摘要本文为系列博客tensorflow模型部署系列的一部分,用于实现通用模型的部署。本文主要实现用tflite接口调用tensorflow模型进行...
    发表于 12-22 06:51 750次 阅读

    为什么需要将机器学习迁移到边缘设备

    本文翻译自《ARM Embedded Machine Learning Design》一书。本书共有5章,小编会分别翻译,并在公众号连载,喜欢的同学请...
    发表于 12-20 06:35 1550次 阅读