0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

边端侧AI规模应用落地难,领域专用架构(DSA)如何在通用性和专用性之间找到平衡!

Carol Li 来源:电子发烧友网 作者:李弯弯 2022-11-27 07:24 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

电子发烧友网报道(文/李弯弯)相对于云端AI,边端侧AI在本地进行计算和决策,不需要将数据上传至云端,具备更好的实时性、隐私性等特点,近些年,边端侧AI的应用越来越被看好。

然而边端侧AI因为应用场景丰富,碎片化明显,在落地应用上也存在诸多难题,比如,需要针对不同应用场景定制算法,不少硬件方案只能针对单一应用等,因此具备一定通用性的方案会更被市场需要,比如时擎科技的领域专用架构(DSA)处理器

领域专用架构(DSA)的核心优势

时擎科技自2018年成立以来,一直致力于在万物智联的AIoT时代,从落地场景的需求出发,通过领域专用架构的处理器和定制化芯片设计,为端侧设备提供支持语音、视觉、影像、显示等多模态智能人机交互和数据处理的芯片产品及完整的系统级解决方案。

该公司基于RISC-V指令架构为端侧智能交互和处理场景量身定制了TimesFormer领域专用架构智能处理器,作为处理和计算核心,推出了AT系列端侧智能处理芯片,可以应用于智能家居、智慧家电、泛安防、智能硬件等各类端侧设备中。

时擎科技也能针对客户应用场景的需求,提供定制化芯片的设计和交付,以及系统级应用和软件的开发,为客户带来差异化的产品和竞争力。

目前时擎科技在售的AT系列端侧智能芯片,是一款高集成度、高能效比的智能处理芯片,可广泛应用于离线语音控制、麦克风阵列、入门级智能影像应用等多种不同应用场景中。以其中已经量产出货的AT1000为例–

在产品特点上,AT1000系列芯片搭载了自研的RISC-V主控TM500,主频高达300MHz,支持DSP和浮点操作;提供100G高能效AI算力,配套的TimeFlow算法部署工具友好支持各种模型和算子;优化的存储系统保证算法执行效率,内置MB级高速SRAM,大容量PSRAM和4MB XIP Flash;专用的高性能语音子系统,支持多达4+2模拟/数字麦克风输入,以及立体声/功放输出,满足各类基于麦克风阵列的语音处理需求。

在应用上,AT1000系列其中主要的应用场景是通话对讲、语音降噪等。时擎科技创始人、总裁于欣在接受电子发烧友采访的时候表示,通话对讲场景按照通话距离大体可以分为两类,一类是远讲,典型场景是会议,一般来说,会议室的噪声条件相对较好,而如今居家办公的情况比较多,噪声条件较为复杂,但最近催生了一些在家中或交通工具上,这些场景对于设备降噪能力提出了更高的需求尤其。另一类是近讲,则主要是以对讲机作为代表。

在通话对讲方面,虽然应用场景各不相同,不过其核心算法是类似的。时擎科技针对不同的应用场景针对性地推出了不同型号的芯片,在封装、存储上等方面会有所差异,用以适配对算法复杂度、外设接口的不同。

时擎科技TimesFormer智能处理器是一种基于RISC-V指令集的领域专用架构(DSA)处理器,专门针对端侧智能计算和各类音视频智能算法的需求而研发。具有高能效比、高性价比、易使用、灵活可扩展等特点,可以广泛的应用于端侧人工智能芯片中。

如何理解领域专用架构(DSA)呢?于欣解释到,DSA的核心特点是,它针对的是一类场景,而不只是针对一个特定设备而设计,比如,用于边端侧的语音,也就是各种类型的通话对讲都可以用。相比于很多专用的ASIC芯片而言,,DSA是在专用性和通用性上找到了一个平衡,针对某一类场景所需要的算法所设计,可以提供在性能、成本、功耗上满足需求的优质方案,又具备一定的通用性保证了芯片足够大的市场需求范围。

成立四年多来,时擎科技已经基于领域专用架构(DSA),围绕各类端侧智能应用场景,打造了DSA处理器、部署开发工具、端侧AI算法三位一体、紧密融合的全栈技术方案。团队的研发能力和在售产品都获得了市场的较好认可,公司2022全年销售额也有望超过七千万元。。

边端侧AI的优势和落地难题

相对于云计算,边端侧有它的独特优势。具体来说,边缘AI允许设备在本地进行AI计算和决策,不需要连接到互联网才能实现数据处理。因此它具备实时性好、带宽资源要求低、隐私性好等诸多特点,因此在很多场景中边缘AI比云端AI更好的解决实际的问题。这也是为什么近些年边端侧AI越来越多的被看好。

实际上,边端侧AI是相对于云来说的,终端侧比较好理解,边缘侧AI可以怎么理解呢?很多时候,边和端是相对而言。举一个典型场景的列子,在监控的时候,很多之前部署的摄像头都不带本地AI能力,那是不是就只能将采集的信息上传至云端进行处理呢,答案是否定的。我们可以通过在这云端之间架设所谓的边缘服务器,从而实现对这些视频采集的信息更接近数据端的分析处理。

事实上很多场景都是如此,比如公司、小区内的视频监控,都可以通过边缘服务器对这个小区域里的视频进行分析处理,相对于云端来说,它直接部署在本地,从拓扑结构上来看,这就是我们所说的边缘侧。一般而言,如果数据采集节点和传输至云端服务器中间的路径上所进行数据加工、处理、分析,则都可以称为边缘侧的处理。

虽然边端侧AI比较被看好,不过在实际落地应用中,还是有不少挑战。在于欣看来,这是由于客观条件决定的,很多边缘侧的需求,或者待分析的数据以及其背后的算法等,会存在较多的差异。

具体来看,无论是识别人、识别物体,还是工业应用中使用机器视觉做缺陷检测,虽然都是识别、检测,但实际在算法上的差异很大。从这个角度来看,就需要多种跟应用场景完全匹配的算法,没有一个通用的算法存在。每个场景都需要有针对性的算法,并不是说做好一个场景的一套算法,就可以把它轻易复制到别的场景,这是算法层面可复制性方面的挑战。

另外,不同场景应用的解决方案也不尽相同,如果是在云端,如GPU的通用计算方案是主流,而在边端侧,就不太一样,可能会有八仙过海各显神通的各种方案,比如时擎科技就是定制的领域专用架构DSA处理器从这个角度来看,无论是算法,还是硬件,很难存在一个特别通用的方案,而且边端场景往往对成本、功耗等方面有更加苛刻的要求,这就决定了需要去做算法和芯片的匹配,这是成为了边端侧AI复制推广的限制。

还有就是,一些AI的算法的训练需要很多数据,这也是人工智能不可或缺的一个环节,这也会给形形色色的边端侧AI应用带来更多困难。这些问题可以如何去解决呢?于欣认为,业界需要在算法、处理器、工具等上面形成整体的解决方案,针对一类应用场景提供解决方案,形成一定的复制性,而不是说每一个场景都要从零开始,某种可以解决边端侧AI应用场景过于碎片化的难题。

小结


从目前的发展势头来看,未来AI的应用将会无处不在,还有很大的发展空间和潜力。然而任何新兴技术在发展初期阶段,都会遇到各种各样的问题,AI也不例外。作为企业来说,如果能够不断地进行技术创新,解决发展过程中存在的难题,必然能够在特定的领域占据重要位置。对于时擎科技来说是如此,对于其他任何AI芯片企业来说,也是如此。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • AI
    AI
    +关注

    关注

    91

    文章

    41057

    浏览量

    302561
  • DSA
    DSA
    +关注

    关注

    0

    文章

    53

    浏览量

    15888
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    嵌入式AI开发必看:杜绝幻觉,才是工业级IDE的核心底气

    的合规,导致企业“不敢用、不愿用”AI技术。 ▌开发效率与安全矛盾加剧:开发者既要借助AI提升编码效率,又要承担AI幻觉带来的风险,陷入“效率换安全”的两
    发表于 03-18 13:49

    还在手动拼接 AI 代码?你的 IDE 早就该升级了

    嵌入式低代码编程,还有效解决系统架构、芯片对接、流程标准化等全局问题,为AI提供了高效落地载体。 ▌ 全流程自动校验: 平台内置AI自检验机制,自动对生成的代码进行与硬件的兼容
    发表于 03-11 10:25

    智联:机器人主板架构革新与边缘计算的协同进化

    2025年至今,机器人行业正式迈入智能规模落地期,2026年这一趋势将持续深化,算力下
    的头像 发表于 01-30 12:01 278次阅读

    AI芯片技术演进的双轨路径:从通用架构领域专用的并行演进——指令集优化与电路级重构协同塑造智能计

    【导语】随着人工智能从算法研究走向大规模工程化与产业化落地,计算负载呈现出算力需求激增与应用形态高度分化并存的特征。在这一背景下,传统通用处理器在性能功耗比、时延确定性以及系统可扩展性方面逐渐暴露出
    的头像 发表于 01-15 14:37 402次阅读
    <b class='flag-5'>AI</b>芯片技术演进的双轨路径:从<b class='flag-5'>通用</b><b class='flag-5'>架构</b>到<b class='flag-5'>领域</b><b class='flag-5'>专用</b>的并行演进——指令集优化与电路级重构协同塑造智能计

    隼瞻科技:ArchitStudio全面革新DSA处理器设计

    电子发烧友网报道(文/吴子鹏)在AI技术向千行百业加速渗透、算力需求呈现多元化与碎片化特征的当下,领域专用架构DSA)已成为突破
    发表于 01-08 16:20 5291次阅读
    隼瞻科技:ArchitStudio全面革新<b class='flag-5'>DSA</b>处理器设计

    应对AI算力、内存、功耗“三堵墙”困境,安谋科技Arm China “周易”X3给出技术锦囊

    AI大模型正加速从云端向边缘与渗透,然而,算力、内存、功耗等却成了制约其规模落地的“高墙”。专为A
    的头像 发表于 12-18 13:45 524次阅读
    应对<b class='flag-5'>端</b><b class='flag-5'>侧</b><b class='flag-5'>AI</b>算力、内存、功耗“三堵墙”困境,安谋科技Arm China “周易”X3给出技术锦囊

    重磅合作!Quintauris 联手 SiFive,加速 RISC-V 在嵌入式与 AI 领域落地

    据科技区角报道半导体解决方案提供商 Quintauris 最近宣布和 RISC-V 处理器 IP 领域的头部厂商 SiFive 达成战略合作,目标直接瞄准加速 RISC-V 在嵌入式、AI 系统等
    发表于 12-18 12:01

    安谋科技:NPU技术创新,拉动AI算力落地引擎

    X3 NPU IP以及生态建设、NPU发展趋势等话题。   图:安谋科技产品总监鲍敏祺   周易X3 NPU IP正当时   安谋科技周易X3 NPU IP面向AI落地需求,基于专
    的头像 发表于 12-09 16:44 6110次阅读
    安谋科技:<b class='flag-5'>端</b><b class='flag-5'>侧</b>NPU技术创新,拉动<b class='flag-5'>AI</b>算力<b class='flag-5'>落地</b>引擎

    引领大模型落地!Firefly-RK182X 开发套件上线发售

    海量参数的大模型给AI行业带来颠覆的体验,然而在设备中,由于有限的DRAM带宽、硬件算力、存储容量等瓶颈,让
    的头像 发表于 11-26 16:33 2686次阅读
    引领<b class='flag-5'>端</b><b class='flag-5'>侧</b>大模型<b class='flag-5'>落地</b>!Firefly-RK182X 开发套件上线发售

    悟空图像与华为CANN正式落地PCAI闪绘功能

    近日,基于华为CANN(Compute Architecture for Neural Networks)云协同架构打造的华为PCAI闪绘功能正式
    的头像 发表于 11-10 14:43 1020次阅读

    半导体领域 AI 芯片成产业化核心引擎

    AI 芯片在多领域实现技术突破与规模应用,A 股相关上市公司业绩与研发投入均呈现显著增长态势。 在技术创新层面,
    的头像 发表于 10-10 18:01 6035次阅读

    AI推理赋能效率革命,美格智能多领域落地打造行业范本

    产业进阶:AI推理助手成为应用刚需作为人工智能技术最普遍的产品形式之一,“AI助手”已成为各类软件、终端的重要组成部分,成为AIAgent的主要外在呈现和功能入口。随着
    的头像 发表于 08-25 17:06 4135次阅读
    <b class='flag-5'>端</b><b class='flag-5'>侧</b><b class='flag-5'>AI</b>推理赋能效率革命,美格智能多<b class='flag-5'>领域</b><b class='flag-5'>落地</b>打造行业范本

    媒体报道 | 锚定“AI+机器人”,移远又有大动作!

    以前瞻的技术布局与场景落地能力深度参与“AI+机器人”产业链,已率先在这一领域取得关键进展
    的头像 发表于 07-11 19:05 1108次阅读
    媒体报道 | 锚定“<b class='flag-5'>端</b><b class='flag-5'>侧</b><b class='flag-5'>AI</b>+机器人”,移远又有大动作!

    RISC-V架构+Timesformer引擎:时擎科技自研算法赋能AI多场景落地

    引发了隐私安全的担忧。   与此同时,终端设备智能化升级的需求日益迫切,如智能耳机需具备本地语音识别能力,工业设备需实现实时缺陷检测等。这些需求共同推动了“云--”协同计算架构的普及,边缘/终端
    的头像 发表于 07-04 01:23 9294次阅读

    苹芯科技 N300 存算一体 NPU,开启 AI 新征程

    随着人工智能技术的爆发式增长,智能设备对本地算力与能效的需求日益提高。而传统冯·诺依曼架构在数据处理效率上存在瓶颈,“内存墙”问题成为制约
    的头像 发表于 05-06 17:01 1310次阅读
    苹芯科技 N300 存算一体 NPU,开启<b class='flag-5'>端</b><b class='flag-5'>侧</b> <b class='flag-5'>AI</b> 新征程