0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

智能架构将AI引入移动设备

星星科技指导员 来源:嵌入式计算设计 作者:Eran Briman 2022-10-25 14:43 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

深度学习算法正被用于训练卷积神经网络(CNN),以实现更智能的移动设备,这很可能需要一种新的方法来处理架构。但与此同时,巧妙地利用当前的技术可能有助于我们进一步走上真正的认知设备之路,这些设备能够完全重新定义用户体验。

英伟达将在三月份的GPU技术大会上使用汽车和高级驾驶员辅助系统(ADAS)作为应用程序的焦点,并完成了埃隆·马斯克(Elon Musk)的讨论和评论,以表明自动驾驶汽车几乎是一个已解决的问题。然而,随着时间的流逝,以及一些调整和改进 - 着眼于超低功耗 - 我看到了许多技术和应用,从无处不在的3D传感,3D跟踪,甚至视觉搜索,迅速进入智能手机以及供电和电池驱动的嵌入式系统

再加上用于运动和音频传感器、快速的内存访问以及高能效的数据处理方法,这些系统可以真正实现“认知”,甚至可能在不久的将来为支持人工智能的移动设备形成一个平台。与此同时,重要的是要优化当前的架构,以实现“智能视觉”功能,如3D深度映射和感知、对象识别和增强现实,以及核心计算摄影功能,如变焦、HDR、图像重新聚焦和低光图像增强。

后一种功能模糊了计算机视觉和图像处理之间的区别,因为许多成像和图像增强功能都使用计算机视觉技术。最简单的例子是多帧图像增强功能,如HDR,变焦和重新对焦,您可以在其中拍摄多个连续图像,然后将它们融合在一起以获得更高质量的图像。

虽然我们称之为“图像增强”,但涉及许多计算机视觉来“注册”图像,这涉及将两个或三个帧相互匹配。该基本功能现在被认为是理所当然的,但需要大量的处理马力。而这种对集中、密集的数字信号处理(DSP)的要求只会增加。

高通公司在Uplinq 2013上发表的一篇论文中很好地绘制了各种视觉处理功能的像素功率和时间关系。如图所示,这些图基于三个处理器:一个运行频率为 1.2 GHz 的单核 CPU、一个四核 CPU 和一个运行频率为 690 MHz 的 DSP。

poYBAGNXhaaAI59zAACIY3CpVP4781.jpg

图 1:绘制各种处理器的每像素能量与每像素时间的关系图显示了 DSP 与 CPU 一起进行视觉处理的优势。为了优化功耗和功能,CPU、DSP 和 GPU 的组合可能是最佳的整体方法。(单击以缩放)

该图显示,以略高于CPU时钟频率的一半运行的DSP可以在图像上获得相同的结果,从而获得潜在的性能增益,同时进一步节省功耗(功率=电容x电压)2x 频率,或 P=CV2断续器)。

然而,随着我们在移动平台上执行类似人类的视觉、人工智能和增强现实应用,可能需要重新思考处理架构。结合传感器融合和先进的深度学习算法(如CNN),这些高度先进和数学密集型应用程序将提供更具环境和上下文感知的用户体验,但将迫使在电池寿命方面进行权衡。

设计人员面临的挑战是启用这个认知设备的新世界,同时保持可接受的电池寿命。有几种方法可以实现此目的。例如,CPU可以由高通或英伟达的GPU支持。这已经在许多智能手机中实施。然而,对越来越低功耗的不妥协需求表明,可以将特定的处理密集型功能分配给视觉优化的DSP内核。采用这种方法可以放弃功耗 9 倍的改进与当今的高级 GPU 集群相比,同时运行对象识别和跟踪。

即使有这种程度的节能,移动设备也不太可能很快使用面部识别执行人群搜索,因为它的处理成本太高。但是,低功耗处理内核和优化架构的可用性增加了乐观情绪,并且正在取得扎实的进展。这种进步是《麻省理工学院技术评论》将深度学习列为2013年10项技术突破之一的原因之一。并在GTC上进行了演示,并在微软,百度和Cognivue等公司的其他研究中进行了演示,从那时起发生了很多事情。

虽然处理架构和低功耗处理至关重要,但可以合理地假设,随着云连接变得越来越普遍和更快,我们应该为云分配尽可能多的处理开销。同样,它归结为智能分区。在云中做最好在云中做的事,然后在移动设备上,尽可能高效地构建功能分配,例如使用CPU在GPU和DSP之间分配负载。或者正如高通公司所说,利用正确的引擎来完成正确的任务。

审核编辑:郭婷

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 神经网络
    +关注

    关注

    42

    文章

    4829

    浏览量

    106828
  • AI
    AI
    +关注

    关注

    90

    文章

    38194

    浏览量

    297039
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    AI赋能6G与卫星通信:开启智能天网新时代

    \"天-地-空\"一体化的无缝网络: 全球覆盖:卫星提供广域覆盖,6G提供高速率、低延迟的地面接入,AI实现智能调度 无缝切换:当用户从地面网络移动到卫星覆盖区域时,AI确保切换过程平
    发表于 10-11 16:01

    【「AI芯片:科技探索与AGI愿景」阅读体验】+AI芯片到AGI芯片

    能力 2)内存带宽 3)边缘设备AI算力 2、架构与形态 1)AGI芯片的基本架构 设计AGI芯片需考虑哪些因素: ①具身智能的大部分功能
    发表于 09-18 15:31

    【「AI芯片:科技探索与AGI愿景」阅读体验】+具身智能芯片

    智能的第一层,也是最基础的一层。 主要负责从外部环境中获取数据,并将这些数据转化为计算机可以理解的形式。感知层包括各种传感器和输入设备,如摄像头、麦克风、键盘和激光雷达等。 作用:是外部数据转化
    发表于 09-18 11:45

    【「AI芯片:科技探索与AGI愿景」阅读体验】+第二章 实现深度学习AI芯片的创新方法与架构

    、音频处理、安全处理等硬件子系统。 3.2 智能手机芯片与大模型的相互适应 3.3 多个AI处理核的智能手机AI芯片 4、 边缘侧的4种AI
    发表于 09-12 17:30

    湖南移动携手华为创新引入智能追焦单元解决方案

    金秋开学季,长沙各大高校迎来新生报到高峰。面对数千名学子集中办理入学手续、扫码签到及直播分享校园生活所产生的爆发式网络需求,中国移动湖南分公司(简称“湖南移动”)携手华为,创新引入智能
    的头像 发表于 09-11 11:52 588次阅读

    AI 芯片浪潮下,职场晋升新契机?

    、新架构不断涌现。能够在工作中提出创新性的解决方案,推动 AI 芯片性能、功耗、成本等关键指标的优化,极大提升在职称评审中的竞争力。例如,在芯片设计中引入新的计算范式,如存算一体技术
    发表于 08-19 08:58

    AI 边缘计算网关:开启智能新时代的钥匙​—龙兴物联

    在数字化浪潮的当下,AI 边缘计算网关正逐渐崭露头角,成为众多行业转型升级的关键力量。它宛如一座智能桥梁,一端紧密连接着各类物理设备,如传感器、摄像头、工业机器等,负责收集丰富的数据信息;另一端则
    发表于 08-09 16:40

    信而泰×DeepSeek:AI推理引擎驱动网络智能诊断迈向 “自愈”时代

    ,还是工业协议时序混乱,均可完整还原端到端业务会话链条,为智能分析提供坚实基础。2.AI根因定位:推理引擎驱动秒级精准诊断l 知识图谱驱动:网络拓扑、流量统计、历史趋势、会话日志、异常告警、威胁情报等
    发表于 07-16 15:29

    Arm 与微软合作,为基于 Arm 架构的 PC 和移动设备应用提供超强 AI 体验

    管理总监RonanNaughton微软AI框架首席软件工程经理GeorgeWu随着人工智能(AI)成为当今个人电脑(PC)和移动设备使用体验
    的头像 发表于 06-03 16:47 731次阅读
    Arm 与微软合作,为基于 Arm <b class='flag-5'>架构</b>的 PC 和<b class='flag-5'>移动</b><b class='flag-5'>设备</b>应用提供超强 <b class='flag-5'>AI</b> 体验

    福建移动联合华为打造AI WAN SPN网络

    福建移动携手华为在SPN(Slicing Packet Network,切片分组网)网络中深度融合AI能力,引入设备级、网络级、运营级AI
    的头像 发表于 05-09 17:08 863次阅读

    首创开源架构,天玑AI开发套件让端侧AI模型接入得心应手

    猛增50倍,训练时间从一整天缩短至半小时。更快的端侧LoRA训练,让端侧AI基于用户端侧数据提升个性化体验,让终端成为更懂用户的个性化智慧伙伴。 智能体用户体验的进化,从生态整合与携手跃迁开始 本次
    发表于 04-13 19:52

    Banana Pi 发布 BPI-AI2N &amp; BPI-AI2N Carrier,助力 AI 计算与嵌入式开发

    助力 AI智能制造和物联网行业的发展。未来,Banana Pi 继续深化与Renesas的技术合作,推动更多高性能嵌入式解决方案的落地。 ” BPI-AI2N开发板赋能多场景应用,
    发表于 03-19 17:54

    华为打造移动AI时代领先电信基础设施

    5G-A核心网峰会在MWC 25巴塞罗那期间成功举行,华为云核心网智能电信云领域总裁林伟发表主题演讲,并发布智能融合电信云(TICC)解决方案。该方案首次AI框架
    的头像 发表于 03-08 11:39 1120次阅读

    AI Agent 应用与项目实战》阅读心得2——客服机器人、AutoGen框架 、生成式代理

    及时处理。 第5章的斯坦福AI小镇项目对生成式代理技术做出了开创性的探索。该项目的核心是LLM与计算交互代理相结合,构建了一个具有记忆、反思、规划能力的智能体系统。在技术实现层面,记忆和检索模块采用
    发表于 02-25 21:59

    AI赋能边缘网关:开启智能时代的新蓝海

    引入彻底改变了这一局面。通过在边缘网关集成AI芯片和算法模型,使其具备了实时数据分析、智能决策和自主控制能力。在工业质检场景中,搭载AI算法的边缘网关能够实时识别产品缺陷,
    发表于 02-15 11:41