0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

有了云端,智能家居还有必要部署本地AI吗?

Simon观察 来源:电子发烧友 作者:黄山明 2024-05-10 00:19 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群


电子发烧友网报道(文/黄山明)现如今,不少终端产品中都安装了AI程序,不过这些AI程序基本上都需要通过互联网访问云端AI服务,来实现各种智能化功能,例如语音识别、图像识别、自然语言处理等。这种模式下,用户的终端设备并不需要强大的本地AI处理能力,而是将数据上传至云端服务器,在那里由大型AI模型进行复杂的计算处理,并将结果返回给用户。

但随着人们需求提升,尤其是对设备的响应速度与稳定性,还有个性化服务需求的增加,本地AI可以根据用户的特定习惯和偏好进行优化,使得体验更为个性化和无缝。

更重要的一点是,本地处理用户数据可以减少数据泄露的风险,因为数据不需要被发送到云端服务器,这在一定程度上增强了用户对隐私的保护。并且在没有互联网连接的情况下,本地AI仍然可以正常运作,而依赖云端的智能家居设备可能会失去部分或全部功能。

高通的现任CEO安蒙曾公开表示,“真正有趣的地方在于让生成式AI在智能手机本地运行,而不是云端”,安蒙认为“生成式AI的变革意义在于终端上的信息能够帮助AI成为无处不在的个人助手”。

当然,部署本地AI除了上述的原因外,网络通畅性也至关重要。虽然如今5G已基本完成覆盖,但完全跟不上AI的发展速度。数据显示,一家波音787每秒产生5GB的数据,而全球每时每刻都有数千驾飞机正在空中飞行,高通发布的《混合AI是AI的未来》中显示,相比传统方式,生成式AI的搜索成本增加了10倍,全球每天产生超过100亿次的搜索查询量。

随着边缘计算技术的进步,越来越多的智能设备具备了一定程度的本地AI计算能力,能够在离数据源头更近的地方进行预处理或初步决策,减轻云端压力的同时也提高了效率。

不仅是高通,包括英伟达AMD英特尔等企业都认为,本地AI计算、AI应用本地化将会是未来主要发展方向之一。

本地AI面临的难题

想要在本地部署AI,让设备可以离线运行,就需要确保终端设备具备足够的计算能力,如CPUGPU或TPU,以保证在有限的空间和功耗预算内完成实时推理。另一方面,AI模型往往体积庞大,尤其是在深度学习领域。要在本地部署,必须优化模型大小,使其适合小型化的智能家居设备有限的内存和存储资源。

为了适应硬件限制,需对AI模型进行剪枝、量化或知识蒸馏等操作,以降低计算复杂度和资源占用。同时开发节能型AI算法和硬件架构,确保在提供智能服务的同时不影响设备整体的能源效率。

在数据处理与隐私保护上,需要确保本地存储和处理的数据受到充分的安全保护,防止未经授权的访问和泄露。还要确保AI算法能在特定的嵌入式操作系统上稳定运行,并适配各类传感器及设备接口驱动。

不过即使在本地处理,也需要与云端及其他智能家居设备之间保持良好互联,以便在必要时进行数据交换和协同工作。

体验上,本地AI需要提供与云端相似的用户体验,包括快速响应用户命令并做出准确判断。设计合理的故障检测和恢复机制,并能方便地进行远程或本地固件更新,包括AI模型的迭代升级。

因此,在目前来看,普通个人用户想要在本土部署大模型AI的门槛较高,一个是普通用户在技术能力上无法完成本体部署,另一方面,AI技术比如AI生图等功能对性能要求较高,普通的芯片难以应付,而专用芯片价格又比较昂贵。

同时,不管是什么类型的AI应用,算力都是绕不开的话题,如何做到快速响应、低延迟等特点,就需要有强力的本地AI算力支持。针对那些大型的家电设备而言可能还好,但对于一些小型的智能家居产品,如智能助手、智能中控屏等,在追求更强AI算力的同时,还需要平衡好功耗,降低对内存带宽、显存的高依赖。

当然,阻碍本土AI应用发展的最大难题,或许不在技术层面,而在于商业运作上,如何实现有效的盈利模式,让企业有动力去推进本地AI。

小结

尽管云端AI服务广泛应用,但在特定需求和环境下,本地AI仍然具有不可替代的价值。现代智能设备通常采用混合策略,即根据应用场景灵活利用云端和本地AI资源。而本地AI的部署,也将是主流AI芯片企业未来的重要发展方向。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • AI
    AI
    +关注

    关注

    90

    文章

    38243

    浏览量

    297193
  • 智能家居
    +关注

    关注

    1942

    文章

    9945

    浏览量

    195736
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    芯科科技亮相CSHIA 2025智能家居技术生态大会

    Silicon Labs(芯科科技)日前参加由CSHIA(中国智能家居产业联盟)举办的“2025智能家居技术生态大会”,并呼应“AI驱动•生态共融”的大会主轴,带来一场主题演讲-Matter与低功耗
    的头像 发表于 11-21 09:40 464次阅读

    工业物联网平台适合私有本地部署还是云端部署

    工业物联网平台的部署方式需根据企业核心需求选择, 私有本地部署适合数据安全要求极高、需深度定制且具备技术实力的企业;云端部署则更适合追求成本
    的头像 发表于 11-12 11:42 293次阅读
    工业物联网平台适合私有<b class='flag-5'>本地</b><b class='flag-5'>部署</b>还是<b class='flag-5'>云端</b><b class='flag-5'>部署</b>?

    瑞萨AI模型部署工具演示教程

    AI应用的浪潮中,视觉AI无疑是最热门的领域之一。从智能家居到安防监控,从工厂自动化到自动驾驶,视觉技术的身影无处不在。然而,对于很多开发者来说,想要在本地实现
    的头像 发表于 09-23 10:12 1274次阅读
    瑞萨<b class='flag-5'>AI</b>模型<b class='flag-5'>部署</b>工具演示教程

    能源监测管理平台是本地部署好还是云端部署好?

    能源监测管理平台本地部署云端部署各有优劣,企业需根据自身需求和实际情况来选择。如果企业对数据安全要求极高、网络环境特殊且预算充足,本地
    的头像 发表于 07-22 15:16 343次阅读
    能源监测管理平台是<b class='flag-5'>本地</b>化<b class='flag-5'>部署</b>好还是<b class='flag-5'>云端</b><b class='flag-5'>部署</b>好?

    边缘AI实现的核心环节:硬件选择和模型部署

    边缘AI的实现原理是将人工智能算法和模型部署到靠近数据源的边缘设备上,使这些设备能够在本地进行数据处理、分析和决策,而无需将数据传输到远程的云端
    的头像 发表于 06-19 12:19 1070次阅读
    边缘<b class='flag-5'>AI</b>实现的核心环节:硬件选择和模型<b class='flag-5'>部署</b>

    物联网天线如何影响智能家居发展

    智能家居解决方案正逐步融入几乎所有家用电子设备。智能扬声器、智能照明、智能恒温器和集线器是智能家居的早期产品,而如今,我们看到所有主要电器都
    的头像 发表于 06-12 10:16 1145次阅读

    边缘AI实现的核心环节:硬件选择和模型部署

    电子发烧友网综合报道 边缘AI的实现原理是将人工智能算法和模型部署到靠近数据源的边缘设备上,使这些设备能够在本地进行数据处理、分析和决策,而无需将数据传输到远程的
    发表于 05-26 07:09 1309次阅读

    Matter 智能家居的通用语言

    Matter由连接标准联盟(CSA)创建,旨在解决智能家居的互操作性问题。Matter 基于简单性、互操作性、可靠性和安全性四大核心原则 。 是采用基于 IP 应用层的开源协议,本质上是一种“通用
    发表于 05-19 15:35

    明远智睿SSD2351开发板:智能家居智能核心

    可以存储智能家居系统的相关数据,如用户的操作记录、设备的运行状态等;以太网和WIFI接口则保证设备之间的稳定通信,实现远程控制和数据传输。例如,用户可以通过手机APP远程控制家中的灯光开关、调节空调
    发表于 05-07 18:59

    智能家居Mesh组网方案:实现智能化生活的无缝连接NRF52832

    互联成为了一个迫切的问题。 为了解决这一问题,迅通科技研发了智能家居 Mesh 组网方案,为传统智能家居产品商提供智能化解决方案,以实现全屋智能家
    发表于 04-15 14:07

    智能家居项目设计

    智能家居,内涵多个模块,板子电路和PCB设计
    发表于 03-14 17:54 6次下载

    AI Agent 应用与项目实战》阅读心得3——RAG架构与部署本地知识库

    技术不仅解决LLM的知识更新问题,更为构建专业领域的智能问答系统提供完整的技术方案。通过与向量数据库的深度集成,RAG实现知识的动态扩展和精准检索,这种架构设计为
    发表于 03-07 19:49

    智能家居迎来AI场景化,AI芯片加速迭代

    电子发烧友网报道(文/莫婷婷)随着物联网(IoT)、人工智能(AI)、机器学习、大数据分析等技术的进步,智能家居设备变得更加智能,交互能力更加丰富。高通认为,2025年是“
    的头像 发表于 01-23 00:10 6094次阅读

    AI+智能家居”碰撞能擦出什么火花,以问答式AI智能体套件为例

    问答式AI智能体套件与智能家居融合,催生交互方式、用户体验、应用场景三大革新
    的头像 发表于 01-21 17:06 829次阅读
    “<b class='flag-5'>AI</b>+<b class='flag-5'>智能家居</b>”碰撞能擦出什么火花,以问答式<b class='flag-5'>AI</b><b class='flag-5'>智能</b>体套件为例

    AI赋能,智能家居芯片面临哪些机遇?

    。 本次展会,三星电子、TCL等全球头部厂商,以及海信、长虹、联想、小鹏汇天等国内头部科技企业纷纷带来了最新的产品成果。共性来看,如今AI正在深度融入如今的智能家居产品。 图源:“TCL官方服务”公众号 从CES 2025中,我们可以洞察出
    的头像 发表于 01-21 14:37 871次阅读
    <b class='flag-5'>AI</b>赋能,<b class='flag-5'>智能家居</b>芯片面临哪些机遇?