0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

开源鸿蒙构建全栈AI端侧能力体系

OpenAtom OpenHarmony 来源:OpenAtom OpenHarmony 2025-06-12 14:39 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

当前,AI技术正加速向终端融合,带来交互方式革新、智能体验升级与数据本地化保障等重大机遇,推动AI手机、AI PC(人工智能个人计算机)、机器人等新形态终端快速涌现。然而,AI入端仍面临算力受限、隐私安全、响应稳定性不足及高成本低效率等挑战。端侧操作系统作为连接物理设备与云端服务的枢纽,具备轻量化、实时性、低功耗、安全性高等优势,成为AI与终端融合的核心载体,在推动AI终端的规模化普及上起到至关重要的作用。因此,推动端侧操作系统与AI的融合,将成为实现泛在智能的重要路径。

在“端侧操作系统+AI”浪潮下,作为面向万物互联时代的智能终端操作系统根社区,开源鸿蒙正加速打造自身的AI原生能力,以“AI原生操作系统”为目标,构建了涵盖中小模型部署、大语言模型融合、芯片适配与模型加速、智能体理解与应用的全栈AI端侧能力体系,并持续推动与终端的融合,已有诸多典型应用场景落地,力图在这一浪潮中占据一席之地,构建真正高效、可控、普惠的AI智能终端技术底座。

构建全栈AI端侧能力体系,打造AI智能终端技术底座

在中小模型方面,开源鸿蒙通过MindSpore Lite Kit支持ASR、TTS、CV等多类模型推理,打通PyTorch、ONNX等模型转换流程,辅以NNRT统一算力抽象,适配CPUGPU、NPU等异构计算硬件,实现跨芯片部署与高性能运行。在TTS方向,开源鸿蒙已支持Fastspeech2、MelGAN等模型的端侧压缩与本地语音合成。在CV领域,YoloV5等模型已在端侧通过图像缩放、量化和C++优化实现完整推理链路。

在大模型探索领域,开源鸿蒙与生态伙伴联合创新取得了不俗进展。例如,深思考基于开源鸿蒙成功适配了TinyDongni和DeepSeek R1大模型,使用自研Dongni-AMDC(自适应多维压缩)算法对模型权重和输入统一量化压缩,大幅降低内存占用并提升推理速度,同时结合本地编译优化、多芯片协同并行推理、NPU加速、内存按需加载等技术,在保证大模型一定多模态理解能力的同时,将模型体积和运行开销压缩到手机等设备可承受的范围,让复杂多模态大模型在端侧设备上的落地成为可能。开鸿智谷在其基于开源鸿蒙开发的“在鸿OS 人工智能实验箱”产品上也成功支持了DeepSeek模型的本地部署,支持多轮对话、语音输入、联网搜索等功能。

在芯片适配与算力支持方面,开源鸿蒙已成功适配P7885、RK3576,并在探索昇腾310 B/P、RK3588等AI芯片的适配方案,构建了覆盖CPU、GPU、NPU的异构推理体系。通过引入MindSpore Lite、NNRT和AI插件引擎,实现模型与芯片的快速适配与高效运行,支持多模态AI任务如图像识别、语音交互和大模型本地推理。

为加速AI端侧能力的构建,开源鸿蒙还成立了AI Model SIG,旨在通过汇聚大中小模型资源,构建端到端应用范例,降低AI能力向端侧落地的技术门槛。包括开鸿智谷、华为、润开鸿、深开鸿、中科鸿略、汇思博、佳都科技、视美泰等成员单位共同参与,推动开源鸿蒙AI能力的共建。

在模型部署到系统以后,如何将这些模型真正用起来、能够开发出解决用户真正问题的Agent,也成为开源鸿蒙重点思考的问题。

目前,开源鸿蒙正联合头部高校加速构建面向智能终端的原生Agent体系,推动操作系统从被动响应走向智能理解与主动服务。上海交通大学通过引入“经验驱动”的Record & Replay范式,让Agent可记录用户行为并复用经验,实现如点外卖、发邮件等复杂任务的自动化执行。同时,该范式支持在本地端侧运行智能体,保障数据隐私与响应效率,已适配如SmallThinker与PowerInfer等推理系统和模型,具备快速推理与任务规划能力,可在手机、PC等终端流畅运行和推理。

在开源鸿蒙开发者大会2025上,开源鸿蒙社区还启动了“AI Agent技术共建”,并发起AI Agent TSG(技术专家组)筹备,围绕“全新交互范式、多Agent框架、跨平台协议、安全可信基座”四大方向,汇聚产学研力量推动Agent技术标准化与产业化共建。

应用场景加速落地,助推AI终端规模化普及

要成为真正有影响力的AI原生操作系统平台,光有技术还远远不够,还需要繁荣的生态和实际落地的应用场景。目前开源鸿蒙正加速将自身AI能力体系赋能硬件,并落地了一系列AI终端产品,涵盖AI机器人、AI PC、AI试验箱等,助推AI终端的规模化普及。

在AI机器人层面,开源鸿蒙计划筹建机器人PMC,致力于构建一套完整的全栈式的机器人系统能力,包括统一的内核平台、多模态交互框架、中间件支持(如DORA/ROS2)、分布式通信机制,以及具身智能的软总线互联,构建适配不同形态机器人的全场景架构。

在机器人落地应用上,已有多家共建单位依托开源鸿蒙操作系统打造出面向各大应用场景的机器人产品和解决方案。在科教实训领域,上海交通大学与曦胧科技、鸿湖万联打造的基于开源鸿蒙的机器人已进入多所科研单位与高校,推动跨学科融合与原型验证。在工业领域,深开鸿基于开源鸿蒙的分布式异构多机协同机器人操作系统发行版 M-Robots OS已在工业机械臂、协作机器人等场景完成验证。M-Robots OS单芯多内核混合部署的特性,既支持丰富人机交互,又能保证响应的硬实时(中断延迟 ≤ 1us,任务切换 ≤ 1us),可满足机器人、无人机工业控制自动驾驶等场景需求。此外,深开鸿还基于ROS实现了一套自主导航、目标识别、物体抓取的AGV机器人的参考设计,并在四足机器人、机械小车等开发者机器人上实现了部署,在智能制造与工业自动化、教育科研、智慧城市与公共服务、医疗康养与家庭服务等领域发挥关键作用。

在AI PC产品领域,华为于近期发布鸿蒙电脑,搭载基于开源鸿蒙的HarmonyOS 5,内置全新小艺AI助手。通过强大的系统级AI能力,小艺在鸿蒙电脑上成为无处不在的系统级智能助理,带来了全新交互、高效办公、知识空间、设备操控等AI智慧体验。此外,深开鸿的开鸿BotBook笔记本电脑于近期发布,搭载基于开源鸿蒙的桌面操作系统——KaihongOS,集成AI OS框架及AI Agent智能体,提供行业智能支持;还内置了基于KaihongOS原生AI智能助理,支持一键唤醒,可提供知识问答、文档总结、售后服务问答等精准服务。

此外,开鸿智谷基于开源鸿蒙开发的“在鸿OS 人工智能实验箱”实践平台已在人才培养领域实现应用,其支持参数规模3.5B的DeepSeek模型的本地部署与多轮对话,具备语音输入、联网搜索等能力,广泛应用于AI对话、执行控制等典型场景,打造出涵盖语音交互、视觉识别、自然语言处理的综合应用链条。

开源鸿蒙正以全栈化的AI能力和多样化的终端应用,推动“端侧操作系统+AI”从理念走向实践,赋能产业智能化转型升级。未来,开源鸿蒙将继续深化技术突破与生态共建,携手开发者与产业伙伴,共同探索AI原生操作系统的发展,共赴万物智联时代。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 操作系统
    +关注

    关注

    37

    文章

    7329

    浏览量

    128661
  • AI
    AI
    +关注

    关注

    89

    文章

    38177

    浏览量

    296940
  • 智能终端
    +关注

    关注

    6

    文章

    991

    浏览量

    36390
  • 鸿蒙
    +关注

    关注

    60

    文章

    2863

    浏览量

    45367

原文标题:“端侧操作系统+AI”浪潮来临,开源鸿蒙加速布局AI全栈能力体系

文章出处:【微信号:gh_e4f28cfa3159,微信公众号:OpenAtom OpenHarmony】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    聚焦AI:看美格智能能力如何支撑AI产业六大趋势

    当前阶段,AI技术的竞争已从模型的“宏大叙事”转向落地应用的“精耕细作”。当行业焦点回归现实效能,一个共识愈发清晰:计算的未来,正从云端向万物互联的边缘AI急速扩散。1、轻量化革命
    的头像 发表于 10-29 16:09 840次阅读
    聚焦<b class='flag-5'>端</b><b class='flag-5'>侧</b><b class='flag-5'>AI</b>:看美格智能<b class='flag-5'>全</b><b class='flag-5'>栈</b><b class='flag-5'>能力</b>如何支撑<b class='flag-5'>AI</b>产业六大趋势

    深化AI鸿蒙星闪技术布局,开鸿智谷助力谱写鸿蒙生态新篇章

    9月25日,备受业界瞩目的开源鸿蒙星闪论坛与AI论坛在上海顺利举办。作为开源
    的头像 发表于 09-30 17:38 3095次阅读
    深化<b class='flag-5'>端</b><b class='flag-5'>侧</b><b class='flag-5'>AI</b>与<b class='flag-5'>鸿蒙</b>星闪技术布局,开鸿智谷助力谱写<b class='flag-5'>鸿蒙</b>生态新篇章

    此芯科技发布“合一”AI加速计划,赋能边缘与AI创新

    此芯科技正式发布“合一”AI加速计划,旨在为边缘计算和AI场景提供高能效的算力解决方案。
    的头像 发表于 09-15 11:53 2011次阅读
    此芯科技发布“合一”<b class='flag-5'>AI</b>加速计划,赋能边缘与<b class='flag-5'>端</b><b class='flag-5'>侧</b><b class='flag-5'>AI</b>创新

    基于Vulkan的AI运算

    本期内容由AI Model SIG提供,介绍了在开源鸿蒙中,利用图形接口Vulkan的计算着色器能力,在侧部署大模型的的整体思路和实践分享
    的头像 发表于 09-10 17:19 965次阅读
    基于Vulkan的<b class='flag-5'>端</b><b class='flag-5'>侧</b><b class='flag-5'>AI</b>运算

    开源鸿蒙人才培养赋能课程共建正式启动

    近日,2025开放原子开源生态大会开源鸿蒙主题演讲在北京国家会议中心隆重举办。会上,开源鸿蒙人才培养赋能课程共建正式启动,该项目旨在推动
    的头像 发表于 07-28 17:44 680次阅读

    开源鸿蒙AI Agent TSG正式成立

    近日,2025开放原子开源生态大会开源鸿蒙主题演讲在北京国家会议中心隆重举办,全面展现了“Powered by OpenHarmony”的生态进展、技术创新、人才体系建设和产业落地实践
    的头像 发表于 07-28 17:38 734次阅读

    AI应用创新与技术融合分论坛即将召开

    2025开放原子开源生态大会即将启幕,其中 “AI应用创新与技术融合分论坛”将于 7月24日重磅亮相。论坛聚焦人工智能技术与开源生态的深
    的头像 发表于 07-23 09:54 722次阅读

    开源鸿蒙开发者大会2025·AI分论坛圆满闭幕,探索开源鸿蒙AI无限可能

    多个方面,分享交流了AI相关的理论研究和实践经验,探讨了“开源鸿蒙+AI”面临的机会与挑战,
    的头像 发表于 05-26 18:06 1384次阅读
    <b class='flag-5'>开源</b><b class='flag-5'>鸿蒙</b>开发者大会2025·<b class='flag-5'>AI</b>分论坛圆满闭幕,探索<b class='flag-5'>开源</b><b class='flag-5'>鸿蒙</b><b class='flag-5'>AI</b>无限可能

    开源鸿蒙开发新体验,开鸿Bot系列今日开启预售!

    操作系统,实现从国产高性能芯片到操作系统的自主化,构建起一站式的开源鸿蒙学习与开发平台。 融合开发与办公场景,打造
    发表于 05-16 14:13

    大象机器人携手进迭时空推出 RISC-V 开源六轴机械臂产品

    全球80多个国家和地区。 近日,大象机器人联合进迭时空推出全球首款RISC-V开源六轴机器臂“myCobot 280 RISC-V”,为开发者打造全新的机器人开源创新平台。 “my
    发表于 04-25 17:59

    首创开源架构,天玑AI开发套件让AI模型接入得心应手

    AI巨头强强联手,势必为智能体化AI体验时代按下超级加速键。 AI终端的下一步是“普适智能”,而不是“极限性能”。联发科凭借天玑9400+强悍的
    发表于 04-13 19:52

    中软国际2024年度业绩营收169.51亿:持续投资云边AI AI业务收入初具规模

    %。报告期内,公司实现经调整溢利6.50亿元,年度溢利5.11亿元,拟每股派发股息5.33港仙。 公司首次披露AI产品及服务业务,其内涵包括从算力基础设施运营、数据治理、模型训练、推理部署、
    的头像 发表于 03-31 10:15 1340次阅读

    芯讯通首次发布全新AI解决方案SIMCom AI Stack

    近日,世界移动通信大会MWC 2025在西班牙巴塞罗那正式开幕。芯讯通携5G-A、AIoT、5G RedCap等众多前沿领域的创新成果惊艳亮相,并首次发布全新AI
    的头像 发表于 03-08 09:56 1053次阅读

    MWC 2025 | 广和通发布矩阵AI解决方案“星云”系列,创新变革AI

    3月3日,在2025世界移动通信大会(MWC Barcelona 2025)期间,广和通覆盖1T~50T的矩阵AI模组及解决方案——“星云”系列全面亮相,其内置广和通自研的Fibocom AI Stack,以
    的头像 发表于 03-03 18:14 1000次阅读
    MWC 2025 | 广和通发布<b class='flag-5'>全</b>矩阵<b class='flag-5'>AI</b>解决方案“星云”系列,创新变革<b class='flag-5'>端</b><b class='flag-5'>侧</b><b class='flag-5'>AI</b>

    广和通开启AI新时代

    AI发展正酣,随着终端芯片算力越来越高、模型能力越来越强、实时响应及隐私保护的应用需求增
    的头像 发表于 12-12 10:35 1297次阅读