0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

开源鸿蒙构建全栈AI端侧能力体系

OpenAtom OpenHarmony 来源:OpenAtom OpenHarmony 2025-06-12 14:39 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

当前,AI技术正加速向终端融合,带来交互方式革新、智能体验升级与数据本地化保障等重大机遇,推动AI手机、AI PC(人工智能个人计算机)、机器人等新形态终端快速涌现。然而,AI入端仍面临算力受限、隐私安全、响应稳定性不足及高成本低效率等挑战。端侧操作系统作为连接物理设备与云端服务的枢纽,具备轻量化、实时性、低功耗、安全性高等优势,成为AI与终端融合的核心载体,在推动AI终端的规模化普及上起到至关重要的作用。因此,推动端侧操作系统与AI的融合,将成为实现泛在智能的重要路径。

在“端侧操作系统+AI”浪潮下,作为面向万物互联时代的智能终端操作系统根社区,开源鸿蒙正加速打造自身的AI原生能力,以“AI原生操作系统”为目标,构建了涵盖中小模型部署、大语言模型融合、芯片适配与模型加速、智能体理解与应用的全栈AI端侧能力体系,并持续推动与终端的融合,已有诸多典型应用场景落地,力图在这一浪潮中占据一席之地,构建真正高效、可控、普惠的AI智能终端技术底座。

构建全栈AI端侧能力体系,打造AI智能终端技术底座

在中小模型方面,开源鸿蒙通过MindSpore Lite Kit支持ASR、TTS、CV等多类模型推理,打通PyTorch、ONNX等模型转换流程,辅以NNRT统一算力抽象,适配CPUGPU、NPU等异构计算硬件,实现跨芯片部署与高性能运行。在TTS方向,开源鸿蒙已支持Fastspeech2、MelGAN等模型的端侧压缩与本地语音合成。在CV领域,YoloV5等模型已在端侧通过图像缩放、量化和C++优化实现完整推理链路。

在大模型探索领域,开源鸿蒙与生态伙伴联合创新取得了不俗进展。例如,深思考基于开源鸿蒙成功适配了TinyDongni和DeepSeek R1大模型,使用自研Dongni-AMDC(自适应多维压缩)算法对模型权重和输入统一量化压缩,大幅降低内存占用并提升推理速度,同时结合本地编译优化、多芯片协同并行推理、NPU加速、内存按需加载等技术,在保证大模型一定多模态理解能力的同时,将模型体积和运行开销压缩到手机等设备可承受的范围,让复杂多模态大模型在端侧设备上的落地成为可能。开鸿智谷在其基于开源鸿蒙开发的“在鸿OS 人工智能实验箱”产品上也成功支持了DeepSeek模型的本地部署,支持多轮对话、语音输入、联网搜索等功能。

在芯片适配与算力支持方面,开源鸿蒙已成功适配P7885、RK3576,并在探索昇腾310 B/P、RK3588等AI芯片的适配方案,构建了覆盖CPU、GPU、NPU的异构推理体系。通过引入MindSpore Lite、NNRT和AI插件引擎,实现模型与芯片的快速适配与高效运行,支持多模态AI任务如图像识别、语音交互和大模型本地推理。

为加速AI端侧能力的构建,开源鸿蒙还成立了AI Model SIG,旨在通过汇聚大中小模型资源,构建端到端应用范例,降低AI能力向端侧落地的技术门槛。包括开鸿智谷、华为、润开鸿、深开鸿、中科鸿略、汇思博、佳都科技、视美泰等成员单位共同参与,推动开源鸿蒙AI能力的共建。

在模型部署到系统以后,如何将这些模型真正用起来、能够开发出解决用户真正问题的Agent,也成为开源鸿蒙重点思考的问题。

目前,开源鸿蒙正联合头部高校加速构建面向智能终端的原生Agent体系,推动操作系统从被动响应走向智能理解与主动服务。上海交通大学通过引入“经验驱动”的Record & Replay范式,让Agent可记录用户行为并复用经验,实现如点外卖、发邮件等复杂任务的自动化执行。同时,该范式支持在本地端侧运行智能体,保障数据隐私与响应效率,已适配如SmallThinker与PowerInfer等推理系统和模型,具备快速推理与任务规划能力,可在手机、PC等终端流畅运行和推理。

在开源鸿蒙开发者大会2025上,开源鸿蒙社区还启动了“AI Agent技术共建”,并发起AI Agent TSG(技术专家组)筹备,围绕“全新交互范式、多Agent框架、跨平台协议、安全可信基座”四大方向,汇聚产学研力量推动Agent技术标准化与产业化共建。

应用场景加速落地,助推AI终端规模化普及

要成为真正有影响力的AI原生操作系统平台,光有技术还远远不够,还需要繁荣的生态和实际落地的应用场景。目前开源鸿蒙正加速将自身AI能力体系赋能硬件,并落地了一系列AI终端产品,涵盖AI机器人、AI PC、AI试验箱等,助推AI终端的规模化普及。

在AI机器人层面,开源鸿蒙计划筹建机器人PMC,致力于构建一套完整的全栈式的机器人系统能力,包括统一的内核平台、多模态交互框架、中间件支持(如DORA/ROS2)、分布式通信机制,以及具身智能的软总线互联,构建适配不同形态机器人的全场景架构。

在机器人落地应用上,已有多家共建单位依托开源鸿蒙操作系统打造出面向各大应用场景的机器人产品和解决方案。在科教实训领域,上海交通大学与曦胧科技、鸿湖万联打造的基于开源鸿蒙的机器人已进入多所科研单位与高校,推动跨学科融合与原型验证。在工业领域,深开鸿基于开源鸿蒙的分布式异构多机协同机器人操作系统发行版 M-Robots OS已在工业机械臂、协作机器人等场景完成验证。M-Robots OS单芯多内核混合部署的特性,既支持丰富人机交互,又能保证响应的硬实时(中断延迟 ≤ 1us,任务切换 ≤ 1us),可满足机器人、无人机工业控制自动驾驶等场景需求。此外,深开鸿还基于ROS实现了一套自主导航、目标识别、物体抓取的AGV机器人的参考设计,并在四足机器人、机械小车等开发者机器人上实现了部署,在智能制造与工业自动化、教育科研、智慧城市与公共服务、医疗康养与家庭服务等领域发挥关键作用。

在AI PC产品领域,华为于近期发布鸿蒙电脑,搭载基于开源鸿蒙的HarmonyOS 5,内置全新小艺AI助手。通过强大的系统级AI能力,小艺在鸿蒙电脑上成为无处不在的系统级智能助理,带来了全新交互、高效办公、知识空间、设备操控等AI智慧体验。此外,深开鸿的开鸿BotBook笔记本电脑于近期发布,搭载基于开源鸿蒙的桌面操作系统——KaihongOS,集成AI OS框架及AI Agent智能体,提供行业智能支持;还内置了基于KaihongOS原生AI智能助理,支持一键唤醒,可提供知识问答、文档总结、售后服务问答等精准服务。

此外,开鸿智谷基于开源鸿蒙开发的“在鸿OS 人工智能实验箱”实践平台已在人才培养领域实现应用,其支持参数规模3.5B的DeepSeek模型的本地部署与多轮对话,具备语音输入、联网搜索等能力,广泛应用于AI对话、执行控制等典型场景,打造出涵盖语音交互、视觉识别、自然语言处理的综合应用链条。

开源鸿蒙正以全栈化的AI能力和多样化的终端应用,推动“端侧操作系统+AI”从理念走向实践,赋能产业智能化转型升级。未来,开源鸿蒙将继续深化技术突破与生态共建,携手开发者与产业伙伴,共同探索AI原生操作系统的发展,共赴万物智联时代。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 操作系统
    +关注

    关注

    37

    文章

    7437

    浏览量

    129621
  • AI
    AI
    +关注

    关注

    91

    文章

    41138

    浏览量

    302608
  • 智能终端
    +关注

    关注

    6

    文章

    1037

    浏览量

    36591
  • 鸿蒙
    +关注

    关注

    60

    文章

    3019

    浏览量

    46178

原文标题:“端侧操作系统+AI”浪潮来临,开源鸿蒙加速布局AI全栈能力体系

文章出处:【微信号:gh_e4f28cfa3159,微信公众号:OpenAtom OpenHarmony】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    深开鸿赋能!开源鸿蒙/RISC-V大赛晋级培训圆满收官

    +线下”的全方位实战培训,旨在打破底层技术壁垒,加速“开源鸿蒙+RISC-V”创新作品的商业落地。“软硬协同,技术底座倾囊相授本次培训体系
    的头像 发表于 04-26 08:09 20次阅读
    深开鸿<b class='flag-5'>全</b><b class='flag-5'>栈</b>赋能!<b class='flag-5'>开源</b><b class='flag-5'>鸿蒙</b>/RISC-V大赛晋级培训圆满收官

    Vibe Coding AI开发实战

    Vibe Coding AI:效率翻倍的开发新方式 在科技飞速发展的当下,软件开发领域正经历着一场深刻的变革。传统的编程模式逐渐被一种新兴的、以AI为核心的
    发表于 04-15 16:02

    德明利亮相CFMS 2026,AI+存储解方案拓展智能场景应用边界

    2026年3月27日,MemoryS 2026峰会在深圳圆满落幕。本届峰会汇聚全球存储产业链的核心厂商,德明利围绕“AI+存储解决方案”,以面向AI负载优化的底层技术
    的头像 发表于 04-03 17:42 1420次阅读
    德明利亮相CFMS 2026,<b class='flag-5'>全</b><b class='flag-5'>栈</b><b class='flag-5'>AI</b>+存储解方案拓展智能场景应用边界

    软通动力基于OpenClaw开源框架深度自研智能体平台

    为核心能力,原生搭载软通天机OS,构建起“OpenClaw生态+智能+天机OS+终端硬件”一体化的
    的头像 发表于 02-27 11:48 878次阅读

    借助谷歌LiteRT构建下一代高性能AI

    自 2024 年 LiteRT 问世以来,我们一直致力于将机器学习技术从其 TensorFlow Lite (TFLite) 基础之上演进为一个现代化的 AI (On-Devic
    的头像 发表于 01-30 11:23 3247次阅读
    借助谷歌LiteRT<b class='flag-5'>构建</b>下一代高性能<b class='flag-5'>端</b><b class='flag-5'>侧</b><b class='flag-5'>AI</b>

    Arm 2026年展望:构建云边能力 驱动AI无处不在

    2025 年半导体市场在AI需求爆发与产业链复苏的双重推动下,呈现出强劲的增长态势。以EDA/IP先进方法学、先进工艺、算力芯片、AI
    的头像 发表于 01-08 11:02 1w次阅读
    Arm 2026年展望:<b class='flag-5'>构建</b>云边<b class='flag-5'>端</b><b class='flag-5'>全</b><b class='flag-5'>栈</b><b class='flag-5'>能力</b> 驱动<b class='flag-5'>AI</b>无处不在

    AI为先,芯动未来 | 开源鸿蒙城市技术沙龙·长沙站在拓维信息圆满举办

    城市技术沙龙·长沙站圆满举办。活动旨在汇聚AI技术动能和行业应用智慧,共同推动人工智能与开源鸿蒙生态的深度融合,打通“芯片-框架-应用”
    的头像 发表于 12-26 17:50 1786次阅读
    <b class='flag-5'>AI</b>为先,芯动未来 | <b class='flag-5'>开源</b><b class='flag-5'>鸿蒙</b>城市技术沙龙·长沙站在拓维信息圆满举办

    支付宝FluidMarkdown鸿蒙版正式开源

    ,FluidMarkdown 鸿蒙版不仅显著提升了鸿蒙 AI 应用的文本渲染体验,也为开发者带来了更便捷、更流畅、高度可定制的开发能力,助力构建
    的头像 发表于 12-26 13:42 791次阅读

    AI为先,芯动未来|开鸿智谷助力开源鸿蒙城市技术沙龙·长沙站圆满落幕

    12月25日,为推动人工智能与开源鸿蒙生态的深度融合,打通“芯片-框架-应用”的产业技术链路,一场汇聚产业智慧的技术盛会今日成功举行。
    的头像 发表于 12-25 19:13 688次阅读
    <b class='flag-5'>AI</b>为先,芯动未来|开鸿智谷助力<b class='flag-5'>开源</b><b class='flag-5'>鸿蒙</b>城市技术沙龙·长沙站圆满落幕

    聚焦AI:看美格智能能力如何支撑AI产业六大趋势

    当前阶段,AI技术的竞争已从模型的“宏大叙事”转向落地应用的“精耕细作”。当行业焦点回归现实效能,一个共识愈发清晰:计算的未来,正从云端向万物互联的边缘AI急速扩散。1、轻量化革命
    的头像 发表于 10-29 16:09 1376次阅读
    聚焦<b class='flag-5'>端</b><b class='flag-5'>侧</b><b class='flag-5'>AI</b>:看美格智能<b class='flag-5'>全</b><b class='flag-5'>栈</b><b class='flag-5'>能力</b>如何支撑<b class='flag-5'>AI</b>产业六大趋势

    深化AI鸿蒙星闪技术布局,开鸿智谷助力谱写鸿蒙生态新篇章

    9月25日,备受业界瞩目的开源鸿蒙星闪论坛与AI论坛在上海顺利举办。作为开源
    的头像 发表于 09-30 17:38 3575次阅读
    深化<b class='flag-5'>端</b><b class='flag-5'>侧</b><b class='flag-5'>AI</b>与<b class='flag-5'>鸿蒙</b>星闪技术布局,开鸿智谷助力谱写<b class='flag-5'>鸿蒙</b>生态新篇章

    基于Vulkan的AI运算

    本期内容由AI Model SIG提供,介绍了在开源鸿蒙中,利用图形接口Vulkan的计算着色器能力,在侧部署大模型的的整体思路和实践分享
    的头像 发表于 09-10 17:19 1683次阅读
    基于Vulkan的<b class='flag-5'>端</b><b class='flag-5'>侧</b><b class='flag-5'>AI</b>运算

    AI应用创新与技术融合分论坛即将召开

    2025开放原子开源生态大会即将启幕,其中 “AI应用创新与技术融合分论坛”将于 7月24日重磅亮相。论坛聚焦人工智能技术与开源生态的深
    的头像 发表于 07-23 09:54 1104次阅读

    开源鸿蒙开发者大会2025·AI分论坛圆满闭幕,探索开源鸿蒙AI无限可能

    多个方面,分享交流了AI相关的理论研究和实践经验,探讨了“开源鸿蒙+AI”面临的机会与挑战,
    的头像 发表于 05-26 18:06 1866次阅读
    <b class='flag-5'>开源</b><b class='flag-5'>鸿蒙</b>开发者大会2025·<b class='flag-5'>AI</b>分论坛圆满闭幕,探索<b class='flag-5'>开源</b><b class='flag-5'>鸿蒙</b><b class='flag-5'>AI</b>无限可能

    开源鸿蒙开发新体验,开鸿Bot系列今日开启预售!

    操作系统,实现从国产高性能芯片到操作系统的自主化,构建起一站式的开源鸿蒙学习与开发平台。 融合开发与办公场景,打造
    发表于 05-16 14:13