0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

润和软件推出全场景云-边-端智能生态体系

润和软件 来源:润和软件 2025-02-13 10:31 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

目前,数字化与智能化的深度融合正重塑千行万业的竞争格局。江苏润和软件股份有限公司(以下简称“润和软件”)以昇腾AI算力为引擎、openEuler开源系统为基石、OpenHarmony全场景连接为脉络,结合DeepSeek行业大模型,正式推出覆盖云-边-端的智能生态体系,实现了“云端智能决策、边缘实时响应、终端无缝交互”的全链协同,通过开源技术与自主创新能力的深度耦合,开启“软硬一体、生态无界”的新范式。

AI时代中,企业不仅需要前瞻性的技术布局,更需破解“算力成本高、端侧部署困难、场景碎片化”的核心痛点,润和软件以全栈自主可控为根基,以软硬协同、场景驱动、生态开放为支点,实现5大技术突破,为企业构筑从模型开发到落地部署的“零摩擦”智能升级路径。

云边协同智能

通过“昇腾910芯片+openEuler开源操作系统+DeepSeek模型”,润和软件打造了云端训练平台,实现大规模数据并行处理与高精度模型优化;依托“昇腾310芯片+OpenHarmony开源操作系统+DeepSeek模型”构建了边端推理系统,实现实时低延时智能推理。二者协同融合,形成了从云端训练到边端推理的全链路闭环系统,为行业提供了全场景、高效、稳定的智能计算解决方案。

云端:润和软件基于openEuler开源操作系统发行的HopeOS AI版本,实现了昇腾910芯片与操作系统内核的无损兼容,基于HopeOS AI版的NUMA亲和性调度以及容器化编排,可以支持多卡集群分布式训练。

边端:在昇腾310芯片上,润和软件基于OpenHarmony开源操作系统的分布式软总线、统一数据管理能力与DeepSeek轻量化模型相结合,支持边缘设备间低时延通信与协同推理。

17c78716-e9a3-11ef-9310-92fbcf53809c.png

云边协同训练推理示意图

统一推理引擎hoperun_llm,南北向兼容

南向:通过硬件抽象层(HAL)适配多类芯片(昇腾910、昇腾310、RKNPU等),屏蔽底层差异,实现“一次开发,多端部署”。

北向:支持PyTorch、TensorFlow、MindSpore等主流框架模型格式转换,涵盖各类开源模型(DeepSeek、Qwen、ChatGLM等),提供统一API接口,同时保证在各操作系统上的稳定运行,降低开发者多模型适配成本,定制轻量化AI运行时。

17e14782-e9a3-11ef-9310-92fbcf53809c.png

hoperun_llm引擎在OpenHarmony上推理DeepSeek 1.5B大模型

量化过程中的质量评估,保证量化精度

量化技术不仅大幅降低了模型的存储和计算开销,使其更适合部署在资源受限的边端设备上,同时通过严格的量化精度保证,使模型在高效运行时保持准确的推理能力和稳定的应用效果。

分层动态量化:针对大模型不同层级的敏感性差异(如Attention层对量化误差容忍度低),采用混合精度策略——关键层保留FP16精度,非关键层压缩至INT8/INT4甚至更低,兼顾精度与压缩率。

量化质量评估:引入感知量化损失评估,在模型压缩过程中实时监测输出偏差,评估精度损失对模型性能的影响。结合行业场景的阈值要求,动态调整量化参数,优化模型在边端设备上的精度与效率平衡。

17f6c300-e9a3-11ef-9310-92fbcf53809c.png

原生DeepSeek和1.58bit量化版本了在部分数据集上的评测对比

能效感知的软硬协同全域调优技术

润和软件充分发挥在AI方向上的能力优势,通过硬件加速与软件优化能力,全方位性能提升芯片及操作系统性能。

硬件加速优化:针对昇腾、瑞芯微等边端芯片特性,定制算子加速库加速算法执行,根据训练推理负载实时调整芯片的电压与频率。

软件加速优化:进一步加强AI场景下的openEuler、OpenHarmony开源操作系统的深度调优。

软硬协同:基于润和软件在openEuler和OpenHarmony开源操作系统上定制的性能分析工具,以及强化学习算法,自动搜索芯片频率、内存带宽、任务并行度的最优组合。

18104f5a-e9a3-11ef-9310-92fbcf53809c.png

DeepSeek1.5B大模型在RK3588上推理

行业模型微调使能

润和软件基于DeepSeek大模型,深度融合行业know-how与全栈AI技术实现从通用智能到行业专属智能的精准跃迁。

行业数据定制化:针对不同行业的特定需求,润和软件对各行业的特有数据进行深度分析和定制化处理,确保模型深入学习行业特征,提升模型在行业应用中的准确性和鲁棒性。

领域知识嵌入:结合行业专家的知识与经验,润和软件通过“知识蒸馏”技术,将领域知识嵌入模型中,帮助模型快速学习行业规则,减少训练数据需求,提高模型对行业需求的适应性。

任务特化微调:针对垂直行业的具体任务,润和软件在DeepSeek的基础上进行微调,优化模型的结构与算法,确保模型在行业应用中具有更高的准确度和推理速度。

18222072-e9a3-11ef-9310-92fbcf53809c.png

183a33d8-e9a3-11ef-9310-92fbcf53809c.png

经过数据监督微调后,模型在边端设备部署后的能力增强

未来,润和软件将以客户需求为指引,持续优化AI软硬件协同能力,深化与DeepSeek系列模型的融合,面向千行万业提供定制化智能决策与全场景数据洞察服务,提升企业竞争力,共同迈向数智未来。

江苏润和软件股份有限公司(简称“润和软件”)成立于2006年,2012年在深圳证券交易所创业板上市(证券代码:300339),是国家重点规划布局内的大型软件企业。公司总部位于南京,在北京、上海、深圳、香港等22个国内主要城市设有研发中心或分子公司,在日本、美国、新加坡等国设有海外分支机构,全球员工约13000人,拥有全球化的技术整合、客户响应与服务到达能力。

秉承“做民族软件脊梁,担世界进步责任”的使命,润和软件致力成为“中国数智科技与服务创新的引领者”,通过国产化、数字化、智能化创新技术,软硬件一体化解决方案能力及全生命周期软件服务体系,激活行业新动能、发展新质生产力,助力广大客户数字化转型和智能化升级。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 昇腾
    +关注

    关注

    1

    文章

    175

    浏览量

    7298
  • 润和软件
    +关注

    关注

    1

    文章

    375

    浏览量

    1955
  • DeepSeek
    +关注

    关注

    2

    文章

    824

    浏览量

    2822

原文标题:润和软件构建基于“昇腾+openEuler+OpenHarmony+DeepSeek”的全场景云-边-端智能生态体系

文章出处:【微信号:hoperun300339,微信公众号:润和软件】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    软件中标某农商行AI服务器搭建及多场景智能应用项目

    近日,江苏软件股份有限公司(以下简称“软件”)凭借在AI领域深厚积淀、卓越工程能力及对金融数智化趋势的精准把握,中标某农商行AI服务器搭建及多
    的头像 发表于 11-26 15:15 235次阅读
    <b class='flag-5'>润</b>和<b class='flag-5'>软件</b>中标某农商行AI服务器搭建及多<b class='flag-5'>场景</b><b class='flag-5'>智能</b>应用项目

    软件绘就云统一操作系统新蓝图

    “openEuler”)社区,协同江苏软件股份有限公司(以下简称“软件”)等数十家产业伙伴共同举办。作为社区核心共建者,
    的头像 发表于 11-20 09:42 239次阅读
    <b class='flag-5'>润</b>和<b class='flag-5'>软件</b>绘就云<b class='flag-5'>边</b><b class='flag-5'>端</b>统一操作系统新蓝图

    康谋 aiSim 携经纬恒焕新 HIL 测试,诚邀集成商共建生态

    智能驾驶从“模块化”迈向“”的技术浪潮中,高保真、全链路的仿真测试已成为行业刚需。康谋科技推出的aiSim
    的头像 发表于 10-28 17:32 245次阅读
    康谋 aiSim 携经纬恒<b class='flag-5'>润</b>焕新 HIL 测试,诚邀集成商共建<b class='flag-5'>生态</b>!

    软件发布基于开源欧拉的云一体化智能物联解决方案

    9月18日至20日,以“跃升行业智能化”为主题的华为全联接大会2025于上海盛大举办。江苏软件股份有限公司(以下简称“软件”)作为面
    的头像 发表于 09-22 14:08 1165次阅读
    <b class='flag-5'>润</b>和<b class='flag-5'>软件</b>发布基于开源欧拉的云<b class='flag-5'>边</b><b class='flag-5'>端</b>一体化<b class='flag-5'>智能</b>物联解决方案

    软件开鸿出席鸿蒙生态大会2025

    )理事单位及鸿蒙生态核心伙伴,江苏软件股份有限公司(以下简称“软件”)及旗下子公司江苏
    的头像 发表于 09-06 19:14 2434次阅读

    全球智慧物联网联盟到访软件开鸿

    副总裁丽娜、海荷事业部总监邵奎、开鸿产业发展部总经理张茜、生态拓展总监陈文萱出席接待,双方围绕鸿蒙生态推广、智能物联技术赋能行业数智化创新以及联盟的运营和治理等议题开展交流。
    的头像 发表于 08-27 09:10 1247次阅读

    软件入选2025 IDC中国金融行业技术应用场景创新案例

    近日,2025IDC中国金融行业技术应用场景创新案例(FIIA)获奖名单正式公布。南京银行股份有限公司(简称“南京银行”)与江苏软件股份有限公司(以下简称“
    的头像 发表于 08-26 18:16 2317次阅读

    软件成为南京人工智能生态街区首批联盟成员

    近日,“AI·镜界——南京人工智能生态街区”发布活动在南京市雨花台区盛大举办,旨在打造AI与软件产业深度融合先行区、垂类应用创新示范区和数智跃迁新引擎。作为面向行业的专业数智科技服务商,江苏
    的头像 发表于 08-07 17:58 1292次阅读

    存算一体技术加持!后摩智能 160TOPS 大模型AI芯片正式发布

    ,同步推出力擎™系列M.2卡、力谋®系列加速卡及计算盒子等硬件组合,形成覆盖移动终端与边缘场景的完整产品矩阵。这一系列动作标志着后摩智能在存算一体技术领域的突破性进展,更预示着
    的头像 发表于 07-30 07:57 7629次阅读
    存算一体技术加持!后摩<b class='flag-5'>智能</b> 160TOPS <b class='flag-5'>端</b><b class='flag-5'>边</b>大模型AI芯片正式发布

    软件发布鲲鹏+openGauss全栈智能体解决方案

    近日,江苏软件股份有限公司(以下简称“软件”)携手鲲鹏,于鲲鹏开发者创享日上海站共同发布“以鲲鹏算力为基座、深度协同openGauss开源数据库”的AgentRUNS全栈
    的头像 发表于 05-14 12:01 902次阅读

    开鸿产教融合生态大会成功召开

    日前,由全国智能物联行业产教融合共同体指导,江苏软件股份有限公司(以下简称“软件”)、江苏
    的头像 发表于 03-24 13:43 988次阅读

    软件荣获华为“生态星火燎原奖”

    近日,以“同行致远,聚势江来”为主题的华为江苏合作伙伴大会在南京成功举办。江苏软件股份有限公司(以下简称“软件”)作为华为生态
    的头像 发表于 03-24 11:48 820次阅读

    浪潮软件率先推出政务服务大模型,重塑全场景应用

    30年深耕和积累,率先推出政务服务大模型及政务智能体系列产品,让AI智慧触手可及,重塑政务服务新境界! 深耕政务,智造一个"行业基石" 面向政务服务垂直领域,浪潮软件成功打造出独具优势
    的头像 发表于 03-14 18:18 723次阅读
    浪潮<b class='flag-5'>软件</b>率先<b class='flag-5'>推出</b>政务服务大模型,重塑<b class='flag-5'>全场景</b>应用

    软件将持续深化“昇腾+DeepSeek”技术路线

    (以下简称“软件”)作为昇腾生态核心伙伴受邀出席,人工智能研究院AI总工朱凯分享了基于“昇腾 + openEuler + OpenHarmony + DeepSeek”的
    的头像 发表于 03-08 09:39 1124次阅读

    软件AIRUNS智能中枢平台接入DeepSeek大模型

    近日,江苏软件股份有限公司(以下简称“软件”)自主研发的AIRUNS智能中枢平台已全面接入国内领先的大模型DeepSeek,为企业提
    的头像 发表于 02-07 11:06 1794次阅读
    <b class='flag-5'>润</b>和<b class='flag-5'>软件</b>AIRUNS<b class='flag-5'>智能</b>中枢平台接入DeepSeek大模型