0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

LLaVA、RWKV、Qwen3... 移远端侧AI大模型解决方案实现多维度跃迁

移远通信 2025-06-23 19:07 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群


AI以破竹之势席卷千行百业,大模型技术正以惊人的速度迭代演进,重塑着智能世界的底层逻辑。


作为全球AIoT行业的引领者,移远通信通过持续迭代和探索,在端侧大模型解决方案上完成“三级跳”——在多模态感知、架构创新、模型兼容性三大核心维度实现跨越式突破,不仅重新定义了终端设备的智能化边界,更为AI普惠化落地开辟了全新路径。近日,移远基于SG885G AI 算力模组的端侧大模型解决方案,已成功运行LLaVA-7B、RWKV7、Qwen3-4B等大模型。




感知维度升级:引领多模态交互新范式


在智能终端的世界里,单一的语音对话或图像识别,已无法满足复杂场景的需求,多模态感知才是未来趋势。移远通信敏锐捕捉行业发展脉络,在感知维度上持续创新,打造出“超级感官系统”,并不断取得技术及应用突破。


40155316-5022-11f0-986f-92fbcf53809c.jpg


自端侧大模型解决方案发布以来,移远通信基于全语音链路的方案已在德壹机器人项目中顺利落地,赋予机器人“能说会道”的本领,使其语音交互能力更加自然、流畅。


近日,移远成功在其SG885G模组上部署7B参数多模态大模型LLaVA,让移动端拥有“火眼金睛”,实现实时物体识别与场景理解,完成了感知维度的再次重大升级。这一突破,让移远成为业界首个提供端侧全模态感知解决方案的模组厂商。


值得一提的是,移远还通过架构级创新,实现了文本、语音、视觉三大模态的深度融合。这种融合并非简单的功能叠加,而是从底层架构出发,让不同模态的信息能够相互补充、相互促进,形成更全面、更准确的认知能力,使得客户终端能够在复杂的实际场景中实现更智能、更高效的交互。


架构创新探索:开辟端侧AI计算新维度


在Transformer架构主导大模型领域的当下,移远通信以前瞻性的眼光,积极布局非Transformer的技术路线,致力于为客户提供更低算力、更少内存消耗的解决方案。


日前,移远SG885G模组已实现成功运行RWKV7模型。RWKV(Receptance Weighted Key-Value)是一种极具创新性的神经网络架构,巧妙地融合了循环神经网络(RNN)的训练效率与Transformer的建模能力。其核心设计在于通过线性注意力机制取代传统Transformer的自注意力,这一改进有效解决了长序列处理中的计算瓶颈问题,同时还支持高效推理与并行训练,在计算效率和模型性能之间取得了良好的平衡。


RWKV架构在多语言处理、小说创作、长期记忆保持等多个领域表现出色,展现出了广泛的应用前景。移远通信成功将其部署在端侧模组上,意味着对于算力和内存资源有限的“小身板”终端设备,也能拥有强大的AI“大心脏”。



模型生态扩容:构建端侧大模型“超级平台”


在模型兼容性方面,移远通信构建了覆盖主流开源模型的端侧适配体系,打造出了功能强大的端侧大模型“超级平台”。从Llama到通义千问,再到DeepSeek,移远率先完成了对主流开源模型的全方位兼容,覆盖参数规模从0.5B到8B,为不同场景的智能终端提供了丰富的模型选择。


例如,移远通信在其SG885G AI算力模组上,成功实现Qwen3-4B模型的稳定运行,并对模型架构和运行环境进行深度优化。实测数据显示,相比Qwen2.5,优化后的Qwen3-4B模型,其平均响应延迟降低了40%,交互体验直线升级。


站在AI技术变革的潮头,移远通信始终坚信:未来的智能,不应局限于云端的数据中心,而应该广泛存在于每个终端、每个场景、每个人的掌心。通过持续的技术深耕与生态共建,移远通信正携手合作伙伴,让端侧大模型成为智能时代的“新基建”,推动AI技术在更广阔的领域实现普惠化应用。


声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 人工智能
    +关注

    关注

    1813

    文章

    49734

    浏览量

    261509
  • AIoT
    +关注

    关注

    8

    文章

    1594

    浏览量

    33804
  • AI大模型
    +关注

    关注

    0

    文章

    394

    浏览量

    942
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    基于米尔瑞芯微RK3576开发板的Qwen2-VL-3B模型NPU多模态部署评测

    准确率任务。 未来,RK3576“算力精准匹配场景”的设计理念或成中端AIoT核心方向,其在多维度的平衡,为端AI部署提供高性价比选择,助力边缘计算规模化应用。RK3576 工作状态​ 参考资料[1
    发表于 08-29 18:08

    阿里通义千问发布小尺寸模型Qwen3-4B,手机也能跑

    Qwen3-30B-A3B(thinking)。官方表示,2507版本的Qwen3-4B模型对手机等端硬件部署尤为友好。     随着AI
    的头像 发表于 08-12 17:15 6296次阅读
    阿里通义千问发布小尺寸<b class='flag-5'>模型</b><b class='flag-5'>Qwen3</b>-4B,手机也能跑

    模型迎来“轻”革命!远通信 × RWKV 打造“轻量AI大脑”

    (WAIC)首次亮相,标志着端模型解决方案向更高性能、更广场景的应用迈出关键一步。RWKV(ReceptanceWeightedKeyValue)是全球领先的RN
    的头像 发表于 07-27 19:02 644次阅读
    端<b class='flag-5'>侧</b>大<b class='flag-5'>模型</b>迎来“轻”革命!<b class='flag-5'>移</b>远通信 × <b class='flag-5'>RWKV</b> 打造“轻量<b class='flag-5'>AI</b>大脑”

    广和通加速通义千问Qwen3在端全面落地

    6月,广和通宣布:率先完成通义千问Qwen3系列混合推理模型在高通QCS8550平台端的适配部署。广和通通过定制化混合精度量化方案与创新硬件加速算法,成功突破
    的头像 发表于 06-25 15:35 775次阅读

    壁仞科技完成Qwen3旗舰模型适配

    近日,在高效适配Qwen3系列模型推理后,壁仞科技宣布完成旗舰版Qwen3-235B-A22B模型的训练适配和优化。由此,壁仞科技已实现
    的头像 发表于 05-16 16:23 780次阅读

    Arm CPU适配通义千问Qwen3系列模型

    与阿里巴巴开源的轻量级深度学习框架 MNN 已深度集成。得益于此,Qwen3-0.6B、Qwen3-1.7B 及 Qwen3-4B 三款模型能够在搭载 Arm 架构 CPU 的移动设
    的头像 发表于 05-12 16:37 1098次阅读

    后摩智能NPU适配通义千问Qwen3系列模型

    近日,阿里云重磅推出Qwen3 系列开源混合推理模型。用时不到1天,后摩智能自研NPU迅速实现Qwen3 系列模型
    的头像 发表于 05-07 16:46 1126次阅读

    首创开源架构,天玑AI开发套件让端AI模型接入得心应手

    ,联发科带来了全面升级的天玑AI开发套件2.0,在模型库规模、架构开放程度、前沿端AI技术支持和端LoRA训练落地等方面均迎来全面
    发表于 04-13 19:52

    AI模型端侧部署正当时:远端AI模型解决方案,激活场景智能新范式

    AI技术飞速发展的当下,AI模型的应用正从云端向端加速渗透。 作为全球领先的物联网整体解决方案供应商,
    发表于 03-27 11:26 424次阅读
    <b class='flag-5'>AI</b>大<b class='flag-5'>模型</b>端侧部署正当时:<b class='flag-5'>移</b><b class='flag-5'>远端</b><b class='flag-5'>侧</b><b class='flag-5'>AI</b>大<b class='flag-5'>模型</b><b class='flag-5'>解决方案</b>,激活场景智能新范式

    AI模型端侧部署正当时:远端AI模型解决方案,激活场景智能新范式

    AI技术飞速发展的当下,AI模型的应用正从云端向端加速渗透。作为全球领先的物联网整体解决方案供应商,
    的头像 发表于 03-26 19:05 988次阅读
    <b class='flag-5'>AI</b>大<b class='flag-5'>模型</b>端侧部署正当时:<b class='flag-5'>移</b><b class='flag-5'>远端</b><b class='flag-5'>侧</b><b class='flag-5'>AI</b>大<b class='flag-5'>模型</b><b class='flag-5'>解决方案</b>,激活场景智能新范式

    远通信AI玩具整体解决方案全面升级:融合火山引擎RTC大模型,打造实时交互新体验

    2月20日,全球领先的物联网整体解决方案供应商远通信宣布,其AI玩具整体解决方案实现全面的完善和升级。该
    发表于 02-21 09:50 500次阅读
    <b class='flag-5'>移</b>远通信<b class='flag-5'>AI</b>玩具整体<b class='flag-5'>解决方案</b>全面升级:融合火山引擎RTC大<b class='flag-5'>模型</b>,打造实时交互新体验

    Qwen模型助力开发低成本AI推理方案

    的S1推理模型和伯克利的TinyZero模型,均是基于阿里巴巴的Qwen2.5-32b-Instruct模型进行训练的。这一技术的运用,使得两款模型
    的头像 发表于 02-12 09:19 983次阅读

    广和通正式推出AI玩具大模型解决方案

    ,即可实现音视频及图像的实时传输、语音识别、自然语言处理以及机器学习等多种功能。这意味着玩具能够与用户进行更加丰富的互动,通过拟人、拟动物或拟IP的形式,以视、听、触等多维度的方式与用户进行交流。 广和通的AI玩具大
    的头像 发表于 01-24 10:36 1729次阅读

    广和通AI解决方案内置大模型,让玩具成为你的智慧伙伴

    广和通推出AI玩具大模型解决方案,该方案深度融合豆包等AI模型、内置广和通Cat.1模组,助力
    的头像 发表于 01-21 11:03 925次阅读
    广和通<b class='flag-5'>AI</b><b class='flag-5'>解决方案</b>内置大<b class='flag-5'>模型</b>,让玩具成为你的智慧伙伴

    广和通推出AI玩具大模型解决方案

    广和通推出AI玩具大模型解决方案,该方案深度融合豆包等AI模型、内置广和通Cat.1模组,助力
    的头像 发表于 01-21 10:27 1668次阅读