0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

Arm率先适配腾讯混元开源模型,助力端侧AI创新开发

Arm社区 来源: Arm 2025-08-08 09:16 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

本周初,腾讯混元宣布开源四款小尺寸模型(参数分别为 0.5B、1.8B、4B、7B),可无缝运行于消费级显卡上。作为全球应用范围最为广泛的计算平台,Arm 在开源首日就已率先实现适配,携手合作伙伴共同赋能端侧人工智能 (AI) 部署,助力本土开发者实现 AI 应用创新!

这次的首日开源适配是双方再次携手提升端侧应用功能和用户体验的又一例证。去年,Arm 将 Arm KleidiAI 技术与腾讯混元自研的 Angel 机器学习框架进行集成,从而提高移动端 AI 服务的推理性能和效率。得益于这一集成,混元大模型的预填充部分加速了 100%,而解码器的速度提高了 10%。

此次腾讯混元开源的四款模型可适用于笔记本电脑手机、智能座舱、智能家居等低功耗场景,且支持垂直领域低成本微调,为开发者和企业提供更多尺寸的模型选择。四款模型均实现了对标业界同尺寸模型的性能表现,特别是在语言理解、数学、推理等领域尤为突出。目前,四款模型均已在 Github 和 Huggingface 等开源社区上线。

00ee46ca-73f4-11f0-a18e-92fbcf53809c.png

此外,对于开源方面的投入,双方秉持同样的热忱,开源是腾讯混元大模型长期坚持的方向,而 Arm 则在开源项目的支持上投入了大量的工程资源,并不断地扩大开源合作伙伴协作,致力于为全球超过 2,200 万基于 Arm 平台开发的开发者提供更多的获取资源和更高的性能,助力实现 AI 无处不在!

展望未来,Arm 将继续通过开源合作与技术创新,持续赋能开发者无缝获取底层硬件性能,进而实现更顺畅的创新开发,并携手合作伙伴构筑更加繁荣的开源生态,加速应用落地。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • ARM
    ARM
    +关注

    关注

    135

    文章

    9499

    浏览量

    388724
  • 机器学习
    +关注

    关注

    66

    文章

    8541

    浏览量

    136233

原文标题:开源支持新动态!Arm 率先适配腾讯混元开源模型,助力端侧 AI 创新开发

文章出处:【微信号:Arm社区,微信公众号:Arm社区】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    NVIDIA推出面向语言、机器人和生物学的全新开源AI技术

    NVIDIA 秉持对开源的长期承诺,推出了面向语言、机器人和生物学的全新开源 AI 技术,为构建开源生态系统做出贡献,扩展 AI 的普及并推
    的头像 发表于 11-06 11:49 691次阅读

    澎峰科技完成OpenAI最新开源推理模型适配

    澎峰科技现已完成 OpenAI 最新开源推理模型 gpt-oss-20b 在 DeepFusion 大模型一体机上的原生适配与优化,用户可一键启用这颗“小而强悍”的新引擎,在本地享受企
    的头像 发表于 08-14 11:34 1150次阅读

    华为CANN与智谱GLM模型完成适配

    已于7月28日正式开源其新一代基座模型GLM-4.5,其GLM模型已完成与CANN的适配。这
    的头像 发表于 08-11 11:00 2197次阅读

    硬件与应用同频共振,英特尔Day 0适配腾讯开源模型

    于OpenVINO™ 构建的 AI 软件平台的可扩展性,英特尔助力ISV生态伙伴率先实现应用Day 0 模型
    的头像 发表于 08-07 14:42 1122次阅读
    硬件与应用同频共振,英特尔Day 0<b class='flag-5'>适配</b><b class='flag-5'>腾讯</b><b class='flag-5'>开源</b><b class='flag-5'>混</b><b class='flag-5'>元</b>大<b class='flag-5'>模型</b>

    摩尔线程率先支持腾讯-A13B模型

    近日,腾讯正式开源基于专家混合(MoE)架构的大语言模型-A13B。同日,摩尔线程团队凭借技术前瞻性,
    的头像 发表于 07-04 14:10 680次阅读

    Say Hi to ERNIE!Imagination GPU率先完成文心大模型侧部署

    ImaginationTechnologies宣布率先完成百度文心大模型(ERNIE4.5开源版)在其GPU硬件上的侧部署。适配完成后,
    的头像 发表于 07-01 08:17 773次阅读
    Say Hi to ERNIE!Imagination GPU<b class='flag-5'>率先</b>完成文心大<b class='flag-5'>模型</b>的<b class='flag-5'>端</b>侧部署

    Arm CPU适配通义千问Qwen3系列模型

    近日,阿里巴巴开源了新一代通义千问模型 Qwen3,Arm 率先成为首批成功适配模型的计算平台
    的头像 发表于 05-12 16:37 1098次阅读

    首创开源架构,天玑AI开发套件让AI模型接入得心应手

    模型、通义千问、等多种先进模型,还包含视觉、语言、多模态等多种多样的大
    发表于 04-13 19:52

    AI模型侧部署正当时:移远端AI模型解决方案,激活场景智能新范式

    AI技术飞速发展的当下,AI模型的应用正从云端向加速渗透。 作为全球领先的物联网整体解决方案供应商,移远通信凭借深厚的技术积累与前瞻
    发表于 03-27 11:26 424次阅读
    <b class='flag-5'>AI</b>大<b class='flag-5'>模型</b><b class='flag-5'>端</b>侧部署正当时:移远端<b class='flag-5'>侧</b><b class='flag-5'>AI</b>大<b class='flag-5'>模型</b>解决方案,激活场景智能新范式

    AI模型侧部署正当时:移远端AI模型解决方案,激活场景智能新范式

    AI技术飞速发展的当下,AI模型的应用正从云端向加速渗透。作为全球领先的物联网整体解决方案供应商,移远通信凭借深厚的技术积累与前瞻性
    的头像 发表于 03-26 19:05 991次阅读
    <b class='flag-5'>AI</b>大<b class='flag-5'>模型</b><b class='flag-5'>端</b>侧部署正当时:移远端<b class='flag-5'>侧</b><b class='flag-5'>AI</b>大<b class='flag-5'>模型</b>解决方案,激活场景智能新范式

    腾讯元宝升级:深度思考模型腾讯T1”全量上线

    近日,腾讯元宝迎来了又一次重要更新,深度思考模型腾讯T1”已全面上线。此次更新不仅进一步丰富了腾讯
    的头像 发表于 02-20 09:12 1083次阅读

    腾讯3D AI创作引擎正式发布

    近日,腾讯公司宣布其自主研发的3D AI创作引擎已正式上线。这一创新性的创作工具将为用户带来前所未有的3D内容创作体验,标志着
    的头像 发表于 01-23 10:33 980次阅读

    腾讯3D AI创作引擎正式上线

    近日,腾讯公司宣布其自主研发的3D AI创作引擎已正式上线。这一创新性的创作工具,标志着腾讯
    的头像 发表于 01-22 10:26 956次阅读

    腾讯模型开源成绩斐然,GitHub Star数近1.4万

    内外部技术的开源共享,旨在促进技术创新与生态发展。 据悉,腾讯模型已经在多个模态上实现了
    的头像 发表于 12-26 10:30 1057次阅读

    腾讯文生图登顶智源FlagEval评测榜首

    榜首。 FlagEval作为智源研究院推出的大模型评测体系及开放平台,一直致力于评估基础模型及训练算法的性能。此次评测范围涵盖了国内外100余个开源和商业闭源模型
    的头像 发表于 12-25 10:06 1191次阅读