0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

摩尔线程、无问芯穹合作完成国产全功能GPU千卡集群

微云疏影 来源:综合整理 作者:综合整理 2024-05-27 14:40 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

近日,摩尔线程与无问芯穹共同披露,他们成功地完成了由国产全功能GPU——摩尔线程MTT S4000所构成的千卡集群驱动的大规模AI模型“MT-infini-3B”的训练工作,并使用无问芯穹的AI Studio PaaS平台进行构建。

据介绍,此项训练历时13.2天,过程稳定而有序,集群整体运行稳定性达到了100%。相较于单机训练,千卡集群的扩展效率提升了超过90%。

此次实训被誉为“充分证明了夸娥千卡智算集群在大模型训练中的可靠性,同时开创了国产大语言模型与国产GPU千卡智算集群深度合作的新模式”。

值得注意的是,经过此次实训,MT-infini-3B模型的性能在同类模型中名列前茅。在C-Eval、MMLU、CMMLU三个测试集中,其表现均优于其他在国际主流硬件上训练的模型。

无问芯穹的联合创始人兼CEO夏立雪表示,公司正致力于开发“M种模型”和“N种芯片”间的“MxN”中间层产品,以实现多种大模型算法在多元化芯片上的高效、统一部署。

他还透露,无问芯穹已与摩尔线程建立了深度战略合作关系,而本次“MT-infini-3B”的训练成果则是业内首例基于国产GPU芯片的从零开始到全面大模型实训的成功案例。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • gpu
    gpu
    +关注

    关注

    28

    文章

    5099

    浏览量

    134455
  • 语言模型
    +关注

    关注

    0

    文章

    570

    浏览量

    11254
  • 摩尔线程
    +关注

    关注

    2

    文章

    256

    浏览量

    6214
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    摩尔线程高开468% 中一签赚27万 国产GPU第一股摩尔线程高开468%

    国产GPU第一股”上市了!今天是万众瞩目的摩尔线程正式上市的日子;摩尔线程A股总股本47002
    的头像 发表于 12-05 11:03 1077次阅读
    <b class='flag-5'>摩尔</b><b class='flag-5'>线程</b>高开468% 中一签赚27万 <b class='flag-5'>国产</b><b class='flag-5'>GPU</b>第一股<b class='flag-5'>摩尔</b><b class='flag-5'>线程</b>高开468%

    国产领军的全功能 GPU “风华3号” 重磅发布,多个第一赋能行百业人工智能+

    2025年9月22日,国产GPU标志性产品,动科技“风华3号”全功能GPU新品发布。
    的头像 发表于 09-25 10:17 908次阅读
    <b class='flag-5'>国产</b>领军的<b class='flag-5'>全功能</b> <b class='flag-5'>GPU</b> “风华3号” 重磅发布,多个第一赋能<b class='flag-5'>千</b>行百业人工智能+

    摩尔线程副总裁王华:AI工厂全栈技术重构算力基建,开启国产 GPU 黄金时代

    摩尔线程在世界人工智能大会(WAIC 2025)前夕举办以“算力进化,精度革命”为主题的技术分享会,创新性提出“AI工厂” 理念。这一系统性工程通过全功能 GPU、自研架构、
    的头像 发表于 08-02 14:21 4631次阅读
    <b class='flag-5'>摩尔</b><b class='flag-5'>线程</b>副总裁王华:AI工厂全栈技术重构算力基建,开启<b class='flag-5'>国产</b> <b class='flag-5'>GPU</b> 黄金时代

    摩尔线程吴庆详解 MUSA 软件栈:以技术创新释放 KUAE 集群潜能,引领 GPU 计算新高度​

    在 2025 年世界人工智能大会(WAIC 2025)期间,摩尔线程举办的技术分享日活动现场气氛热烈,众多业内人士齐聚一堂,翘首以盼这家即将IPO上市的国产全功能
    的头像 发表于 07-28 13:47 5507次阅读
    <b class='flag-5'>摩尔</b><b class='flag-5'>线程</b>吴庆详解 MUSA 软件栈:以技术创新释放 KUAE <b class='flag-5'>集群</b>潜能,引领 <b class='flag-5'>GPU</b> 计算新高度​

    摩尔线程亮相WAIC 2025:以“AI工厂”理念驱动算力进化,全栈AI应用赋能行百业

    7月26日-29日,2025世界人工智能大会(WAIC)在上海举办。摩尔线程携以全功能GPU为核心的“云边端”全栈AI产品和解决方案精彩亮相,并首次提出“AI工厂”理念,旨在为AGI时
    的头像 发表于 07-28 11:34 1432次阅读
    <b class='flag-5'>摩尔</b><b class='flag-5'>线程</b>亮相WAIC 2025:以“AI工厂”理念驱动算力进化,全栈AI应用赋能<b class='flag-5'>千</b>行百业

    摩尔线程与AI算力平台AutoDL达成深度合作

    近日,摩尔线程与国内领先的AI算力平台AutoDL宣布达成深度合作,双方联合推出面向个人开发者的“摩尔线程专区”,首次将
    的头像 发表于 05-23 16:10 1428次阅读

    摩尔线程GPU率先支持Qwen3全系列模型

    近日,阿里云正式发布Qwen3系列的8款开源混合推理模型。摩尔线程团队在模型发布当天,率先完成了Qwen3全系列模型在全功能GPU上的高效支
    的头像 发表于 05-07 15:24 838次阅读

    摩尔线程GPU成功适配Deepseek-V3-0324大模型

    架构和全功能GPU的强大技术实力,摩尔线程迅速响应并完成了对DeepSeek-V3的无缝升级,实现了零报错、零兼容性问题的光速部署,充分展
    的头像 发表于 03-31 11:34 1104次阅读
    <b class='flag-5'>摩尔</b><b class='flag-5'>线程</b><b class='flag-5'>GPU</b>成功适配Deepseek-V3-0324大模型

    摩尔线程与当虹科技达成深度合作

    近日,摩尔线程与当虹科技达成深度合作,基于国产GPU成功完成了与BlackEye多模态视听大模型
    的头像 发表于 03-20 15:22 1286次阅读

    摩尔线程发布云电脑驱动MT vGPU 2.7.0

    3月18日,摩尔线程正式发布云电脑驱动MT vGPU 2.7.0。新版本在国内首次实现了国产GPU云电脑对DirectX 12的支持,同时显著提升图形渲染性能与兼容性。通过
    的头像 发表于 03-19 15:56 763次阅读

    摩尔线程GPU原生FP8计算助力AI训练

    近日,摩尔线程正式开源MT-MegatronLM与MT-TransformerEngine两大AI框架。通过深度融合FP8混合训练策略和高性能算子库,这两大框架在国产全功能
    的头像 发表于 03-17 17:05 1212次阅读
    <b class='flag-5'>摩尔</b><b class='flag-5'>线程</b><b class='flag-5'>GPU</b>原生FP8计算助力AI训练

    摩尔线程支持阿里云通义QwQ-32B开源模型

    近日,阿里云团队正式开源全新推理模型——通义QwQ-32B。摩尔线程在该模型发布后2小时内,迅速且高效完成了对
    的头像 发表于 03-07 17:48 1114次阅读
    <b class='flag-5'>摩尔</b><b class='flag-5'>线程</b>支持阿里云通义<b class='flag-5'>千</b><b class='flag-5'>问</b>QwQ-32B开源模型

    摩尔线程完成DeepSeek开源库FlashMLA和DeepGEMM适配

    MUTLASS,快速支持了FlashMLA。不仅如此,摩尔线程还基于MUTLASS在全新GPU架构上优化实现了FP8矩阵乘法,支持DeepGEMM的相应功能,充分展示了
    的头像 发表于 02-27 14:40 1104次阅读

    实现七家国产芯片DeepSeek适配

    近日,宣布了一个重大进展:其DeepSeek-R1、V3系列模型已成功适配并优化至壁仞、海光、摩尔
    的头像 发表于 02-13 16:04 1207次阅读

    天数智合作突破千卡集群训练优化

    近日,天数智宣布达成深度合作,并在千卡
    的头像 发表于 01-21 14:31 1356次阅读