0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

国产GPU可替代!摩尔线程千卡集群点亮新成就

硬件世界 来源:硬件世界 2024-05-29 11:27 次阅读

摩尔线程、无问芯穹联合宣布,双方已经正式完成MT-infini-3B 3B(30亿参数)规模大模型的实训,基于摩尔线程国产全功能GPU MTT S4000组成的千卡集群,以及无问芯穹的AIStudio PaaS平台。

本次实训充分验证了夸娥千卡智算集群在大模型训练场景下的可靠性,同时也在行业内率先开启了国产大语言模型与国产GPU千卡智算集群深度合作的新范式。

据悉,这次的MT-infini-3B模型训练总共用时13.2天,全程稳定无中断,集群训练稳定性达到100%,千卡训练和单机相比扩展效率超过90%。

目前,实训出来的MT-infini-3B性能在同规模模型中跻身前列,相比在国际主流硬件上(尤其是NVIDIA)训练而成的其他模型,在C-Eval、MMLU、CMMLU等3个测试集上均实现性能领先。

215849c8-1c21-11ef-b74b-92fbcf53809c.png

无问芯穹正在打造“M种模型”和“N种芯片”之间的“M x N”中间层产品,实现多种大模型算法在多元芯片上的高效、统一部署,已与摩尔线程达成深度战略合作。

摩尔线程是第一家接入无问芯穹并进行千卡级别大模型训练的国产GPU公司,夸娥千卡集群已与无穹Infini-AI顺利完成系统级融合适配,完成LLama2 700亿参数大模型的训练测试。

T-infini-3B的训练,则是行业内首次实现基于国产GPU芯片从0到1的端到端大模型实训案例。

就在日前,基于摩尔线程的夸娥千卡集群,憨猴集团也成功完成了7B、34B、70B不同参数量级的大模型分布式训练,双方还达成战略合作。

经双方共同严苛测试,兼容适配程度高,训练效率达到预期,精度符合要求,整个训练过程持续稳定。


审核编辑:刘清
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • GPU芯片
    +关注

    关注

    1

    文章

    303

    浏览量

    5714
  • 摩尔线程
    +关注

    关注

    1

    文章

    171

    浏览量

    4204
  • 大模型
    +关注

    关注

    2

    文章

    1975

    浏览量

    1568

原文标题:国产GPU可替代!摩尔线程千卡集群点亮新成就

文章出处:【微信号:hdworld16,微信公众号:硬件世界】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    国产千卡GPU集群完成大模型训练测试,极具高兼容性和稳定性

    集群的方式成为了必然的选择。   2023年底,摩尔线程推出首个全国产千卡千亿模型训练平台“
    的头像 发表于 06-11 07:50 2699次阅读
    <b class='flag-5'>国产</b><b class='flag-5'>千卡</b><b class='flag-5'>GPU</b><b class='flag-5'>集群</b>完成大模型训练测试,极具高兼容性和稳定性

    摩尔线程和乐创能源签署战略合作协议

    近日,摩尔线程和乐创能源签署了战略合作协议,双方将聚焦能源大模型的创新与应用,围绕新能源领域的电池、新能源发电、负荷管理、需求侧响应等产品技术方向,共同研发能源大模型。依托摩尔线程全功
    的头像 发表于 07-11 14:35 345次阅读

    千卡集群卡到万集群,燧原科技打造更好的AI算力底座

    :WAIC 2024)上,不仅有国内各大模型厂商同场竞技,也有丰富的算力基础设施展示,其中包括专注人工智能领域云端算力产品的燧原科技。   燧原科技展台 从千卡集群到万集群  除了里
    的头像 发表于 07-07 09:45 1633次阅读
    从<b class='flag-5'>千卡</b><b class='flag-5'>集群</b>卡到万<b class='flag-5'>卡</b><b class='flag-5'>集群</b>,燧原科技打造更好的AI算力底座

    摩尔线程全功能GPU加速三维GIS全国产解决方案

    的方案与实践,摩尔线程受邀参展。 此次展览,摩尔线程展示了基于国产空间智能软件技术SuperMap开发的最新成果——“
    的头像 发表于 06-27 18:15 661次阅读

    摩尔线程与智谱AI完成大模型性能测试与适配

    近日,摩尔线程与智谱AI在人工智能领域开展了一轮深入的合作,共同对GPU大模型进行了适配及性能测试。此次测试不仅涵盖了大模型的推理能力,还涉及了基于摩尔
    的头像 发表于 06-14 16:40 623次阅读

    摩尔线程与师者AI携手完成70亿参数教育AI大模型训练测试

    近日,国内知名的GPU制造商摩尔线程与全学科教育AI大模型“师者AI”联合宣布,双方已成功完成了一项重要的大模型训练测试。此次测试依托摩尔线程
    的头像 发表于 06-14 16:31 338次阅读

    摩尔线程和滴普科技完成大模型训练与推理适配

    近日,摩尔线程与滴普科技宣布了一项重要合作成果。摩尔线程的夸娥(KUAE)千卡智算集群与滴普科技
    的头像 发表于 05-30 10:14 286次阅读

    摩尔线程千卡智算集群与滴普企业大模型已完成训练及推理适配

    近日,摩尔线程与国内领先的数据智能服务商滴普科技共同宣布,摩尔线程夸娥(KUAE)千卡智算集群
    的头像 发表于 05-29 10:28 249次阅读
    <b class='flag-5'>摩尔</b><b class='flag-5'>线程</b><b class='flag-5'>千卡</b>智算<b class='flag-5'>集群</b>与滴普企业大模型已完成训练及推理适配

    摩尔线程、无问芯穹合作完成国产全功能GPU千卡集群

    据介绍,此项训练历时13.2天,过程稳定而有序,集群整体运行稳定性达到了100%。相较于单机训练,千卡集群的扩展效率提升了超过90%。
    的头像 发表于 05-27 14:40 413次阅读

    摩尔线程与无问芯穹在国产GPU上首次实现大模型实训

    近日,摩尔线程与无问芯穹共同宣布,双方已正式完成基于国产全功能GPU千卡集群的3B规模大模型实训
    的头像 发表于 05-27 10:59 416次阅读

    摩尔线程与无问芯穹宣布完成基于GPU千卡集群的3B规模大模型实训

    摩尔线程联合无问芯穹宣布,双方已在本周正式完成基于国产全功能GPU千卡集群的3B规模大模型实训。
    的头像 发表于 05-27 10:44 267次阅读
    <b class='flag-5'>摩尔</b><b class='flag-5'>线程</b>与无问芯穹宣布完成基于<b class='flag-5'>GPU</b><b class='flag-5'>千卡</b><b class='flag-5'>集群</b>的3B规模大模型实训

    摩尔线程携手憨猴集团,深化AI算力战略合作,成功实现大模型分布式训练

    摩尔线程与憨猴科技集团日前宣布,采用搭载摩尔线程的夸娥(KUAE)千卡智算集群,已成功完成了多个
    的头像 发表于 05-17 17:24 433次阅读

    摩尔线程携手憨猴集团,共同探索国产AI算力的新应用场景与落地实践

    摩尔线程与憨猴科技集团有限公司(简称:憨猴集团)近日宣布,基于摩尔线程的夸娥(KUAE)千卡智算集群
    的头像 发表于 05-17 15:08 267次阅读

    摩尔线程助力AI大模型训练与计算升级,共建美好数字化未来

    此外,在中关村国际技术交易大会高精尖技术产品首发会上,摩尔线程与无问芯穹联合宣布,双方正致力于开发基于夸娥千卡智算集群的“MT-infini-3B”合作大模型。
    的头像 发表于 04-28 16:42 669次阅读

    燧原科技与无问芯穹签约宣布共同打造千卡集群案例

    3月31日,在无问芯穹举办的以“多元计算·泛在链接”为主题的AI算力优化论坛暨产品发布会上,燧原科技与无问芯穹签约宣布已经完成系统级融合,携手在湖北宜昌智算中心打造千卡集群案例。
    的头像 发表于 04-01 10:48 544次阅读