0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

摩尔线程和滴普科技完成大模型训练与推理适配

CHANBAEK 来源:网络整理 2024-05-30 10:14 次阅读

近日,摩尔线程与滴普科技宣布了一项重要合作成果。摩尔线程的夸娥(KUAE)千卡智算集群与滴普科技的企业大模型Deepexi已完成训练及推理适配,共同实现了700亿参数LLaMA2大语言模型的预训练测试。

在测试过程中,摩尔线程的夸娥千卡智算集群展现了其卓越的性能。全程77小时的无故障连续运行,集群训练稳定性高达100%,训练效率和兼容性均达到预期。这一成果得益于摩尔线程夸娥千卡智算集群的全栈方案,其模型覆盖、推理加速、CUDA兼容、断点续训、分布式训练、集群可靠性等8大核心能力,为训练提供了强大支持。

此次合作不仅彰显了摩尔线程在智能计算领域的领先地位,也标志着双方在推动国产化数智赋能底座构建上取得了实质性进展。展望未来,摩尔线程与滴普科技将继续深化合作,共同推动人工智能技术的创新与发展。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 摩尔线程
    +关注

    关注

    1

    文章

    171

    浏览量

    4204
  • 大模型
    +关注

    关注

    2

    文章

    1975

    浏览量

    1568
收藏 人收藏

    评论

    相关推荐

    国产千卡GPU集群完成大模型训练测试,极具高兼容性和稳定性

    卡集群的方式成为了必然的选择。   2023年底,摩尔线程推出首个全国产千卡千亿模型训练平台“摩尔线程
    的头像 发表于 06-11 07:50 2699次阅读
    国产千卡GPU集群<b class='flag-5'>完成大</b><b class='flag-5'>模型</b><b class='flag-5'>训练</b>测试,极具高兼容性和稳定性

    摩尔线程和乐创能源签署战略合作协议

    近日,摩尔线程和乐创能源签署了战略合作协议,双方将聚焦能源大模型的创新与应用,围绕新能源领域的电池、新能源发电、负荷管理、需求侧响应等产品技术方向,共同研发能源大模型。依托
    的头像 发表于 07-11 14:35 345次阅读

    摩尔线程与智谱AI完成大模型性能测试与适配

    近日,摩尔线程与智谱AI在人工智能领域开展了一轮深入的合作,共同对GPU大模型进行了适配及性能测试。此次测试不仅涵盖了大模型
    的头像 发表于 06-14 16:40 623次阅读

    摩尔线程与羽人科技携手完成7B大模型训练测试

    近日,摩尔线程与羽人科技联合宣布了一项重要成果:双方已成功实现夸娥(KUAE)千卡智算集群与羽人系列模型解决方案的训练兼容适配。这一成果不仅
    的头像 发表于 06-14 16:33 280次阅读

    摩尔线程与师者AI携手完成70亿参数教育AI大模型训练测试

    近日,国内知名的GPU制造商摩尔线程与全学科教育AI大模型“师者AI”联合宣布,双方已成功完成了一项重要的大模型
    的头像 发表于 06-14 16:31 338次阅读

    摩尔线程千卡智算集群与企业大模型完成训练推理适配

    近日,摩尔线程与国内领先的数据智能服务商科技共同宣布,摩尔线程夸娥(KUAE)千卡智算集群与
    的头像 发表于 05-29 10:28 249次阅读
    <b class='flag-5'>摩尔</b><b class='flag-5'>线程</b>千卡智算集群与<b class='flag-5'>滴</b><b class='flag-5'>普</b>企业大<b class='flag-5'>模型</b>已<b class='flag-5'>完成</b><b class='flag-5'>训练</b>及<b class='flag-5'>推理</b><b class='flag-5'>适配</b>

    摩尔线程与无问芯穹在国产GPU上首次实现大模型实训

    近日,摩尔线程与无问芯穹共同宣布,双方已正式完成基于国产全功能GPU千卡集群的3B规模大模型实训。这款名为“MT-infini-3B”的模型
    的头像 发表于 05-27 10:59 416次阅读

    摩尔线程与无问芯穹宣布完成基于GPU千卡集群的3B规模大模型实训

    摩尔线程联合无问芯穹宣布,双方已在本周正式完成基于国产全功能GPU千卡集群的3B规模大模型实训。
    的头像 发表于 05-27 10:44 267次阅读
    <b class='flag-5'>摩尔</b><b class='flag-5'>线程</b>与无问芯穹宣布<b class='flag-5'>完成</b>基于GPU千卡集群的3B规模大<b class='flag-5'>模型</b>实训

    摩尔线程与Reportify联手加速金融大模型创新应用

    近日,国内创新的AI投资研究问答搜索引擎Reportify成功集成了摩尔线程自研大语言模型MUSAChat的推理API云服务,并已正式上线,运行效果良好。
    的头像 发表于 05-22 18:14 1088次阅读

    摩尔线程携手憨猴集团,深化AI算力战略合作,成功实现大模型分布式训练

    摩尔线程与憨猴科技集团日前宣布,采用搭载摩尔线程的夸娥(KUAE)千卡智算集群,已成功完成了多个大模型
    的头像 发表于 05-17 17:24 433次阅读

    摩尔线程携手憨猴集团,共同探索国产AI算力的新应用场景与落地实践

    摩尔线程与憨猴科技集团有限公司(简称:憨猴集团)近日宣布,基于摩尔线程的夸娥(KUAE)千卡智算集群,憨猴集团已成功完成了7B、34B、70
    的头像 发表于 05-17 15:08 267次阅读

    摩尔线程助力AI大模型训练与计算升级,共建美好数字化未来

    此外,在中关村国际技术交易大会高精尖技术产品首发会上,摩尔线程与无问芯穹联合宣布,双方正致力于开发基于夸娥千卡智算集群的“MT-infini-3B”合作大模型摩尔
    的头像 发表于 04-28 16:42 669次阅读

    摩尔线程荣膺2023北京市数字经济标杆企业——数字基础技术类

    智算平台,尤其是GPU,不仅是人工智能和数字经济腾飞的坚实基石,更是生成式AI运算的核心。摩尔线程的KUAE(夸娥)智算中心,作为我国首个以国产生全功能GPU为基座的大型算力集群,成为驱动千亿参数大模型高效
    的头像 发表于 03-05 15:34 354次阅读

    摩尔线程携手RealLink共同完成UE5在国产显卡上的首次适配

    近期,摩尔线程携手虚幻引擎技术解决方案厂商蕊霖(Real-Link),共同完成了UE5在国产显卡上的首次适配,标志着RealLink在UE5国产适配
    的头像 发表于 09-13 10:13 1306次阅读

    深度学习框架区分训练还是推理

    模型,以便将来能够进行准确的预测。推理是指在训练完成后,使用已经训练好的模型进行新的预测。然而,
    的头像 发表于 08-17 16:03 1162次阅读