0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

摩尔线程千卡智算集群与滴普企业大模型已完成训练及推理适配

摩尔线程 来源:摩尔线程 2024-05-29 10:28 次阅读

近日,摩尔线程与国内领先的数据智能服务商滴普科技共同宣布,摩尔线程夸娥(KUAE)千卡智算集群与滴普企业大模型Deepexi已完成训练及推理适配。基于摩尔线程夸娥千卡智算集群,滴普科技成功完成了700亿参数LLaMA2大语言模型的预训练测试,训练时长共计77小时,全程无故障连续运行,集群训练稳定性达到100%,训练效率和兼容性均达到预期。

f3c76320-1d62-11ef-b74b-92fbcf53809c.png

滴普科技作为数据智能服务商,以数据智能技术为基础,为客户提供数据智能基础设施、企业大模型产品,以及数据智能创新服务。基于已深度服务的头部客户所积累的深厚数据能力,滴普科技构建的Deepexi企业大模型,在语义、视觉、语音、跨模态等方面的能力均表现优越,能够运用模型工具链为企业提供高质量的数据准备、模型训练、调优、部署及推理服务,快速构建企业不同领域模型以及智能体应用,帮助企业实现从数据驱动到智能驱动的升级。

此次,摩尔线程与滴普科技的合作,借助夸娥千卡智算集群全栈方案的模型覆盖、推理加速、CUDA兼容、断点续训、分布式训练、集群可靠性等8大核心能力,为构建国产化数智赋能底座奠定坚实基础。同时,夸娥千卡智算集群作为业内首个跑通、跑完国产大模型的千卡集群,以全功能GPU为底座,提供软硬一体化的全栈解决方案。基于此次合作,双方能够为各行各业提供全国产大模型解决方案,广泛应用于训练、微调和实时推理等场景。

目前,滴普科技已与中国海诚、中核装备院、百丽时尚等企业开展产业落地实践,成为产业大模型落地的领先企业。未来,摩尔线程与滴普科技将继续发挥双方在技术、场景和软硬件协同方面的优势,在能源、金融、先进制造等领域,以及与央企、国企的合作中,共同探索全国产化解决方案的落地机会,推动人工智能在更多产业领域的应用,助力企业实现智能升级,赋能行业高质量发展。

审核编辑:刘清
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • gpu
    gpu
    +关注

    关注

    27

    文章

    4527

    浏览量

    127697
  • 人工智能
    +关注

    关注

    1785

    文章

    45435

    浏览量

    232811
  • 摩尔线程
    +关注

    关注

    1

    文章

    171

    浏览量

    4204
  • 大模型
    +关注

    关注

    2

    文章

    1975

    浏览量

    1568

原文标题:摩尔线程 × 滴普科技|完成大模型训练与推理适配

文章出处:【微信号:moorethreads,微信公众号:摩尔线程】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    国产千卡GPU集群完成模型训练测试,极具高兼容性和稳定性

    集群的方式成为了必然的选择。   2023年底,摩尔线程推出首个全国产千卡千亿模型
    的头像 发表于 06-11 07:50 2699次阅读
    国产<b class='flag-5'>千卡</b>GPU<b class='flag-5'>集群</b><b class='flag-5'>完成</b>大<b class='flag-5'>模型</b><b class='flag-5'>训练</b>测试,极具高兼容性和稳定性

    摩尔线程和乐创能源签署战略合作协议

    近日,摩尔线程和乐创能源签署了战略合作协议,双方将聚焦能源大模型的创新与应用,围绕新能源领域的电池、新能源发电、负荷管理、需求侧响应等产品技术方向,共同研发能源大模型。依托
    的头像 发表于 07-11 14:35 345次阅读

    千卡集群卡到万集群,燧原科技打造更好的AI力底座

    :WAIC 2024)上,不仅有国内各大模型厂商同场竞技,也有丰富的力基础设施展示,其中包括专注人工智能领域云端力产品的燧原科技。   燧原科技展台 从千卡
    的头像 发表于 07-07 09:45 1633次阅读
    从<b class='flag-5'>千卡</b><b class='flag-5'>集群</b>卡到万<b class='flag-5'>卡</b><b class='flag-5'>集群</b>,燧原科技打造更好的AI<b class='flag-5'>算</b>力底座

    摩尔线程与智谱AI完成模型性能测试与适配

    近日,摩尔线程与智谱AI在人工智能领域开展了一轮深入的合作,共同对GPU大模型进行了适配及性能测试。此次测试不仅涵盖了大模型
    的头像 发表于 06-14 16:40 623次阅读

    摩尔线程与羽人科技携手完成7B大模型训练测试

    近日,摩尔线程与羽人科技联合宣布了一项重要成果:双方已成功实现夸娥(KUAE)千卡集群与羽人系列模型
    的头像 发表于 06-14 16:33 280次阅读

    摩尔线程与师者AI携手完成70亿参数教育AI大模型训练测试

    近日,国内知名的GPU制造商摩尔线程与全学科教育AI大模型“师者AI”联合宣布,双方已成功完成了一项重要的大模型
    的头像 发表于 06-14 16:31 338次阅读

    摩尔线程科技完成模型训练推理适配

    近日,摩尔线程科技宣布了一项重要合作成果。摩尔线程的夸娥(KUAE)
    的头像 发表于 05-30 10:14 287次阅读

    国产GPU可替代!摩尔线程千卡集群点亮新成就

    摩尔线程、无问芯穹联合宣布,双方已经正式完成MT-infini-3B 3B(30亿参数)规模大模型的实训,基于摩尔
    的头像 发表于 05-29 11:27 421次阅读
    国产GPU可替代!<b class='flag-5'>摩尔</b><b class='flag-5'>线程</b><b class='flag-5'>千卡</b><b class='flag-5'>集群</b>点亮新成就

    摩尔线程、无问芯穹合作完成国产全功能GPU千卡集群

    据介绍,此项训练历时13.2天,过程稳定而有序,集群整体运行稳定性达到了100%。相较于单机训练千卡集群的扩展效率提升了超过90%。
    的头像 发表于 05-27 14:40 413次阅读

    摩尔线程与无问芯穹在国产GPU上首次实现大模型实训

    近日,摩尔线程与无问芯穹共同宣布,双方已正式完成基于国产全功能GPU千卡集群的3B规模大模型实训
    的头像 发表于 05-27 10:59 416次阅读

    摩尔线程与无问芯穹宣布完成基于GPU千卡集群的3B规模大模型实训

    摩尔线程联合无问芯穹宣布,双方已在本周正式完成基于国产全功能GPU千卡集群的3B规模大模型实训。
    的头像 发表于 05-27 10:44 267次阅读
    <b class='flag-5'>摩尔</b><b class='flag-5'>线程</b>与无问芯穹宣布<b class='flag-5'>完成</b>基于GPU<b class='flag-5'>千卡</b><b class='flag-5'>集群</b>的3B规模大<b class='flag-5'>模型</b>实训

    摩尔线程携手憨猴集团,深化AI力战略合作,成功实现大模型分布式训练

    摩尔线程与憨猴科技集团日前宣布,采用搭载摩尔线程的夸娥(KUAE)千卡
    的头像 发表于 05-17 17:24 433次阅读

    摩尔线程携手憨猴集团,共同探索国产AI力的新应用场景与落地实践

    摩尔线程与憨猴科技集团有限公司(简称:憨猴集团)近日宣布,基于摩尔线程的夸娥(KUAE)千卡
    的头像 发表于 05-17 15:08 267次阅读

    摩尔线程助力AI大模型训练与计算升级,共建美好数字化未来

    此外,在中关村国际技术交易大会高精尖技术产品首发会上,摩尔线程与无问芯穹联合宣布,双方正致力于开发基于夸娥千卡集群的“MT-infini
    的头像 发表于 04-28 16:42 669次阅读

    俄罗斯自主芯片遇挫,超半数成废片

    摩尔线程是第一家接入无问芯穹并成功完成千卡级别大模型训练的国产GPU公司,“夸娥”(KUAE)集群
    的头像 发表于 04-02 10:27 317次阅读
    俄罗斯自主芯片遇挫,超半数成废片