0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

摩尔线程与智谱AI完成大模型性能测试与适配

CHANBAEK 来源:网络整理 2024-06-14 16:40 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

近日,摩尔线程与智谱AI人工智能领域开展了一轮深入的合作,共同对GPU大模型进行了适配及性能测试。此次测试不仅涵盖了大模型的推理能力,还涉及了基于摩尔线程夸娥(KUAE)千卡智算集群的大模型预训练,旨在全面评估摩尔线程GPU在大模型应用中的性能表现。

在推理性能测试中,摩尔线程自研的全功能GPU展现出了卓越的性能。与基准对比产品RTX 3090和RTX 4090相比,摩尔线程的GPU在全部测试用例中均优于RTX 3090,而在多batch情况下更是超越了RTX 4090。这一结果充分证明了摩尔线程GPU在推理能力上的出色表现,为用户提供了更加高效、准确的计算体验。

在训练性能测试中,摩尔线程夸娥千卡智算集群同样展现出了强大的性能。测试结果显示,夸娥千卡智算集群的训练精度与A100集群误差在1%以内,这一数据足以证明其在训练过程中的精确度和稳定性。同时,夸娥千卡智算集群的性能扩展系数超过90%,意味着在分布式计算环境下,该集群能够充分利用各节点的计算能力,实现高效的并行计算。此外,模型算力利用率(MFU)与A100集群相当,进一步证明了夸娥千卡智算集群在大模型训练中的高效性。

此次测试的成功不仅为摩尔线程和智谱AI的合作奠定了坚实的基础,也为双方在人工智能领域的深入探索提供了有力的技术支撑。未来,双方将继续携手合作,共同推动GPU大模型在更多领域的应用和发展。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • AI
    AI
    +关注

    关注

    91

    文章

    41115

    浏览量

    302600
  • 人工智能
    +关注

    关注

    1820

    文章

    50325

    浏览量

    266957
  • 摩尔线程
    +关注

    关注

    2

    文章

    285

    浏览量

    6662
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    MiniMax M2.7全球开源,摩尔线程、沐曦等完成Day0适配

    厂商、推理平台已完成Day0适配,即在开源首日已经完成模型接入与推理适配工作。   MiniMax介绍,三周前MiniMax M2.7率先上
    的头像 发表于 04-14 11:05 1723次阅读

    Day-0支持|摩尔线程率先完成MiniMax M2.7大模型适配

    4月12日,摩尔线程旗舰级AI训推一体全功能GPU MTT S5000已完成对新一代大模型MiniMax M2.7的Day-0极速
    发表于 04-13 07:57 1330次阅读
    Day-0支持|<b class='flag-5'>摩尔</b><b class='flag-5'>线程</b>率先<b class='flag-5'>完成</b>MiniMax M2.7大<b class='flag-5'>模型</b><b class='flag-5'>适配</b>

    Day-0支持|摩尔线程完成GLM-5.1极速适配,高效支撑长程任务与代码生成

      今日,摩尔线程在其旗舰级AI训推一体全功能GPU MTT S5000上,成功实现了对智新一代旗舰模型GLM-5.1的Day-0极速
    的头像 发表于 04-08 14:47 1065次阅读
    Day-0支持|<b class='flag-5'>摩尔</b><b class='flag-5'>线程</b><b class='flag-5'>完成</b>智<b class='flag-5'>谱</b>GLM-5.1极速<b class='flag-5'>适配</b>,高效支撑长程任务与代码生成

    摩尔线程MTT S5000全面适配Qwen3.5三款新模型

    第一时间做出极速响应,宣布已在旗舰级AI训推一体全功能GPU MTT S5000上,完成对这三款全新模型的全方位适配。   此次高效支持充分展示了
    的头像 发表于 02-26 16:23 763次阅读

    摩尔线程快速完成对Qwen3.5模型全面适配

    2月17日,摩尔线程宣布已在旗舰级AI训推一体全功能GPU MTT S5000上完成对阿里最新大模型Qwen3.5的全方位
    发表于 02-18 08:32 1120次阅读

    Day-0支持|摩尔线程完成MiniMax M2.5模型极速适配

    2月14日,摩尔线程在其旗舰级AI训推一体全功能GPU MTT S5000上,成功实现了对MiniMax新一代大模型MiniMax M2.5的Day-0极速
    发表于 02-15 08:01 1586次阅读

    摩尔线程MTT S5000率先完成对GLM-5的适配

    2月11日,智正式发布新一代大模型GLM-5。摩尔线程基于SGLang推理框架,在旗舰级AI训推一体全功能GPU MTT S5000上,D
    的头像 发表于 02-12 10:34 976次阅读
    <b class='flag-5'>摩尔</b><b class='flag-5'>线程</b>MTT S5000率先<b class='flag-5'>完成</b>对GLM-5的<b class='flag-5'>适配</b>

    Day-0支持|摩尔线程MTT S5000率先完成对GLM-5的适配

    2月11日,智正式发布新一代大模型GLM-5。摩尔线程基于SGLang推理框架,在旗舰级AI训推一体全功能GPU MTT S5000上,D
    发表于 02-12 09:15 1616次阅读
    Day-0支持|<b class='flag-5'>摩尔</b><b class='flag-5'>线程</b>MTT S5000率先<b class='flag-5'>完成</b>对GLM-5的<b class='flag-5'>适配</b>

    摩尔线程正式开源TileLang-MUSA项目

    近日,摩尔线程正式开源TileLang-MUSA项目,实现对TileLang编程语言的完整支持。该项目已成功在摩尔线程多代全功能GPU上完成
    的头像 发表于 02-11 16:57 1685次阅读

    全栈国产AI Coding上线:摩尔线程+硅基流动+智,强强联合!

    摩尔线程今日正式推出AI Coding Plan 智能编程服务。作为首个基于国产全功能 GPU 算力底座构建的智能开发解决方案,该服务以 MTT S5000 强劲的全精度计算能力为核心驱动,融合硅
    的头像 发表于 02-03 17:07 1959次阅读
    全栈国产<b class='flag-5'>AI</b> Coding上线:<b class='flag-5'>摩尔</b><b class='flag-5'>线程</b>+硅基流动+智<b class='flag-5'>谱</b>,强强联合!

    华为CANN与智GLM端侧模型完成适配

    已于7月28日正式开源其新一代基座模型GLM-4.5,其GLM端侧模型完成与CANN的适配。这标志着国产大模型与计算架构在端云协同方向实现
    的头像 发表于 08-11 11:00 2776次阅读

    摩尔线程AI工厂”:五大核心技术支撑,打造大模型训练超级工厂

    演讲中表示,为应对生成式AI爆发式增长下的大模型训练效率瓶颈,摩尔线程将通过系统级工程创新,构建新一代AI训练基础设施,致力于为AGI时代打
    的头像 发表于 07-28 11:28 4843次阅读
    <b class='flag-5'>摩尔</b><b class='flag-5'>线程</b>“<b class='flag-5'>AI</b>工厂”:五大核心技术支撑,打造大<b class='flag-5'>模型</b>训练超级工厂

    摩尔线程AI工厂”:以系统级创新定义新一代AI基础设施

    演讲中表示,为应对生成式AI爆发式增长下的大模型训练效率瓶颈,摩尔线程将通过系统级工程创新,构建新一代AI训练基础设施,致力于为AGI时代打
    发表于 07-28 10:34 2922次阅读
    <b class='flag-5'>摩尔</b><b class='flag-5'>线程</b>“<b class='flag-5'>AI</b>工厂”:以系统级创新定义新一代<b class='flag-5'>AI</b>基础设施

    摩尔线程率先支持腾讯混元-A13B模型

    近日,腾讯正式开源基于专家混合(MoE)架构的大语言模型混元-A13B。同日,摩尔线程团队凭借技术前瞻性,率先完成模型在全功能GPU的深度
    的头像 发表于 07-04 14:10 1016次阅读

    摩尔线程MTT S4000完成DeepSeek R1-671B大模型适配验证

    研究院(简称:中国信通院)依托“人工智能芯片测试评估公共服务平台”,构建了AI芯片与大模型协同适配的标准化体系,为产业链上下游深度合作提供关键支撑,并开展
    的头像 发表于 05-10 09:49 1479次阅读