近日,摩尔线程与智谱AI在人工智能领域开展了一轮深入的合作,共同对GPU大模型进行了适配及性能测试。此次测试不仅涵盖了大模型的推理能力,还涉及了基于摩尔线程夸娥(KUAE)千卡智算集群的大模型预训练,旨在全面评估摩尔线程GPU在大模型应用中的性能表现。
在推理性能测试中,摩尔线程自研的全功能GPU展现出了卓越的性能。与基准对比产品RTX 3090和RTX 4090相比,摩尔线程的GPU在全部测试用例中均优于RTX 3090,而在多batch情况下更是超越了RTX 4090。这一结果充分证明了摩尔线程GPU在推理能力上的出色表现,为用户提供了更加高效、准确的计算体验。
在训练性能测试中,摩尔线程夸娥千卡智算集群同样展现出了强大的性能。测试结果显示,夸娥千卡智算集群的训练精度与A100集群误差在1%以内,这一数据足以证明其在训练过程中的精确度和稳定性。同时,夸娥千卡智算集群的性能扩展系数超过90%,意味着在分布式计算环境下,该集群能够充分利用各节点的计算能力,实现高效的并行计算。此外,模型算力利用率(MFU)与A100集群相当,进一步证明了夸娥千卡智算集群在大模型训练中的高效性。
此次测试的成功不仅为摩尔线程和智谱AI的合作奠定了坚实的基础,也为双方在人工智能领域的深入探索提供了有力的技术支撑。未来,双方将继续携手合作,共同推动GPU大模型在更多领域的应用和发展。
-
AI
+关注
关注
89文章
38085浏览量
296392 -
人工智能
+关注
关注
1813文章
49734浏览量
261434 -
摩尔线程
+关注
关注
2文章
256浏览量
6203
发布评论请先 登录
摩尔线程新一代大语言模型对齐框架URPO入选AAAI 2026
华为CANN与智谱GLM端侧模型完成适配
摩尔线程亮相WAIC 2025:以“AI工厂”理念驱动算力进化,全栈AI应用赋能千行百业
摩尔线程“AI工厂”:五大核心技术支撑,打造大模型训练超级工厂
摩尔线程“AI工厂”:以系统级创新定义新一代AI基础设施
摩尔线程率先支持腾讯混元-A13B模型
摩尔线程与AI算力平台AutoDL达成深度合作
摩尔线程MTT S4000完成DeepSeek R1-671B大模型适配验证
摩尔线程GPU成功适配Deepseek-V3-0324大模型
摩尔线程与当虹科技达成深度合作
摩尔线程GPU原生FP8计算助力AI训练
摩尔线程完成DeepSeek开源库FlashMLA和DeepGEMM适配
摩尔线程图形显卡MTT S80实现DeepSeek模型部署

摩尔线程与智谱AI完成大模型性能测试与适配
评论