近日,摩尔线程与智谱AI在人工智能领域开展了一轮深入的合作,共同对GPU大模型进行了适配及性能测试。此次测试不仅涵盖了大模型的推理能力,还涉及了基于摩尔线程夸娥(KUAE)千卡智算集群的大模型预训练,旨在全面评估摩尔线程GPU在大模型应用中的性能表现。
在推理性能测试中,摩尔线程自研的全功能GPU展现出了卓越的性能。与基准对比产品RTX 3090和RTX 4090相比,摩尔线程的GPU在全部测试用例中均优于RTX 3090,而在多batch情况下更是超越了RTX 4090。这一结果充分证明了摩尔线程GPU在推理能力上的出色表现,为用户提供了更加高效、准确的计算体验。
在训练性能测试中,摩尔线程夸娥千卡智算集群同样展现出了强大的性能。测试结果显示,夸娥千卡智算集群的训练精度与A100集群误差在1%以内,这一数据足以证明其在训练过程中的精确度和稳定性。同时,夸娥千卡智算集群的性能扩展系数超过90%,意味着在分布式计算环境下,该集群能够充分利用各节点的计算能力,实现高效的并行计算。此外,模型算力利用率(MFU)与A100集群相当,进一步证明了夸娥千卡智算集群在大模型训练中的高效性。
此次测试的成功不仅为摩尔线程和智谱AI的合作奠定了坚实的基础,也为双方在人工智能领域的深入探索提供了有力的技术支撑。未来,双方将继续携手合作,共同推动GPU大模型在更多领域的应用和发展。
-
AI
+关注
关注
91文章
41115浏览量
302600 -
人工智能
+关注
关注
1820文章
50325浏览量
266957 -
摩尔线程
+关注
关注
2文章
285浏览量
6662
发布评论请先 登录
MiniMax M2.7全球开源,摩尔线程、沐曦等完成Day0适配
Day-0支持|摩尔线程率先完成MiniMax M2.7大模型适配
Day-0支持|摩尔线程完成智谱GLM-5.1极速适配,高效支撑长程任务与代码生成
摩尔线程MTT S5000全面适配Qwen3.5三款新模型
摩尔线程快速完成对Qwen3.5模型全面适配
Day-0支持|摩尔线程完成MiniMax M2.5模型极速适配
Day-0支持|摩尔线程MTT S5000率先完成对GLM-5的适配
摩尔线程正式开源TileLang-MUSA项目
全栈国产AI Coding上线:摩尔线程+硅基流动+智谱,强强联合!
华为CANN与智谱GLM端侧模型完成适配
摩尔线程“AI工厂”:五大核心技术支撑,打造大模型训练超级工厂
摩尔线程“AI工厂”:以系统级创新定义新一代AI基础设施
摩尔线程与智谱AI完成大模型性能测试与适配
评论