0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

摩尔线程助力AI大模型训练与计算升级,共建美好数字化未来

微云疏影 来源:综合整理 作者:综合整理 2024-04-28 16:42 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

围绕“创新:构建更美好世界”主题,由科技部、发改委、工信部、国资委、中科院、工程院、科协及北京市政府联合举办的2024年中关村论坛于近日在京举行。本次论坛汇聚了来自100多个国家和地区的嘉宾,以及150多家外国政府部门和国际组织机构。同时,一系列人工智能新技术、新应用、新模式在此次论坛上得到展示和发布。

在论坛期间,中关村国际技术交易大会开幕式暨全球技术交易生态伙伴大会成功举办,并发布了《百项新技术新产品榜单》。值得关注的是,摩尔线程夸娥(KUAE)智算中心全栈解决方案荣获该榜单重点推荐。得益于其高兼容性、稳定性、扩展性及算力利用率等优势,摩尔线程夸娥智算集群能够为千亿参数级别的大模型训练提供强大的算力支持。

此外,在中关村国际技术交易大会高精尖技术产品首发会上,摩尔线程与无问芯穹联合宣布,双方正致力于开发基于夸娥千卡智算集群的“MT-infini-3B”合作大模型。摩尔线程成为首家接入无问芯穹并进行千卡级别大模型训练的国产GPU厂商。无问芯穹联合创始人兼CEO夏立雪表示,经过无问芯穹Infini-AI平台实训与联合优化,摩尔线程夸娥千卡智算集群在精度、性能、易用性和算力利用率方面表现出色,且在实训过程中实现了长时间稳定训练,为千亿参数级别大模型训练提供了持续高效的高性能算力支持。未来,他们计划将此合作模型在Infini-AI平台上向公众开放。

论坛首日,在北京银行新质生产力与组合金融发展大会上,摩尔线程创始人兼CEO张建中发表了以《构建AGI时代的金融科技新质生产力》为题的主旨演讲,强调人工智能作为新质生产力的创新引擎,将在金融行业中发挥重要作用。他指出,人工智能将通过个性化服务产品、智能化投资决策、自动化风险管理、安全化合规监管、便捷化降本增效等方式,有效应对金融科技领域所面临的诸多挑战。在大模型时代背景下,每个金融企业都应具备自身的大模型和训练基础设施,而安全普惠的国产化算力则是金融行业不可或缺的要素。摩尔线程依托全功能GPU,打造了涵盖芯片至智算中心的先进算力基础设施,以及覆盖软件加速库至大模型分布式训练系统的全栈软件服务,为我国金融行业的数智化转型提供了算力加速。

在中关村国际技术交易大会高精尖技术产品首发会上,摩尔线程联合创始人兼执行总裁王东重点解析了夸娥(KUAE)智算中心全栈解决方案的优点及价值,展示了解决大规模GPU算力建设和运营管理问题的能力。该方案由夸娥(KUAE)计算集群、KUAE Platform集群管理平台及KUAE ModelStudio模型服务组成,实现了开箱即用。目前,摩尔线程已支持包括LLaMA、GLM、Aquila、Baichuan、GPT、Bloom、玉言在内的数十种主流大模型的训练与微调。实践证明,使用摩尔线程夸娥(KUAE)千卡集群进行70B至130B参数规模的大模型训练,其线性加速比高达91%且算力利用率稳定。

中关村论坛作为中国面向全球科技创新交流合作的国家级平台,已成功举办14届。摩尔线程作为中关村独角兽芯片企业与北京市“专精特新”企业,受邀在中关村展示中心常设展出人工智能集群展区和集成电路集群展区。凭借全功能GPU的多元计算优势,摩尔线程已形成以夸娥智算集群为核心的全栈AI产品线,致力于成为大模型和通用人工智能的先进算力基础设施。展望未来,摩尔线程将持续以AI为核心,以技术创新驱动发展,不断拓宽加速计算领域,为构建更美好的数智世界贡献力量。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • gpu
    gpu
    +关注

    关注

    28

    文章

    5099

    浏览量

    134459
  • 摩尔线程
    +关注

    关注

    2

    文章

    256

    浏览量

    6215
  • 大模型
    +关注

    关注

    2

    文章

    3440

    浏览量

    4964
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    摩尔线程新一代大语言模型对齐框架URPO入选AAAI 2026

    近日,摩尔线程在人工智能前沿领域取得重要突破,其提出的新一代大语言模型对齐框架——URPO统一奖励与策略优化,相关研究论文已被人工智能领域的国际顶级学术会议AAAI 2026收录。这一成果标志着
    的头像 发表于 11-17 16:03 229次阅读
    <b class='flag-5'>摩尔</b><b class='flag-5'>线程</b>新一代大语言<b class='flag-5'>模型</b>对齐框架URPO入选AAAI 2026

    【「AI芯片:科技探索与AGI愿景」阅读体验】+AI未来:提升算力还是智力

    本章节作者分析了下AI未来在哪里,就目前而言有来那个两种思想:①继续增加大模型②将大模型改为小模型,并将之优化使之与大
    发表于 09-14 14:04

    摩尔线程发布大模型训练仿真工具SimuMax v1.0

    近日,摩尔线程正式发布并开源大模型分布式训练仿真工具SimuMax 1.0版本。该版本在显存和性能仿真精度上实现突破性提升,同时引入多项关键功能,进一步增强了
    的头像 发表于 09-11 18:19 3335次阅读
    <b class='flag-5'>摩尔</b><b class='flag-5'>线程</b>发布大<b class='flag-5'>模型</b><b class='flag-5'>训练</b>仿真工具SimuMax v1.0

    睿海光电800G光模块助力全球AI基建升级

    18%。 智算中心建设:与国内AI独角兽合作,提供支持液冷散热的800G模块集群,助力其大模型训练效率提升30%。 边缘计算网络:在北美某5
    发表于 08-13 19:05

    睿海光电以高效交付与广泛兼容助力AI数据中心800G光模块升级

    器件敏捷调配。 定制服务:支持OEM/ODM/JDM模式,满足客户从标准品到液冷模块的多元需求。 这一优势已助力多家头部云服务商在AI云平台部署中抢占市场窗口期。 三、广泛兼容性:
    发表于 08-13 19:01

    摩尔线程亮相WAIC 2025:以“AI工厂”理念驱动算力进化,全栈AI应用赋能千行百业

    模型的“超级工厂”。此次参会不仅彰显了摩尔线程AI基础设施领域的系统性创新,更通过多行业案例展现了国产GPU技术的广泛应用前景。     首提“A
    的头像 发表于 07-28 11:34 1432次阅读
    <b class='flag-5'>摩尔</b><b class='flag-5'>线程</b>亮相WAIC 2025:以“<b class='flag-5'>AI</b>工厂”理念驱动算力进化,全栈<b class='flag-5'>AI</b>应用赋能千行百业

    摩尔线程AI工厂”:五大核心技术支撑,打造大模型训练超级工厂

    演讲中表示,为应对生成式AI爆发式增长下的大模型训练效率瓶颈,摩尔线程将通过系统级工程创新,构建新一代A
    的头像 发表于 07-28 11:28 3982次阅读
    <b class='flag-5'>摩尔</b><b class='flag-5'>线程</b>“<b class='flag-5'>AI</b>工厂”:五大核心技术支撑,打造大<b class='flag-5'>模型</b><b class='flag-5'>训练</b>超级工厂

    摩尔线程AI工厂”:以系统级创新定义新一代AI基础设施

    演讲中表示,为应对生成式AI爆发式增长下的大模型训练效率瓶颈,摩尔线程将通过系统级工程创新,构建新一代A
    发表于 07-28 10:34 2401次阅读
    <b class='flag-5'>摩尔</b><b class='flag-5'>线程</b>“<b class='flag-5'>AI</b>工厂”:以系统级创新定义新一代<b class='flag-5'>AI</b>基础设施

    海思SD3403边缘计算AI数据训练概述

    模型,将模型转化为嵌入式AI模型模型升级AI摄像
    发表于 04-28 11:11

    RAKsmart智能算力架构:异构计算+低时延网络驱动企业AI训练范式升级

    AI模型参数量突破万亿、多模态应用爆发的今天,企业AI训练正面临算力效率与成本的双重挑战。RAKsmart推出的智能算力架构,以异构计算
    的头像 发表于 04-17 09:29 597次阅读

    摩尔线程GPU成功适配Deepseek-V3-0324大模型

    架构和全功能GPU的强大技术实力,摩尔线程迅速响应并完成了对DeepSeek-V3的无缝升级,实现了零报错、零兼容性问题的光速部署,充分展现了摩尔
    的头像 发表于 03-31 11:34 1104次阅读
    <b class='flag-5'>摩尔</b><b class='flag-5'>线程</b>GPU成功适配Deepseek-V3-0324大<b class='flag-5'>模型</b>

    Banana Pi 发布 BPI-AI2N &amp; BPI-AI2N Carrier,助力 AI 计算与嵌入式开发

    RZ/V2N——近期在嵌入式世界2025上新发布,为 AI 计算、嵌入式系统及工自动提供强大支持。这款全新的计算平台旨在满足开发者和企业用户对高性能、低功耗和灵活扩展的需求。 [](
    发表于 03-19 17:54

    摩尔线程GPU原生FP8计算助力AI训练

    并行训练和推理,显著提升了训练效率与稳定性。摩尔线程是国内率先原生支持FP8计算精度的国产GPU企业,此次开源不仅为
    的头像 发表于 03-17 17:05 1214次阅读
    <b class='flag-5'>摩尔</b><b class='flag-5'>线程</b>GPU原生FP8<b class='flag-5'>计算</b><b class='flag-5'>助力</b><b class='flag-5'>AI</b><b class='flag-5'>训练</b>

    摩尔线程宣布成功部署DeepSeek蒸馏模型推理服务

    近日,摩尔线程智能科技(北京)有限责任公司在其官方渠道发布了一则重要消息,宣布公司已经成功实现了对DeepSeek蒸馏模型推理服务的部署。这一技术突破,标志着摩尔
    的头像 发表于 02-06 13:49 1184次阅读

    GPU是如何训练AI模型

    AI模型训练过程中,大量的计算工作集中在矩阵乘法、向量加法和激活函数等运算上。这些运算正是GPU所擅长的。接下来,AI部落小编带您了解G
    的头像 发表于 12-19 17:54 1323次阅读