0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

摩尔线程千卡智算集群与滴普企业大模型已完成训练及推理适配

摩尔线程 来源:摩尔线程 2024-05-29 10:28 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

近日,摩尔线程与国内领先的数据智能服务商滴普科技共同宣布,摩尔线程夸娥(KUAE)千卡智算集群与滴普企业大模型Deepexi已完成训练及推理适配。基于摩尔线程夸娥千卡智算集群,滴普科技成功完成了700亿参数LLaMA2大语言模型的预训练测试,训练时长共计77小时,全程无故障连续运行,集群训练稳定性达到100%,训练效率和兼容性均达到预期。

f3c76320-1d62-11ef-b74b-92fbcf53809c.png

滴普科技作为数据智能服务商,以数据智能技术为基础,为客户提供数据智能基础设施、企业大模型产品,以及数据智能创新服务。基于已深度服务的头部客户所积累的深厚数据能力,滴普科技构建的Deepexi企业大模型,在语义、视觉、语音、跨模态等方面的能力均表现优越,能够运用模型工具链为企业提供高质量的数据准备、模型训练、调优、部署及推理服务,快速构建企业不同领域模型以及智能体应用,帮助企业实现从数据驱动到智能驱动的升级。

此次,摩尔线程与滴普科技的合作,借助夸娥千卡智算集群全栈方案的模型覆盖、推理加速、CUDA兼容、断点续训、分布式训练、集群可靠性等8大核心能力,为构建国产化数智赋能底座奠定坚实基础。同时,夸娥千卡智算集群作为业内首个跑通、跑完国产大模型的千卡集群,以全功能GPU为底座,提供软硬一体化的全栈解决方案。基于此次合作,双方能够为各行各业提供全国产大模型解决方案,广泛应用于训练、微调和实时推理等场景。

目前,滴普科技已与中国海诚、中核装备院、百丽时尚等企业开展产业落地实践,成为产业大模型落地的领先企业。未来,摩尔线程与滴普科技将继续发挥双方在技术、场景和软硬件协同方面的优势,在能源、金融、先进制造等领域,以及与央企、国企的合作中,共同探索全国产化解决方案的落地机会,推动人工智能在更多产业领域的应用,助力企业实现智能升级,赋能行业高质量发展。

审核编辑:刘清
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • gpu
    gpu
    +关注

    关注

    28

    文章

    5272

    浏览量

    136070
  • 人工智能
    +关注

    关注

    1820

    文章

    50335

    浏览量

    266969
  • 摩尔线程
    +关注

    关注

    2

    文章

    286

    浏览量

    6663
  • 大模型
    +关注

    关注

    2

    文章

    3773

    浏览量

    5273

原文标题:摩尔线程 × 滴普科技|完成大模型训练与推理适配

文章出处:【微信号:moorethreads,微信公众号:摩尔线程】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    MiniMax M2.7全球开源,摩尔线程、沐曦等完成Day0适配

    厂商、推理平台已完成Day0适配,即在开源首日已经完成模型接入与推理
    的头像 发表于 04-14 11:05 1736次阅读

    Day-0支持|摩尔线程率先完成MiniMax M2.7大模型适配

    4月12日,摩尔线程旗舰级AI训推一体全功能GPU MTT S5000已完成对新一代大模型MiniMax M2.7的Day-0极速适配,再次
    发表于 04-13 07:57 1365次阅读
    Day-0支持|<b class='flag-5'>摩尔</b><b class='flag-5'>线程</b>率先<b class='flag-5'>完成</b>MiniMax M2.7大<b class='flag-5'>模型</b><b class='flag-5'>适配</b>

    Day-0支持|摩尔线程完成智谱GLM-5.1极速适配,高效支撑长程任务与代码生成

      今日,摩尔线程在其旗舰级AI训推一体全功能GPU MTT S5000上,成功实现了对智谱新一代旗舰模型GLM-5.1的Day-0极速适配,提供
    的头像 发表于 04-08 14:47 1067次阅读
    Day-0支持|<b class='flag-5'>摩尔</b><b class='flag-5'>线程</b><b class='flag-5'>完成</b>智谱GLM-5.1极速<b class='flag-5'>适配</b>,高效支撑长程任务与代码生成

    摩尔线程S5000通过智源FlagOS训练验证,精度高出国际主流1.65个百分点

    近日,北京智源人工智能研究院(简称:智源研究院)正式发布重磅验证成果:六款AI芯片、三大模型、同构+异构千卡——众智FlagOS以统一技术栈完成AI训练“全要素”验证。 作为本次验证的
    发表于 03-27 20:11 907次阅读
    <b class='flag-5'>摩尔</b><b class='flag-5'>线程</b>S5000通过智源FlagOS<b class='flag-5'>训练</b>验证,精度高出国际主流1.65个百分点

    国内首个国产AI推理千卡集群落地,采用云天励飞全自研AI推理芯片

    3 月 12 日,云天励飞中标湛江市AI渗透支撑新质生产力基础设施建设项目,中标金额4.2亿元。项目将基于云天励飞自研的国产AI推理加速,建设国产AI推理千卡
    发表于 03-12 11:10 1320次阅读

    摩尔线程快速完成对Qwen3.5模型全面适配

    2月17日,摩尔线程宣布已在旗舰级AI训推一体全功能GPU MTT S5000上完成对阿里最新大模型Qwen3.5的全方位适配。此次支持充分
    发表于 02-18 08:32 1120次阅读

    Day-0支持|摩尔线程完成MiniMax M2.5模型极速适配

    2月14日,摩尔线程在其旗舰级AI训推一体全功能GPU MTT S5000上,成功实现了对MiniMax新一代大模型MiniMax M2.5的Day-0极速适配。 在此次
    发表于 02-15 08:01 1587次阅读

    摩尔线程MTT S5000率先完成对GLM-5的适配

    2月11日,智谱正式发布新一代大模型GLM-5。摩尔线程基于SGLang推理框架,在旗舰级AI训推一体全功能GPU MTT S5000上,Day-0
    的头像 发表于 02-12 10:34 979次阅读
    <b class='flag-5'>摩尔</b><b class='flag-5'>线程</b>MTT S5000率先<b class='flag-5'>完成</b>对GLM-5的<b class='flag-5'>适配</b>

    Day-0支持|摩尔线程MTT S5000率先完成对GLM-5的适配

    2月11日,智谱正式发布新一代大模型GLM-5。摩尔线程基于SGLang推理框架,在旗舰级AI训推一体全功能GPU MTT S5000上,Day-0
    发表于 02-12 09:15 1618次阅读
    Day-0支持|<b class='flag-5'>摩尔</b><b class='flag-5'>线程</b>MTT S5000率先<b class='flag-5'>完成</b>对GLM-5的<b class='flag-5'>适配</b>

    训练推理:大模型力需求的新拐点已至

    在大模型产业发展的早期阶段,行业焦点主要集中在大模型训练所需的力投入。一个万亿参数大模型训练
    的头像 发表于 02-05 16:07 1036次阅读
    从<b class='flag-5'>训练</b>到<b class='flag-5'>推理</b>:大<b class='flag-5'>模型</b><b class='flag-5'>算</b>力需求的新拐点已至

    国产力首证具身大脑模型训练实力:摩尔线程联合智源研究院完成RoboBrain 2.5全流程训练

    随着具身智能成为人工智能的下一个战略高地,底层力底座的自主可控显得尤为关键。近日,摩尔线程联合北京智源人工智能研究院(以下简称:智源)基于FlagOS-Robo框架,依托 MTT S5000
    的头像 发表于 01-14 09:05 767次阅读
    国产<b class='flag-5'>算</b>力首证具身大脑<b class='flag-5'>模型</b><b class='flag-5'>训练</b>实力:<b class='flag-5'>摩尔</b><b class='flag-5'>线程</b>联合智源研究院<b class='flag-5'>完成</b>RoboBrain 2.5全流程<b class='flag-5'>训练</b>

    墨芯人工智能千卡集群正式签约入驻新疆力中心

    在“东数西”国家工程全面推进的大背景下,新疆凭借其丰富的清洁能源和独特的区位优势,正迅速崛起为国家级力网络的关键枢纽。近日,墨芯人工智能(以下简称“墨芯”)的千卡集群正式签约入驻新
    的头像 发表于 12-30 17:27 936次阅读

    杭州灵汐类脑智集群实现大模型快速推理

    据悉,“杭州灵汐类脑智集群”已于7月底实现了大模型快速推理API的企业服务试运行。该集群由杭州
    的头像 发表于 08-18 16:06 1120次阅读

    澎峰科技完成OpenAI最新开源推理模型适配

    澎峰科技现已完成 OpenAI 最新开源推理模型 gpt-oss-20b 在 DeepFusion 大模型一体机上的原生适配与优化,用户可一键启用这颗“小而强悍”的新引擎,在本地享受
    的头像 发表于 08-14 11:34 1560次阅读

    摩尔线程“AI工厂”:五大核心技术支撑,打造大模型训练超级工厂

    演讲中表示,为应对生成式AI爆发式增长下的大模型训练效率瓶颈,摩尔线程将通过系统级工程创新,构建新一代AI训练基础设施,致力于为AGI时代打
    的头像 发表于 07-28 11:28 4847次阅读
    <b class='flag-5'>摩尔</b><b class='flag-5'>线程</b>“AI工厂”:五大核心技术支撑,打造大<b class='flag-5'>模型</b><b class='flag-5'>训练</b>超级工厂