0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

完成适配!曦云C500在智谱AI升级版大模型上充分兼容、高效稳定运行

沐曦MetaX 来源:沐曦MetaX 2023-08-23 10:38 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

近日,沐曦集成电路(上海)有限公司(下称“沐曦”)曦云C500千亿参数AI大模型训练及通用计算GPU与北京智谱华章科技有限公司(下称“智谱AI”)开源的中英双语对话语言模型ChatGLM2-6B完成适配。测试结果显示,曦云C500在智谱AI的升级版大模型上充分兼容、高效稳定运行。

沐曦旗舰产品曦云C500基于自主研发的高性能GPU IP,特别适合千亿参数AI大模型的训练和推理;基于全自研 GPU 指令集打造的MXMACA软件栈,全面兼容主流GPU生态,实现用户零成本迁移;通过自主知识产权的MetaXLink实现单机8卡GPU全互联,提供构建高密度算力和云计算部署的优秀国产GPU解决方案;可广泛应用于千亿参数AI大模型训练与推理、AIGC内容生成、推荐系统、自动语音识别、语音合成、图像分割检测,以及科学计算、数据库加速等多种场景。

由清华技术成果转化的智谱AI推出的双语对话模型ChatGLM2-6B在初代模型ChatGLM-6B基础上做了升级,采用监督微调、反馈自助和人类反馈强化学习等方式,能够生成符合人类偏好的答案。通过此次联合适配测试,依托曦云C500运行的ChatGLM2-6B可节省大量时间成本和运营成本,降低硬件接入AI模型训练和推理的门槛,为国产大模型提供强大的算力支撑。未来双方将共同探索国产GPU大模型训推一体机在各个行业的应用,携手打造软硬件一体化解决方案,让企业可以在国产自主创新的平台上实现自主、安全、可控的大模型应用和迭代。

关于沐曦

沐曦致力于为异构计算提供安全可靠的GPU芯片及解决方案,打造全栈GPU芯片产品,推出曦思N系列GPU用于AI推理,曦云C系列GPU用于千亿参数AI大模型训练及通用计算,以及曦彩G系列GPU用于图形渲染,满足数据中心对“高能效”及“高通用性”的算力需求。沐曦产品均采用完全自主研发的GPU IP,拥有完全自主的指令集和架构,配以兼容主流GPU生态的完整软件栈(MXMACA),具备高能效和高通用性的天然优势,能够为客户构建软硬件一体的全面生态解决方案,是“双碳”背景下推动数据中心建设和产业数字化、智能化转型升级的算力基石。

审核编辑:彭菁

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • gpu
    gpu
    +关注

    关注

    28

    文章

    5099

    浏览量

    134443
  • AI
    AI
    +关注

    关注

    89

    文章

    38090

    浏览量

    296491
  • 语言模型
    +关注

    关注

    0

    文章

    570

    浏览量

    11253
  • 沐曦
    +关注

    关注

    0

    文章

    54

    浏览量

    1653
  • 大模型
    +关注

    关注

    2

    文章

    3440

    浏览量

    4963

原文标题:沐曦与智谱AI完成兼容性测试 共建软硬件一体化解决方案

文章出处:【微信号:沐曦MetaX,微信公众号:沐曦MetaX】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    首款全国产通用GPU芯片发布 沐集成推出C600

    ,并支持MetaXLink超节点扩展技术,硬件性能和软件兼容完全满足下一代生成式AI的训练和推理需求。 而且,沐股份与中国科学院合作的
    的头像 发表于 10-19 20:04 4.5w次阅读

    睿海光电800G光模块助力全球AI基建升级

    巨头反馈,睿海光电800G SR8订单中较竞品提前72小时完成交付,助力其AI训练集群建设周期压缩15%。 三、广泛兼容性:全场景适配+3
    发表于 08-13 19:05

    睿海光电以高效交付与广泛兼容助力AI数据中心800G光模块升级

    全球分支机构提供7×24小时技术支持,确保客户网络长期稳定运行。 睿海光电与您共创AI未来 AI算力需求爆发式增长的今天,睿海光电以技术领
    发表于 08-13 19:01

    华为CANN与智GLM端侧模型完成适配

    已于7月28日正式开源其新一代基座模型GLM-4.5,其GLM端侧模型完成与CANN的适配。这标志着国产大模型与计算架构
    的头像 发表于 08-11 11:00 2192次阅读

    硅基流动携手沐首发基于的Kimi K2推理服务

    今天,硅基流动联合沐集成电路(上海)股份有限公司(简称“沐”),全球首发基于沐 C55
    的头像 发表于 07-23 17:33 1556次阅读

    壁仞科技完成Qwen3旗舰模型适配

    近日,高效适配Qwen3系列模型推理后,壁仞科技宣布完成旗舰版Qwen3-235B-A22B模型
    的头像 发表于 05-16 16:23 777次阅读

    首创开源架构,天玑AI开发套件让端侧AI模型接入得心应手

    。 端侧AI应用开发往往需要调用各种各样的大模型能力,需要更丰富、类型更多的模型适配。为此,Gen-AI Model Hub全面扩容,
    发表于 04-13 19:52

    C500通用计算GPU与百度飞桨完成Ⅱ级兼容性测试

    近日,沐C500通用计算GPU与百度飞桨已完成Ⅱ级兼容性测试。测试结果显示,双方
    的头像 发表于 03-31 14:22 1481次阅读

    C550通用计算GPU完成DeepSeek R1-671B大模型适配

    近日,我国发布多款全球领先的大模型,人工智能(AI)技术产业进入跨越式发展的新阶段。中国信通院依托人工智能芯片测试评估公共服务平台,开展AI芯片与大模型
    的头像 发表于 03-20 15:56 4146次阅读

    加速DeepSeek满血版单卡C500异构推理

    近日,基于开源KTransformers架构的 CPU/GPU 异构推理能力,沐C500单卡GPU上成功实现DeepSeek-R1-
    的头像 发表于 03-20 15:52 1887次阅读

    百度智能四款大模型应用完成DeepSeek适配

    百度智能AI模型应用方面取得了新的进展。近日,其旗下的客悦、灵、一见、甄知四款大模型应用
    的头像 发表于 02-10 10:47 742次阅读

    Gitee AI 联合沐首发全套 DeepSeek R1 千问蒸馏模型,全免费体验!

    、DeepSeek-R1-Distill-Qwen-14B、DeepSeek-R1-Distill-Qwen-32B四个较小尺寸的 DeepSeek 模型。值得关注的是, 本次上线的四个模型均部署国产沐
    的头像 发表于 02-10 09:56 1099次阅读
    Gitee <b class='flag-5'>AI</b> 联合沐<b class='flag-5'>曦</b>首发全套 DeepSeek R1 千问蒸馏<b class='flag-5'>模型</b>,全免费体验!

    海光信息技术团队成功适配DeepSeek大模型

    方面取得了重要进展。 DeepSeek-Janus-Pro是海光团队近期完成适配优化的第三款DeepSeek大模型。此次适配工作的顺利完成
    的头像 发表于 02-08 14:10 1108次阅读

    澎峰科技与沐完成联合测试,实现全面兼容

    实现了全面兼容,为用户提供了更为高效稳定的解决方案。 测试过程中,澎峰科技与沐科技的技术团队紧密协作,对PerfXLM和PerfXCl
    的头像 发表于 01-21 15:20 966次阅读

    澎峰科技计算软件栈与沐GPU完成适配和互认证

    ‍近期,澎峰科技与沐完成了对PerfXLM(推理引擎)、PerfXCloud(大模型服务平台)与沐云系列通用计算GPU的联合测试,测
    的头像 发表于 01-21 09:51 1185次阅读