0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

完成适配!曦云C500在智谱AI升级版大模型上充分兼容、高效稳定运行

沐曦MetaX 来源:沐曦MetaX 2023-08-23 10:38 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

近日,沐曦集成电路(上海)有限公司(下称“沐曦”)曦云C500千亿参数AI大模型训练及通用计算GPU与北京智谱华章科技有限公司(下称“智谱AI”)开源的中英双语对话语言模型ChatGLM2-6B完成适配。测试结果显示,曦云C500在智谱AI的升级版大模型上充分兼容、高效稳定运行。

沐曦旗舰产品曦云C500基于自主研发的高性能GPU IP,特别适合千亿参数AI大模型的训练和推理;基于全自研 GPU 指令集打造的MXMACA软件栈,全面兼容主流GPU生态,实现用户零成本迁移;通过自主知识产权的MetaXLink实现单机8卡GPU全互联,提供构建高密度算力和云计算部署的优秀国产GPU解决方案;可广泛应用于千亿参数AI大模型训练与推理、AIGC内容生成、推荐系统、自动语音识别、语音合成、图像分割检测,以及科学计算、数据库加速等多种场景。

由清华技术成果转化的智谱AI推出的双语对话模型ChatGLM2-6B在初代模型ChatGLM-6B基础上做了升级,采用监督微调、反馈自助和人类反馈强化学习等方式,能够生成符合人类偏好的答案。通过此次联合适配测试,依托曦云C500运行的ChatGLM2-6B可节省大量时间成本和运营成本,降低硬件接入AI模型训练和推理的门槛,为国产大模型提供强大的算力支撑。未来双方将共同探索国产GPU大模型训推一体机在各个行业的应用,携手打造软硬件一体化解决方案,让企业可以在国产自主创新的平台上实现自主、安全、可控的大模型应用和迭代。

关于沐曦

沐曦致力于为异构计算提供安全可靠的GPU芯片及解决方案,打造全栈GPU芯片产品,推出曦思N系列GPU用于AI推理,曦云C系列GPU用于千亿参数AI大模型训练及通用计算,以及曦彩G系列GPU用于图形渲染,满足数据中心对“高能效”及“高通用性”的算力需求。沐曦产品均采用完全自主研发的GPU IP,拥有完全自主的指令集和架构,配以兼容主流GPU生态的完整软件栈(MXMACA),具备高能效和高通用性的天然优势,能够为客户构建软硬件一体的全面生态解决方案,是“双碳”背景下推动数据中心建设和产业数字化、智能化转型升级的算力基石。

审核编辑:彭菁

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • gpu
    gpu
    +关注

    关注

    28

    文章

    5339

    浏览量

    136281
  • AI
    AI
    +关注

    关注

    91

    文章

    42233

    浏览量

    303251
  • 语言模型
    +关注

    关注

    0

    文章

    575

    浏览量

    11383
  • 沐曦
    +关注

    关注

    1

    文章

    124

    浏览量

    1897
  • 大模型
    +关注

    关注

    2

    文章

    3883

    浏览量

    5310

原文标题:沐曦与智谱AI完成兼容性测试 共建软硬件一体化解决方案

文章出处:【微信号:沐曦MetaX,微信公众号:沐曦MetaX】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    股份C系列GPU产品Day 0适配阶跃星辰开源Step 3.7 Flash模型

    5 月 29 日,阶跃星辰正式开源面向Agent 生产化阶段推出的新一代 Flash 模型Step 3.7 Flash。沐股份率先完成
    的头像 发表于 05-30 17:25 849次阅读
    沐<b class='flag-5'>曦</b>股份<b class='flag-5'>曦</b><b class='flag-5'>云</b><b class='flag-5'>C</b>系列GPU产品Day 0<b class='flag-5'>适配</b>阶跃星辰开源Step 3.7 Flash<b class='flag-5'>模型</b>

    股份C系列GPU产品Day 0适配腾讯混元Hy3 preview语言模型

    4月23日,腾讯混元团队正式发布并开源Hy3 preview语言模型。沐股份旗下 C 系列 GPU已
    的头像 发表于 04-28 15:51 1843次阅读
    沐<b class='flag-5'>曦</b>股份<b class='flag-5'>曦</b><b class='flag-5'>云</b><b class='flag-5'>C</b>系列GPU产品Day 0<b class='flag-5'>适配</b>腾讯混元Hy3 preview语言<b class='flag-5'>模型</b>

    股份C系列GPU产品Day 0适配百度文心ERNIE-Image文生图模型

    4月15日,百度文心大模型团队重磅推出ERNIE‑Image文生图模型,沐股份 C 系列
    的头像 发表于 04-15 17:39 623次阅读

    股份C系列GPU产品Day 0适配GLM-5.1旗舰模型

    4月8日,智新一代旗舰模型GLM-5.1实现开源。目前,沐股份 C 系列 GPU已
    的头像 发表于 04-09 11:25 581次阅读

    股份C系列GPU全面适配通义千问Qwen3.5三款新模型

    今日,通义千问团队正式开源发布Qwen3.5系列中等规模模型,推出包括Qwen3.5-35B-A3B、Qwen3.5-122B-A10B、Qwen3.5-27B三个版本。沐股份旗下
    的头像 发表于 02-28 10:05 874次阅读
    沐<b class='flag-5'>曦</b>股份<b class='flag-5'>曦</b><b class='flag-5'>云</b><b class='flag-5'>C</b>系列GPU全面<b class='flag-5'>适配</b>通义千问Qwen3.5三款新<b class='flag-5'>模型</b>

    股份C系列GPU深度适配通义千问Qwen3.5模型

    今天,通义千问今天正式发布 Qwen3.5,并推出Qwen3.5系列的第一款模型 Qwen3.5-397B-A17B 的开放权重版本。沐股份C
    的头像 发表于 02-26 14:26 966次阅读
    沐<b class='flag-5'>曦</b>股份<b class='flag-5'>曦</b><b class='flag-5'>云</b><b class='flag-5'>C</b>系列GPU深度<b class='flag-5'>适配</b>通义千问Qwen3.5<b class='flag-5'>模型</b>

    C500/C550 GPU产品深度适配MiniMax M2.5模型

    2月13日晚间,MiniMax正式开源MiniMax M2.5模型。沐技术团队依托MXMACA软件栈,24小时内完成
    的头像 发表于 02-26 14:19 1341次阅读

    C系列GPU Day 0 适配全新一代大模型GLM-5

    AI正式上线并开源全新一代大模型 GLM-5,沐股份实现 Day 0 深度适配。 GLM-5目前可于
    的头像 发表于 02-12 10:53 1264次阅读
    <b class='flag-5'>曦</b><b class='flag-5'>云</b><b class='flag-5'>C</b>系列GPU Day 0 <b class='flag-5'>适配</b>智<b class='flag-5'>谱</b>全新一代大<b class='flag-5'>模型</b>GLM-5

    C500/C550 GPU产品适配GLM-OCR模型

    今天,智AI正式发布并开源GLM-OCR,以 “小尺寸、高精度” 实现文档解析能力新标杆。沐股份
    的头像 发表于 02-03 11:36 1076次阅读
    沐<b class='flag-5'>曦</b><b class='flag-5'>曦</b><b class='flag-5'>云</b><b class='flag-5'>C500</b>/<b class='flag-5'>C</b>550 GPU产品<b class='flag-5'>适配</b>智<b class='flag-5'>谱</b>GLM-OCR<b class='flag-5'>模型</b>

    C600 GPU产品适配阶跃星辰基座模型Step 3.5 Flash

    今天,阶跃星辰技术团队发布并开源最新旗舰基座模型 Step 3.5 Flash。沐股份已实现C600与该
    的头像 发表于 02-02 14:44 649次阅读
    沐<b class='flag-5'>曦</b><b class='flag-5'>曦</b><b class='flag-5'>云</b><b class='flag-5'>C</b>600 GPU产品<b class='flag-5'>适配</b>阶跃星辰基座<b class='flag-5'>模型</b>Step 3.5 Flash

    C500/C550 GPU产品适配腾讯混元图像3.0图生图模型

    近日,腾讯混元团队宣布开源混元图像3.0图生图版本(HunyuanImage 3.0-Instruct),沐股份C500/C550 2
    的头像 发表于 02-02 14:43 705次阅读

    C500/C550 GPU产品适配PaddleOCR-VL-1.5模型

    PaddleOCR-VL 系列的全新迭代版本PaddleOCR-VL-1.5今天正式上线,沐C500/C550 Day 0
    的头像 发表于 01-30 10:19 1664次阅读
    沐<b class='flag-5'>曦</b><b class='flag-5'>曦</b><b class='flag-5'>云</b><b class='flag-5'>C500</b>/<b class='flag-5'>C</b>550 GPU产品<b class='flag-5'>适配</b>PaddleOCR-VL-1.5<b class='flag-5'>模型</b>

    C500/C550 GPU产品适配腾讯混元开源翻译模型1.5版本

    种民汉/方言,除了中文、英语、日语等常见语种,也包含捷克语、马拉地语、爱沙尼亚语、冰岛语等小语种。目前两个模型均在腾讯混元官网上线,通过开源社区也可以直接下载使用。 沐
    的头像 发表于 01-06 14:13 746次阅读
    沐<b class='flag-5'>曦</b><b class='flag-5'>曦</b><b class='flag-5'>云</b><b class='flag-5'>C500</b>/<b class='flag-5'>C</b>550 GPU产品<b class='flag-5'>适配</b>腾讯混元开源翻译<b class='flag-5'>模型</b>1.5版本

    股份C系列GPU Day 0适配GLM-4.6V多模态大模型

    12月8日智AI发布并开源 GLM-4.6V 系列多模态大模型,沐股份
    的头像 发表于 12-17 14:28 945次阅读
    沐<b class='flag-5'>曦</b>股份<b class='flag-5'>曦</b><b class='flag-5'>云</b><b class='flag-5'>C</b>系列GPU Day 0<b class='flag-5'>适配</b>智<b class='flag-5'>谱</b>GLM-4.6V多模态大<b class='flag-5'>模型</b>

    DLInfer联手沐股份实现数据生成场景的实际落地

    近期,上海 AI 实验室 DeepLink 团队推出的 DLInfer 通过支持 LMDeploy 主流模型推理,助力沐股份
    的头像 发表于 12-09 14:55 960次阅读
    DLInfer联手沐<b class='flag-5'>曦</b>股份实现数据生成场景的实际落地