0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

墨芯完成智谱大模型适配黄金认证助推国产算力商业化进程

墨芯人工智能 来源:墨芯人工智能 2023-11-27 09:16 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

在推动大模型算力量级提升的道路上,稀疏计算引领者墨芯人工智能(以下简称“墨芯”)再次迈出重要的一步。

近日,墨芯旗下产品S30计算卡经过智谱AI内部专家的严格测评,荣获黄金级别认证,充分显示了其与智谱AI(以下简称“智谱”)的ChatGLM2-6B开源大模型在推理与微调方面的高度兼容性和卓越适配能力

df8c5f74-8cc0-11ee-939d-92fbcf53809c.jpg

墨芯获得智谱ChatGLM2-6B模型黄金认证证书

除了上述已经成功适配的ChatGLM2-6B大模型外,墨芯正通过基于S30计算卡的定制化算力为智谱提供一体化解决方案,同时也积极参与到智谱其他闭源商业大模型的兼容性适配中,这一过程也加速了智谱AI大模型的商用步伐。

墨芯的助力,不仅是对智谱现有AI产品矩阵的算力加持,更是对其未来AI技术应用领域落地的一次积极探索。通过这种合作,墨芯和智谱AI共同推动了国产大模型技术的商业化进程,加快了其在多个行业中的实际应用和普及。墨芯的S30计算卡作为这一合作的关键组成部分,其强大的算力和高效的适配能力不仅提升了智谱AI大模型的开发和部署,也为之后在更多领域的合作提供了坚实的基础,进一步推动了国产大模型的广阔应用和行业渗透。

此外,S30计算卡在技术创新上的突破,特别是在稀疏计算和AI算法优化方面的先进性,为智谱的AI大模型提供了强大的后端支撑。这不仅加强了智谱大模型的性能和适用性,而且在促进国产AI技术的商业化和产业化方面发挥了重要作用。通过这种强强联手模式,墨芯和智谱共同展现了国内AI技术在未来无限的竞争力和创新潜力。

通过本次认证的S30计算卡搭载墨芯首颗Antoum芯片,以其高达32倍稀疏率的强劲AI算力,专注服务与数据中心AI推理的多元需求。其应用领域覆盖了互联网、通信、智慧城市建设、生命科学、自动驾驶等关键行业,体现了其广泛的适用性和灵活性。

墨芯的双稀疏算法和Antoum架构的创新,使S30在同行业产品中处于领先地位,更显著优化了客户的总拥有成本(TCO)。

S30计算卡在行业内以其卓越的推理加速性能始终保持领先。此前,在9月举办的最新一届的全球权威测评MLPerf Inference 3.1推理评测中,墨芯S30计算卡,以其无与伦比的性能,在处理GPT-J(60亿参数)大模型推理任务时,无论是单卡还是多卡配置,均力压群雄,荣登榜首。这是墨芯连续第三次在MLPerf推理评测中取得领先成绩,进一步夯实其在AI算力领域的领导地位。

dfb48972-8cc0-11ee-939d-92fbcf53809c.png

墨芯S30计算卡在GPT-J-99模型中的性能表现

ChatGLM2-6B模型由智谱AI与清华大学KEG实验室共同研发,是一款功能强大的开源中英双语对话模型。其在沿袭了初代模型的流畅对话和低部署难度的基础上,进一步提升了推理速度和降低显存占用,整体性能更加出色。

S30计算卡的黄金认证,不仅是其技术实力的显著证明,更是墨芯赋能智谱大模型商业化进程的关键一环,不仅证实了S30计算卡在运行智谱ChatGLM2-6B大模型时的稳定性和高吞吐能力,也标志着墨芯与智谱在共同推进大模型技术发展和生态建设方面的成功合作。未来,墨芯人工智能将与智谱AI在更多领域展开广阔合作,共同致力于推动国产AI大模型生态圈的协同进步与创新。

关于

智谱AI

ABOUT ZHIPU AI

北京智谱华章科技有限公司(简称“智谱AI”)致力于打造新一代认知智能大模型,专注于做大模型的中国创新。公司合作研发了中英双语千亿级超大规模预训练模型GLM-130B,并基于此推出对话模型ChatGLM,开源单卡版模型ChatGLM-6B。同时,团队还打造了AIGC模型及产品矩阵,包括AI提效助手智谱清言、高效率代码模型CodeGeeX、多模态理解模型CogVLM和文生图模型CogView等。公司践行Model as a Service(MaaS)的市场理念,推出大模型MaaS开放平台,打造高效率、通用化的“模型即服务”AI开发新范式。

关于墨芯

人工智能

ABOUT MOFFETT AI

墨芯人工智能是稀疏计算引领者,致力于提供云端和终端AI计算平台和服务。通过全球领先的稀疏计算技术优势,打造软硬协同的新一代智能计算平台。产品性能位居行业领先,相较行业主流产品,在算力、能效比与成本等方面均实现数量级优化。面向互联网、运营商、金融、制造、医疗、交通、能源、生命科学、自动驾驶等众多行业与场景,提供高算力、低功耗、高性价比的AI算力服务,赋能前沿科技的进步与社会的智能化升级。






审核编辑:刘清

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 人工智能
    +关注

    关注

    1820

    文章

    50314

    浏览量

    266868
  • ai技术
    +关注

    关注

    1

    文章

    1315

    浏览量

    25802

原文标题:墨芯完成智谱大模型适配黄金认证,助推国产算力商业化进程

文章出处:【微信号:墨芯人工智能,微信公众号:墨芯人工智能】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    昆仑科技完成MiniMax M2.7模型极速适配

    今日,MiniMax正式开源MiniMax M2.7模型。昆仑同步完成对该模型的Day 0适配与深度优化,成为首批实现
    的头像 发表于 04-13 17:07 468次阅读

    昆仑率先完成新一代旗舰模型GLM-5.1深度支持

    今日,智正式开源新一代旗舰模型GLM-5.1。作为当前全球领先的开源大模型之一,GLM-5.1在长程任务(Long Horizon Task)处理能力上实现了显著突破。模型发布当日,
    的头像 发表于 04-09 17:31 1229次阅读

    沐曦股份曦云C系列GPU产品Day 0适配GLM-5.1旗舰模型

    4月8日,智新一代旗舰模型GLM-5.1实现开源。目前,沐曦股份曦云 C 系列 GPU已完成该系列模型Day 0 全量适配,再度以全栈自主
    的头像 发表于 04-09 11:25 353次阅读

    携手多家产业伙伴合作完成产品兼容适配认证

    近期,兆携手多家产业伙伴,基于开胜系列服务器处理器、开先系列PC嵌入式处理器平台,合作完成了兆自主CPU与企业级/消费机SSD、AI
    的头像 发表于 04-07 13:57 218次阅读

    海光DCU完成阶跃星辰基座模型Step 3.5 Flash推理适配

    近日,海光DCU正式完成对阶跃星辰旗舰开源基座模型Step 3.5 Flash的全流程适配与深度调优。得益于新一代海光DCU原生支持FP8精度、超越主流旗舰产品的更大显存等核心优势,高效完成
    的头像 发表于 03-26 09:48 626次阅读

    国产出海元年开启

      国产开启“大航海”时代。 黄仁勋前段时间访华时曾表示:“华为AI芯片取代英伟达只是时间问题。”彼时,这话多被解读为对老对手的客套。但在刚刚结束的2025世界人工智能大会上,华为昇腾384超
    的头像 发表于 03-24 15:15 502次阅读
    <b class='flag-5'>国产</b><b class='flag-5'>算</b><b class='flag-5'>力</b>出海元年开启

    壁仞科技壁砺166系列产品深度适配MiniMax M2.5和智GLM-5模型

    2月13日晚,MiniMax正式开源了最新旗舰模型M2.5。壁仞科技(06082.HK)旗舰产品壁砺166系列率先完成M2.5的本地部署,成为首批完成
    的头像 发表于 02-26 14:31 736次阅读
    壁仞科技壁砺166系列产品深度<b class='flag-5'>适配</b>MiniMax M2.5和智<b class='flag-5'>谱</b>GLM-5<b class='flag-5'>模型</b>

    揭秘中星微技术星元大模型

    国产模型从技术竞赛迈向产业深耕的关键阶段,中星微技术依托二十余年“星光中国工程”技术积淀,推出星元大模型体系。作为“芯片-
    的头像 发表于 01-27 09:03 592次阅读

    人工智能智解决方案技术架构体系新落两地

    在国家“十五五”规划引导下,全国一体网络加速构建。人工智能的智解决方案凭借独有的技术
    的头像 发表于 01-14 10:53 639次阅读

    人工智能千卡集群正式签约入驻新疆中心

    在“东数西”国家工程全面推进的大背景下,新疆凭借其丰富的清洁能源和独特的区位优势,正迅速崛起为国家级网络的关键枢纽。近日,人工智能
    的头像 发表于 12-30 17:27 922次阅读

    湘军,让变成生产

    脑极体
    发布于 :2025年11月25日 22:56:58

    国产AI芯片真能扛住“内卷”?海思昇腾的这波操作藏了多少细节?

    反而压到了310W。更有意思的是它的异构架构:NPU+CPU+DVPP的组合,居然能同时扛住训练和推理场景,之前做自动驾驶算法时,用它跑模型时延直接降了20%。 但疑惑也有:这种密度下,散热怎么解决?而且昇腾的生态
    发表于 10-27 13:12

    企创科技与天罡智合作再升级,独家运营模型市场赋能AI应用高效商业化

    重要升级。在既有品牌战略合作基础上,企创科技正式成为天罡智平台"AI模型市场"的独家运营商,此标志着双方合作从品牌层面深化至业务运营核心,共同为人工智能企业打造从市场推广到商业转化的完整闭环服务。 一、强强联合,构建AI应用
    的头像 发表于 10-22 13:43 244次阅读
    企创科技与天罡智<b class='flag-5'>算</b>合作再升级,独家运营<b class='flag-5'>模型</b>市场赋能AI应用高效<b class='flag-5'>商业化</b>

    人工智能与陕西省国资中心达成战略合作

    在新质生产浪潮推动下,深耕稀疏计算的国内AI芯片企业人工智能(以下简称“”)近日与陕西省国资
    的头像 发表于 10-15 16:17 600次阅读

    华为CANN与智GLM端侧模型完成适配

    已于7月28日正式开源其新一代基座模型GLM-4.5,其GLM端侧模型完成与CANN的适配。这标志着国产
    的头像 发表于 08-11 11:00 2755次阅读