Gitee AI 刚刚上线了DeepSeek-R1-Distill-Qwen-1.5B、DeepSeek-R1-Distill-Qwen-7B、DeepSeek-R1-Distill-Qwen-14B、DeepSeek-R1-Distill-Qwen-32B四个较小尺寸的 DeepSeek 模型。值得关注的是,本次上线的四个模型均部署在国产沐曦曦云 GPU 上。

与全尺寸 DeepSeek 模型相比,较小尺寸的 DeepSeek 蒸馏版本模型更适合企业内部实施部署,可以极大的降低落地成本。
同时,这次 Deepseek R1 模型 + 沐曦曦云 GPU + Gitee AI 平台,更是实现了从芯片到平台,从算力到模型,全国产研发、中国制造。
100%国产AI的力量
国产模型 DeepSeek R1
DeepSeek R1 是一款大型混合专家(MoE)模型,拥有 6710 亿个参数,支持 128000 个 Token 的大输入上下文长度。在数学、代码和自然语言推理等任务上表现出色。
本次部署在沐曦曦云 GPU 上的是四个 DeepSeek R1 蒸馏模型,以更小参数量的资源占用,实现了性能与大参数模型旗鼓相当。

国产 GPU 沐曦曦云
曦云系列通用 GPU 产品(包括 C550、C500、C500X、C290、C280、N260 等型号)采用完全自主研发的 GPU IP,拥有完整的知识产权,并具备强大的多精度混合计算能力及高带宽显存支持。同时,沐曦产品搭载先进的时空互联技术和全球兼容的 MXMACA 软件栈,可广泛应用于智能、通用计算和数据处理等场景。

在本次部署适配工作中,得益于沐曦曦云良好的 CUDA 兼容性,同时得到沐曦的算力供应商超讯通信的鼎力支持,最终实现了模型的快速部署、稳定调用。
国产平台 Gitee AI
2024 年初上线以来,Gitee AI 平台以 Serverless API、模型引擎、AI 应用为核心功能与服务,致力于让开发者轻松构建和部署 AI 应用,为企业客户提供更加智能、高效的 AI 应用解决方案。

100%国产AI免费跑
目前 Gitee AI 上的DeepSeek-R1-Distill系列模型现已面向全体开发者免费使用!免费使用!免费使用!
本次上线的模型参数虽小,但它们表现并不亚于大参数模型,如下图中的DeepSeek-R1-Distill-Qwen-14B,虽然参数较小,但简单任务相较于大参数模型其响应速度更快,同时也具备体现思考过程的能力:

模型自强、算力自强、平台自强,100%国产AI的新时代已然来临。与其在“制裁-替代-再制裁”的循环中疲于奔命,不如和我们一起在国产 AI 的土壤上,种出下一个时代的参天大树。
访问 Gitee AI,体验基于沐曦算力的 DeepSeek R1,开启你的100%国产AI开发之旅!
审核编辑 黄宇
-
AI
+关注
关注
91文章
41141浏览量
302608 -
DeepSeek
+关注
关注
2文章
839浏览量
3406
发布评论请先 登录
千问首款AI硬件亮相:“千问AI眼镜”3月8日首发,全面接入千问APP
沐曦股份曦云C系列GPU全面适配通义千问Qwen3.5三款新模型
沐曦股份曦云C系列GPU深度适配通义千问Qwen3.5模型
强强联合:之江实验室与沐曦股份共建智算集群联合实验室
首款全国产通用GPU芯片发布 沐曦集成推出曦云C600
沐曦联合香港科技大学登上AI顶会
书生大模型实战营沐曦魔乐专场MeetUP精彩回顾
如何在NVIDIA Blackwell GPU上优化DeepSeek R1吞吐量
Gitee AI 联合沐曦首发全套 DeepSeek R1 千问蒸馏模型,全免费体验!
评论