国产 AI 大模型 DeepSeek 以出色的性价比和高效的模型技术,迅速成为全球 AI 关注的焦点。Firefly 开源团队率先实现 AIBOX 系列产品对 DeepSeek-R1 的全面适配。

R1 模型性能数据
DeepSeek-R1 在后训练阶段大规模使用了强化学习技术,在仅有极少标注数据的情况下,极大提升了模型推理能力,目前基于开源的 R1 模型具有 1.5B-70B 可选,这些蒸馏模型更合适进行本地部署在端侧使用,用于各行各业的项目落地。

AIBOX 实机演示
Firefly 开源团队对 DeepSeek-R1 系列的蒸馏模型进行移植,完成 AIBOX 系列产品对 DeepSeek-R1 的全面适配,以下是实机演示:
通过视频可以看出 DeepSeek-R1-Distill-Qwen-1.5B 在深度思考阶段思路清晰,并给出准确回答。同时,从硬件性能方面看,AIBOX在推理阶段高达到29.187 token/s,能够实现准确、快速的 AI 对话。
模型实测情况
以下是 AIBOX 产品的实测结果:

DeepSeek-R1 产品体验
AIBOX 系列产品具备高性能、低功耗、环境适应性强等特点,算力覆盖 6-157 TOPS,通过搭配多样化深度学习算法,为多个智慧行业进行数字化赋能,AIBOX 全系列产品已在 Firefly 官方平台上线,立即体验属于自己的本地化 DeepSeek!
-
AI
+关注
关注
91文章
41885浏览量
302993 -
大模型
+关注
关注
2文章
3857浏览量
5289 -
DeepSeek
+关注
关注
2文章
861浏览量
3452
发布评论请先 登录
百度腾讯抢滩布局!DeepSeek-R1升级和开源背后,国产AI的逆袭之路
软通华方超节点服务器产品全面适配DeepSeek V4模型
燧原科技L600 FP8原生适配DeepSeek-V4-Pro/Flash模型
中科创达完成魔方派3与AIBOX全栈深度适配及规模化部署
中科曙光AI超集群系统和scaleX640超节点等产品全面适配DeepSeek V3.2
DeepSeek R1 MTP在TensorRT-LLM中的实现与优化
速看!EASY-EAI教你离线部署Deepseek R1大模型
【「DeepSeek 核心技术揭秘」阅读体验】+混合专家
【「DeepSeek 核心技术揭秘」阅读体验】--全书概览
【「DeepSeek 核心技术揭秘」阅读体验】书籍介绍+第一章读后心得
信而泰×DeepSeek:AI推理引擎驱动网络智能诊断迈向 “自愈”时代
Arm Neoverse N2平台实现DeepSeek-R1满血版部署
NVIDIA Blackwell GPU优化DeepSeek-R1性能 打破DeepSeek-R1在最小延迟场景中的性能纪录
AIBOX 全系产品已适配 DeepSeek-R1
评论