0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

AIBOX 全系产品已适配 DeepSeek-R1

Firefly开源团队 2025-02-08 17:30 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

国产 AI 大模型 DeepSeek 以出色的性价比和高效的模型技术,迅速成为全球 AI 关注的焦点。Firefly 开源团队率先实现 AIBOX 系列产品对 DeepSeek-R1 的全面适配。

617b0f56-e5ff-11ef-9434-92fbcf53809c.png

R1 模型性能数据

DeepSeek-R1 在后训练阶段大规模使用了强化学习技术,在仅有极少标注数据的情况下,极大提升了模型推理能力,目前基于开源的 R1 模型具有 1.5B-70B 可选,这些蒸馏模型更合适进行本地部署在端侧使用,用于各行各业的项目落地。

619c4090-e5ff-11ef-9434-92fbcf53809c.png

AIBOX 实机演示

Firefly 开源团队对 DeepSeek-R1 系列的蒸馏模型进行移植,完成 AIBOX 系列产品对 DeepSeek-R1 的全面适配,以下是实机演示:


通过视频可以看出 DeepSeek-R1-Distill-Qwen-1.5B 在深度思考阶段思路清晰,并给出准确回答。同时,从硬件性能方面看,AIBOX在推理阶段高达到29.187 token/s,能够实现准确、快速的 AI 对话。

模型实测情况

以下是 AIBOX 产品的实测结果:

61ab2cd6-e5ff-11ef-9434-92fbcf53809c.png

DeepSeek-R1 产品体验

AIBOX 系列产品具备高性能、低功耗、环境适应性强等特点,算力覆盖 6-157 TOPS,通过搭配多样化深度学习算法,为多个智慧行业进行数字化赋能,AIBOX 全系列产品已在 Firefly 官方平台上线,立即体验属于自己的本地化 DeepSeek!

61b5d03c-e5ff-11ef-9434-92fbcf53809c.png

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • AI
    AI
    +关注

    关注

    91

    文章

    41885

    浏览量

    302993
  • 大模型
    +关注

    关注

    2

    文章

    3857

    浏览量

    5289
  • DeepSeek
    +关注

    关注

    2

    文章

    861

    浏览量

    3452
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    百度腾讯抢滩布局!DeepSeek-R1升级和开源背后,国产AI的逆袭之路

    电子发烧友网报道(文/李弯弯)日前,DeepSeek官方宣布DeepSeek-R1模型已完成小版本试升级,当前版本为DeepSeek-R1-0528。次日,DeepSeek-R1-05
    的头像 发表于 06-03 06:34 6468次阅读

    软通华方超节点服务器产品全面适配DeepSeek V4模型

    超节点服务器,率先完成了对DeepSeek V4的适配与验证工作。这一举措不仅展现了公司在国产算力领域的深厚技术积淀,更为广大企业用户提供了稳定、高效的算力底座,加速DeepSeek
    的头像 发表于 04-28 16:34 432次阅读

    燧原科技L600 FP8原生适配DeepSeek-V4-Pro/Flash模型

    两大版本,标配百万token长上下文能力,燧原L600已完成对上述两个模型在FP8精度上的极速适配
    的头像 发表于 04-28 15:19 647次阅读

    中科创达完成魔方派3与AIBOX栈深度适配及规模化部署

    的成熟落地经验,已完成开源AI智能体框架OpenClaw在旗下魔方派3与AIBOX两大平台的栈深度适配
    的头像 发表于 02-12 16:09 2672次阅读

    中科曙光AI超集群系统和scaleX640超节点等产品全面适配DeepSeek V3.2

    层实现“跨层协同”,曙光AI超集群系统、scaleX640超节点等产品0day完成对DeepSeek新版本的深度适配与调优,支持各行各业客户进行量落地部署。
    的头像 发表于 12-05 14:32 1042次阅读

    DeepSeek R1 MTP在TensorRT-LLM中的实现与优化

    TensorRT-LLM 在 NVIDIA Blackwell GPU 上创下了 DeepSeek-R1 推理性能的世界纪录,Multi-Token Prediction (MTP) 实现了大幅提速
    的头像 发表于 08-30 15:47 4791次阅读
    <b class='flag-5'>DeepSeek</b> <b class='flag-5'>R1</b> MTP在TensorRT-LLM中的实现与优化

    速看!EASY-EAI教你离线部署Deepseek R1大模型

    1.Deepseek简介DeepSeek-R1,是幻方量化旗下AI公司深度求索(DeepSeek)研发的推理模型。DeepSeek-R1采用强化学习进行后训练,旨在提升推理能力,尤其擅
    的头像 发表于 07-25 15:22 1644次阅读
    速看!EASY-EAI教你离线部署<b class='flag-5'>Deepseek</b> <b class='flag-5'>R1</b>大模型

    【「DeepSeek 核心技术揭秘」阅读体验】+混合专家

    感谢电子发烧友提供学习Deepseek核心技术这本书的机会。 读完《Deepseek核心技术揭秘》,我深受触动,对人工智能领域有了全新的认识。了解Deepseek-R1Deepseek
    发表于 07-22 22:14

    【「DeepSeek 核心技术揭秘」阅读体验】--全书概览

    讲解Deepseek的使用方法 第三章 深入剖析Deepseek-V3的模型架构、训练框架、推理阶段优化、后训练优化等关键技术 第四章关于DeepSeek-R1的技术剖析 第五章 从宏观角度分析
    发表于 07-21 00:04

    【「DeepSeek 核心技术揭秘」阅读体验】书籍介绍+第一章读后心得

    的焦点集中在一家来自中国的初创公司——杭州深度求索人工智能基础技术研究有限公司(DeepSeek)。这家公司凭借其推出的DeepSeek-V3和DeepSeek-R1两款产品,在行业内
    发表于 07-17 11:59

    信而泰×DeepSeek:AI推理引擎驱动网络智能诊断迈向 “自愈”时代

    DeepSeek-R1:强大的AI推理引擎底座DeepSeek是由杭州深度求索人工智能基础技术研究有限公司开发的新一代AI大模型。其核心优势在于强大的推理引擎能力,融合了自然语言处理(NLP)、深度
    发表于 07-16 15:29

    Arm Neoverse N2平台实现DeepSeek-R1满血版部署

    颇具优势。Arm 携手合作伙伴,在 Arm Neoverse N2 平台上使用开源推理框架 llama.cpp 实现 DeepSeek-R1 满血版的部署,目前可提供线上服务。
    的头像 发表于 07-03 14:37 1492次阅读
    Arm Neoverse N2平台实现<b class='flag-5'>DeepSeek-R1</b>满血版部署

    NVIDIA Blackwell GPU优化DeepSeek-R1性能 打破DeepSeek-R1在最小延迟场景中的性能纪录

    本文将探讨 NVIDIA TensorRT-LLM 如何基于 8 个 NVIDIA Blackwell GPU 的配置,打破 DeepSeek-R1 在最小延迟场景中的性能纪录:在 GTC 2025
    的头像 发表于 07-02 19:31 3730次阅读
    NVIDIA Blackwell GPU优化<b class='flag-5'>DeepSeek-R1</b>性能 打破<b class='flag-5'>DeepSeek-R1</b>在最小延迟场景中的性能纪录

    【书籍评测活动NO.62】一本书读懂 DeepSeek 全家桶核心技术:DeepSeek 核心技术揭秘

    ,仅凭极少标注数据便大幅提升了模型的推理能力。在数学、代码、自然语言推理等任务上,DeepSeek-R1 的效果可比肩 OpenAI-o1 正式版。 DeepSeek-R1 在基准
    发表于 06-09 14:38

    DeepSeek开源新版R1 媲美OpenAI o3

    DeepSeek“悄悄”地又放了一个大招,DeepSeek开源了R1最新0528版本。尽管DeepSeek目前还没有对该版本进行任何说明,但是根据著名代码测试平台Live CodeBe
    的头像 发表于 05-29 11:23 1623次阅读