0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

重磅发布 | 矽速 M4N Dock 支持 DeepSeek R1,端侧大模型部署新标杆!

Sipeed矽速科技 2025-02-18 15:35 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

01性能炸裂

速度领先RK358815%,性能直逼OrinNano!

久等了!矽速 M4N Dock(爱芯派Pro,AX650N) 已支持部署 DeepSeek R1 大模型,实测运行速度超越 RK3588 达15% ,距离 40TOPS 算力的 Nvidia Orin Nano 8G版仅差10% !

fd4861cc-edca-11ef-9434-92fbcf53809c.png

图1:DeepSeek-R1 Distill Qwen 运行速度对比

fd681e72-edca-11ef-9434-92fbcf53809c.png

图2:运行实测图

02开发者福利

开源模型+一键部署!

为助力开发者快速上手,现已开源 DeepSeek-R1-Distill-Qwen-1.5B 轻量化模型,支持 GPTQ-Int4 高效推理!

模型下载:Huggingface仓库直达 镜像支持:基于Ubuntu系统的最新镜像 AX650_pipro_box_ubuntu_rootfs_desktop_V1.45.0内置预装环境,用户root,密码1234566,

03

即刻入手

M4N Dock,体验极致性能!

fd8a37b4-edca-11ef-9434-92fbcf53809c.png

图3:M4N Dock产品图

超高性价比,AI推理性能比肩旗舰支持多模态大模型部署即插即用,开发板+算法一站式体验立即购买:Sipeed官方店

04

新品剧透

百元级LLM硬件即将登场!

2025年矽速科技将推出 MaixHAT —— 百元级端侧大模型硬件平台!

fd96897e-edca-11ef-9434-92fbcf53809c.png

图4:MaixHAT产品预览图

核心优势

兼容树莓派HAT接口,无缝适配IoT设备

支持串口LLM推理,可独立运行或作为开发模块

高性价比,加速AIoT产品落地

发布日期:未来2个月内,敬请期待!

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • RK3588
    +关注

    关注

    8

    文章

    585

    浏览量

    7539
  • 大模型
    +关注

    关注

    2

    文章

    3747

    浏览量

    5268
  • DeepSeek
    +关注

    关注

    2

    文章

    837

    浏览量

    3392
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    如何在ZYNQ本地部署DeepSeek模型

    一个将最小号 DeepSeek 模型部署到 AMD Zynq UltraScale+ MPSoC 处理系统的项目。
    的头像 发表于 12-19 15:43 7798次阅读
    如何在ZYNQ本地<b class='flag-5'>部署</b><b class='flag-5'>DeepSeek</b><b class='flag-5'>模型</b>

    DeepSeek模型如何在云服务器上部署

    随着大型语言模型(LLM)的应用日益普及,许多开发者和企业希望将像DeepSeek这样的优秀模型部署到自己的云服务器上,以实现私有化、定制化服务并保障数据安全。本文将详细阐述
    的头像 发表于 10-13 16:52 1119次阅读

    广和通成功部署DeepSeek-R1-0528-Qwen3-8B模型

    近日,广和通在MediaTek MT8893平台上成功部署并运行了DeepSeek-R1-0528-Qwen3-8B模型,显著提升了AI
    的头像 发表于 09-26 13:35 981次阅读

    DeepSeek R1 MTP在TensorRT-LLM中的实现与优化

    。我们在之前的博客[1] 中介绍了 DeepSeek-R1 模型实现超低推理延迟的关键优化措施。本文将深入探讨 TensorRT-LLM 中的 MTP 实现与优化。
    的头像 发表于 08-30 15:47 4652次阅读
    <b class='flag-5'>DeepSeek</b> <b class='flag-5'>R1</b> MTP在TensorRT-LLM中的实现与优化

    如何在NVIDIA Blackwell GPU上优化DeepSeek R1吞吐量

    开源 DeepSeek R1 模型的创新架构包含多头潜在注意力机制 (MLA) 和大型稀疏混合专家模型 (MoE),其显著提升了大语言模型
    的头像 发表于 08-12 15:19 4471次阅读
    如何在NVIDIA Blackwell GPU上优化<b class='flag-5'>DeepSeek</b> <b class='flag-5'>R1</b>吞吐量

    WAIC 2025|深圳科技携新品亮相展区,解锁模型新纪元

    7月26日-7月29日,2025年世界人工智能大会在上海盛大举行,深圳科技携NanoKVM Pro、Maix4‑HAT、MaixCAM2亮相爱芯元智展区(H1-A130)。Nano
    的头像 发表于 07-31 19:06 1739次阅读
    WAIC 2025|深圳<b class='flag-5'>矽</b><b class='flag-5'>速</b>科技携新品亮相展区,解锁<b class='flag-5'>端</b><b class='flag-5'>侧</b>大<b class='flag-5'>模型</b>新纪元

    看!EASY-EAI教你离线部署Deepseek R1模型

    1.Deepseek简介DeepSeek-R1,是幻方量化旗下AI公司深度求索(DeepSeek)研发的推理模型DeepSeek-R1采用
    的头像 发表于 07-25 15:22 1560次阅读
    <b class='flag-5'>速</b>看!EASY-EAI教你离线<b class='flag-5'>部署</b><b class='flag-5'>Deepseek</b> <b class='flag-5'>R1</b>大<b class='flag-5'>模型</b>

    终于有人把模型说清楚了

    最近总听到"模型"这个词,感觉很高大上,但到底是什么意思?和我们平时用的ChatGPT、DeepSeek各种大模型有什么区别?今天就来
    的头像 发表于 07-24 12:03 2601次阅读
    终于有人把<b class='flag-5'>端</b><b class='flag-5'>侧</b>大<b class='flag-5'>模型</b>说清楚了

    【VisionFive 2单板计算机试用体验】3、开源大语言模型部署

    1、ollama平台搭建 ollama可以快速地部署开源大模型,网址为https://ollama.com, 试用该平台,可以在多平台上部署 Dee
    发表于 07-19 15:45

    【「DeepSeek 核心技术揭秘」阅读体验】书籍介绍+第一章读后心得

    的展望,大模型的训练方法、推理部署,到 GPU 硬件及推理模型的发展趋势,以前瞻性的视角为读者描绘了大模型的发展蓝图。 技惊四座的DeepSee
    发表于 07-17 11:59

    Arm Neoverse N2平台实现DeepSeek-R1满血版部署

    颇具优势。Arm 携手合作伙伴,在 Arm Neoverse N2 平台上使用开源推理框架 llama.cpp 实现 DeepSeek-R1 满血版的部署,目前已可提供线上服务。
    的头像 发表于 07-03 14:37 1410次阅读
    Arm Neoverse <b class='flag-5'>N</b>2平台实现<b class='flag-5'>DeepSeek-R1</b>满血版<b class='flag-5'>部署</b>

    【书籍评测活动NO.62】一本书读懂 DeepSeek 全家桶核心技术:DeepSeek 核心技术揭秘

    DeepSeek-V3 的发布几乎没有预热和炒作,仅凭借其出色的效果和超低的成本迅速走红。 DeepSeek-R1 则是在 DeepSeek-V3 的基础上构建的推理
    发表于 06-09 14:38

    DeepSeek开源新版R1 媲美OpenAI o3

    ;还有一些网友的实测评价都显示, DeepSeek新版R1 的性能可以媲美OpenAI最新的o3模型高版本。妥妥的超高性价比的平替。 此外,关于DeepSeek
    的头像 发表于 05-29 11:23 1463次阅读

    瑞萨RZ/V2H平台支持部署离线版DeepSeek -R1大语言模型

    瑞萨RZ/V2H平台支持部署离线版DeepSeek -R1大语言模型
    的头像 发表于 05-13 17:07 1845次阅读
    瑞萨RZ/V2H平台<b class='flag-5'>支持</b><b class='flag-5'>部署</b>离线版<b class='flag-5'>DeepSeek</b> -<b class='flag-5'>R1</b>大语言<b class='flag-5'>模型</b>

    【幸狐Omni3576边缘计算套件试用体验】CPU部署DeekSeek-R1模型1B和7B)

    一、DeepSeek简介 DeepSeek是由中国深度求索公司开发的开源大语言模型系列,其研发始于2023年,目标是为学术界和产业界提供高效可控的AI基础设施。R1系列作为其里程碑版本
    发表于 04-21 00:39