0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

香橙派发布OrangePi RV2本地部署Deepseek-R1蒸馏模型指南

香橙派 2025-03-28 11:55 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

继香橙派昇腾系列产品、OrangePi 5系列产品完成与DeepSeek模型的深度适配之后,香橙派日前官方发布OrangePi RV2运行Deepseek-R1蒸馏模型实操指南。OrangePi RV2是一款全国产化开发板,采用KyX1八核RISC-V AI CPU,即将支持OpenHarmony5.0。

wKgZO2fmHTOAMrACAAg8IslBfwQ313.png

OrangePi RV2是一款高性价比RISC-V开发板,采用Ky X1 8核RISC-V AI CPU,提供2TOPS CPU融合的通用算力,可支持AI模型算法的快速部署。拥有2GB / 4GB / 8GB LPDDR4X,支持eMMC模块(16GB/32GB/64GB/128GB可选),具有Wi-Fi5.0+BT 5.0,支持BLE。

OrangePi RV2具有丰富的接口,包括HDMI输出、GPIO接口、USB2.0、USB3.0、千兆网口,3.5mm耳机插座,配备两个M.2 M-Key插槽(PCIe 2.0 2-Lane),支持安装NVMe固态硬盘。

OrangePi RV2精致小巧,尺寸仅为89mmX56mmX1.6mm,功能强大,可广泛应用于NAS、商用电子产品、智慧机器人、智慧家居、工业控制、边缘计算等。OrangePi RV2支持Ubuntu24.04,即将支持OpenHarmony5.0。

实操指南

  1. 准备一块带系统的RV2开发板,接通电源
wKgZPGfmHTKADWfZAAYNNIGshUo592.png

2. HDMI接口连接显示器,并接入键盘和鼠标,方便接下来的操作。

wKgZO2fmHTOAXZWnAAYJyr_OyY8547.png

3. 系统进入桌面后,点击下方的图标打开浏览器。

wKgZPGfmHTKANj99AAR9DbCAaUc982.png

4. 然后在浏览器的搜索框中输入127.0.0.1:8080,并回车确认。

wKgZO2fmHTGAP-4MAACrrkzR-Z4257.png

5. 然后显示界面如下。

wKgZO2fmHTGAOzLpAAEDYd-cigE608.png

6. 然后选择模型。

wKgZPGfmHTGAPHTJAACKeMK6S9o003.png

7. 然后提问

wKgZO2fmHTGAcSF_AAOawAfJtyI415.png
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 单片机
    +关注

    关注

    6078

    文章

    45581

    浏览量

    673732
  • 香橙派
    +关注

    关注

    2

    文章

    52

    浏览量

    12512
  • orange pi
    +关注

    关注

    0

    文章

    45

    浏览量

    3159
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    百度腾讯抢滩布局!DeepSeek-R1升级和开源背后,国产AI的逆袭之路

    电子发烧友网报道(文/李弯弯)日前,DeepSeek官方宣布DeepSeek-R1模型已完成小版本试升级,当前版本为DeepSeek-R1-0528。次日,
    的头像 发表于 06-03 06:34 6383次阅读

    OrangePi RV2 深度技术评测:RISC-V AI融合架构的先行者

    2 TOPS 融合算力 :在端侧轻量模型(如MobileNet、DeepSeek-R1蒸馏版)上可流畅运行 框架支持 :官方宣称兼容主流AI生态(TensorFlow Lite、ON
    发表于 03-03 20:19

    如何在ZYNQ本地部署DeepSeek模型

    一个将最小号 DeepSeek 模型部署到 AMD Zynq UltraScale+ MPSoC 处理系统的项目。
    的头像 发表于 12-19 15:43 7824次阅读
    如何在ZYNQ<b class='flag-5'>本地</b><b class='flag-5'>部署</b><b class='flag-5'>DeepSeek</b><b class='flag-5'>模型</b>

    广和通成功部署DeepSeek-R1-0528-Qwen3-8B模型

    近日,广和通在MediaTek MT8893平台上成功部署并运行了DeepSeek-R1-0528-Qwen3-8B模型,显著提升了端侧AI设备的处理效率与智能化水平,特别是在本地化复
    的头像 发表于 09-26 13:35 995次阅读

    本地部署openWebUI + ollama+DeepSeek 打造智能知识库并实现远程访问

    DeepSeek 作为一个开源的大语言模型,我们可以通过 ZeroNews + openWebUI + ollama的方式,轻松的在本地私有化部署
    的头像 发表于 09-10 16:41 5523次阅读
    <b class='flag-5'>本地</b><b class='flag-5'>部署</b>openWebUI + ollama+<b class='flag-5'>DeepSeek</b> 打造智能知识库并实现远程访问

    DeepSeek R1 MTP在TensorRT-LLM中的实现与优化

    。我们在之前的博客[1] 中介绍了 DeepSeek-R1 模型实现超低推理延迟的关键优化措施。本文将深入探讨 TensorRT-LLM 中的 MTP 实现与优化。
    的头像 发表于 08-30 15:47 4683次阅读
    <b class='flag-5'>DeepSeek</b> <b class='flag-5'>R1</b> MTP在TensorRT-LLM中的实现与优化

    速看!EASY-EAI教你离线部署Deepseek R1模型

    1.Deepseek简介DeepSeek-R1,是幻方量化旗下AI公司深度求索(DeepSeek)研发的推理模型DeepSeek-R1采用
    的头像 发表于 07-25 15:22 1580次阅读
    速看!EASY-EAI教你离线<b class='flag-5'>部署</b><b class='flag-5'>Deepseek</b> <b class='flag-5'>R1</b>大<b class='flag-5'>模型</b>

    【VisionFive 2单板计算机试用体验】3、开源大语言模型部署

    1、ollama平台搭建 ollama可以快速地部署开源大模型,网址为https://ollama.com, 试用该平台,可以在多平台上部署 Dee
    发表于 07-19 15:45

    【「DeepSeek 核心技术揭秘」阅读体验】书籍介绍+第一章读后心得

    相对策略优化**(GRPO)算法、奖励模型**等关键技术的深入剖析,可以帮助读者了解 DeepSeek 在强化学习领域的创新性探索。对DeepSeek-R1 的训练过程和推理能力的蒸馏
    发表于 07-17 11:59

    Arm Neoverse N2平台实现DeepSeek-R1满血版部署

    颇具优势。Arm 携手合作伙伴,在 Arm Neoverse N2 平台上使用开源推理框架 llama.cpp 实现 DeepSeek-R1 满血版的部署,目前已可提供线上服务。
    的头像 发表于 07-03 14:37 1432次阅读
    Arm Neoverse N<b class='flag-5'>2</b>平台实现<b class='flag-5'>DeepSeek-R1</b>满血版<b class='flag-5'>部署</b>

    NVIDIA Blackwell GPU优化DeepSeek-R1性能 打破DeepSeek-R1在最小延迟场景中的性能纪录

    本文将探讨 NVIDIA TensorRT-LLM 如何基于 8 个 NVIDIA Blackwell GPU 的配置,打破 DeepSeek-R1 在最小延迟场景中的性能纪录:在 GTC 2025
    的头像 发表于 07-02 19:31 3563次阅读
    NVIDIA Blackwell GPU优化<b class='flag-5'>DeepSeek-R1</b>性能 打破<b class='flag-5'>DeepSeek-R1</b>在最小延迟场景中的性能纪录

    【书籍评测活动NO.62】一书读懂 DeepSeek 全家桶核心技术:DeepSeek 核心技术揭秘

    DeepSeek-V3 的发布几乎没有预热和炒作,仅凭借其出色的效果和超低的成本迅速走红。 DeepSeek-R1 则是在 DeepSeek-V3 的基础上构建的推理
    发表于 06-09 14:38

    ElfBoard技术实战|ELF 2开发板本地部署DeepSeek模型的完整指南

    ELF 2开发板本地部署DeepSeek模型的完整指南
    的头像 发表于 05-16 11:13 2778次阅读
    ElfBoard技术实战|ELF <b class='flag-5'>2</b>开发板<b class='flag-5'>本地</b><b class='flag-5'>部署</b><b class='flag-5'>DeepSeek</b>大<b class='flag-5'>模型</b>的完整<b class='flag-5'>指南</b>

    使用瑞萨MPU芯片RZ/V2H部署DeepSeek-R1模型

    DeepSeek大语言模型(LLM)可用于理解人类语言的交互方式,思考,并给出合适的回应。
    的头像 发表于 05-15 14:40 1149次阅读
    使用瑞萨MPU芯片RZ/V<b class='flag-5'>2</b>H<b class='flag-5'>部署</b><b class='flag-5'>DeepSeek-R1</b><b class='flag-5'>模型</b>

    瑞萨RZ/V2H平台支持部署离线版DeepSeek -R1大语言模型

    瑞萨RZ/V2H平台支持部署离线版DeepSeek -R1大语言模型
    的头像 发表于 05-13 17:07 1866次阅读
    瑞萨RZ/V<b class='flag-5'>2</b>H平台支持<b class='flag-5'>部署</b>离线版<b class='flag-5'>DeepSeek</b> -<b class='flag-5'>R1</b>大语言<b class='flag-5'>模型</b>