0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

deepin 25+DeepSeek-R1+Ollama本地搭建全流程

深度操作系统 来源:深度操作系统 2025-02-19 10:43 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

日前,为了使 deepin 和 UOS AI 更加开放,我们正式开放了 UOS AI 的模型接入接口。这意味着,所有符合 OpenAI 接口格式的大模型,都可以无缝接入 UOS AI。大家可以根据自身需求,自由接入心仪的大模型,让 UOS AI 成为更具个性化的智能伙伴。

在上一篇文章中,我们为大家详细介绍了 UOS AI 如何离线或在线接入 DeepSeek-R1 模型。今天我们将进一步深入,为大家详细讲解如何借助 Ollama 在本地部署并运行 DeepSeek-R1 模型。

* 感谢社区用户「Feelup」提供的教程,本次本地部署在 deepin 25 Preview 环境中通过Ollama 完成。

1

Ollama 部署

进入 Ollama 网站并复制 Linux 下需要使用的命令,并粘贴到终端中执行。

51bcb4a0-ede0-11ef-9310-92fbcf53809c.png

Ollama下载完成后,通过以下命令可查看当前 Ollama 版本

ollama --version

2

Ollama 服务配置

说明1:若您只希望简单使用,可跳过此处服务配置。 说明2:此处 Ollama 服务配置主要调整了 Ollama 下载模型文件的保存位置和服务访问限制调整。

sudo vim /etc/systemd/system/ollama.service
默认的配置文件内容
[Unit]
Description=Ollama Service
After=network-online.target


[Service]
ExecStart=/usr/local/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
Environment="PATH=/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/sbin:/bin:/usr/games:/usr/local/games:/snap/bin"


[Install]
WantedBy=default.target

非 deepin 25 服务修改参考

该 Ollama 服务配置适用于 Ubuntu、RedHat、deepin 23 等大多数 Linux 系统

[Unit]
Description=Ollama Service
After=network-online.target


[Service]
ExecStart=/usr/local/bin/ollama serve
User=nano      #此处为当前的用户名(可选:如果调整了模型的下载保存位置的话,可解决权限问题)
Group=nano     #此处为当前的用户名(可选:如果调整了模型的下载保存位置的话,可解决权限问题)
Restart=always
RestartSec=3
Environment="PATH=/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/sbin:/bin:/usr/games:/usr/local/games:/snap/bin"
Environment="OLLAMA_MODELS=/media/nano/Date/Ollama_Models"   #可选:设置模型的下载位置
Environment="OLLAMA_HOST=0.0.0.0:11434"  #可选:设置可访问ollama服务的地址与端口(此处表示任意IP地址都可以从端口11434访问此ollama服务)


[Install]
WantedBy=default.target

deepin 25 服务修改参考

由于 deepin 25 采用了不可变系统设计,Ollama 安装完成后,程序的执行文件位置出现了一些变化。

51c7f7ca-ede0-11ef-9310-92fbcf53809c.png

在进行 Ollama 服务配置时也需要做相应的修改(否则可能会出现服务运行异常)

[Unit]
Description=Ollama Service
After=network-online.target


[Service]
ExecStart=/var/usrlocal/bin/ollama serve    #此处调整了ollama程序的位置
User=nano      #此处为当前的用户名(可选:如果调整了模型的下载保存位置的话,可解决权限问题)
Group=nano     #此处为当前的用户名(可选:如果调整了模型的下载保存位置的话,可解决权限问题)
Restart=always
RestartSec=3
Environment="PATH=/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/sbin:/bin:/usr/games:/usr/local/games:/snap/bin"
Environment="OLLAMA_MODELS=/media/nano/Date/Ollama_Models"   #可选:设置模型的下载位置
Environment="OLLAMA_HOST=0.0.0.0:11434"  #可选:设置可访问ollama服务的地址与端口(此处表示任意IP地址都可以从端口11434访问此ollama服务)


[Install]
WantedBy=default.target

3

Ollama服务启动

更新服务配置:

sudo systemctl daemon-reload
重启 Ollama 服务:
sudo systemctl restart ollama.service
查看 Ollama 服务运行状态:
systemctl status ollama.service

4

DeepSeek-R1模型下载

在 Ollama 站内检索您所需要下载的模型名称关键字,根据个人电脑配置选择合适大小的参数模型,点击复制模型下载命令,并将命令粘贴到终端中进行下载即可。

51e61566-ede0-11ef-9310-92fbcf53809c.png

本例选择下载 1.5b 参数量大小的模型,模型下载完成后将自动运行,此时可以使用如下命令在「终端」中与它进行对话:

ollama run deepseek-r1:1.5b
下面是一个简单的运行示例

51fdb05e-ede0-11ef-9310-92fbcf53809c.png

5

在 UOS AI 中添加 DeepSeek-R1

打开 UOS AI 的「设置」选项,在「模型配置」中选择「私有化部署模型-添加」,进入 UOS AI 的模型添加界面。

522e78b0-ede0-11ef-9310-92fbcf53809c.png

完成添加窗口中的内容填写,并点击确定即可,本例中使用到的信息参考如下:

账号名称:DeepSeek-R1 模型名:deepseek-r1:1.5b 请求地址:http://127.0.0.1:11434/v1

5246d19e-ede0-11ef-9310-92fbcf53809c.png

填写完毕并提交确定后,程序会验证对应的大模型是否可用,验证成功后,DeepSeek-R1 便被添加至本地模型。

52680972-ede0-11ef-9310-92fbcf53809c.png

随后即可在 UOS AI 中选择 DeepSeek-R1 模型进行使用。

52a561a0-ede0-11ef-9310-92fbcf53809c.png

注:以上本地部署流程不仅仅适用于 DeepSeek-R1 模型,同样也适用于其它模型的本地部署。

附录:

[1]deepin UOS AI 离线、在线接入 DeepSeek-R1 教程 [2] deepin UOS AI 如何配置自定义模型

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • AI
    AI
    +关注

    关注

    91

    文章

    41115

    浏览量

    302604
  • UOS系统
    +关注

    关注

    0

    文章

    12

    浏览量

    2460
  • DeepSeek
    +关注

    关注

    2

    文章

    839

    浏览量

    3405

原文标题:deepin 25 + DeepSeek-R1 + Ollama 本地搭建全流程

文章出处:【微信号:linux_deepin,微信公众号:深度操作系统】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    百度腾讯抢滩布局!DeepSeek-R1升级和开源背后,国产AI的逆袭之路

    电子发烧友网报道(文/李弯弯)日前,DeepSeek官方宣布DeepSeek-R1模型已完成小版本试升级,当前版本为DeepSeek-R1-0528。次日,DeepSeek-R1-05
    的头像 发表于 06-03 06:34 6381次阅读

    deepin 25上安装OpenClaw的步骤及飞书接入方法

    本篇将从普通用户视角,分享在 deepin 25 上安装 OpenClaw 的步骤及飞书接入方法。
    的头像 发表于 02-05 15:17 2123次阅读
    在<b class='flag-5'>deepin</b> <b class='flag-5'>25</b>上安装OpenClaw的步骤及飞书接入方法

    本地部署openWebUI + ollama+DeepSeek 打造智能知识库并实现远程访问

    DeepSeek 作为一个开源的大语言模型,我们可以通过 ZeroNews + openWebUI + ollama的方式,轻松的在本地私有化部署 DeepSeek,不受网络攻击影
    的头像 发表于 09-10 16:41 5521次阅读
    <b class='flag-5'>本地</b>部署openWebUI + <b class='flag-5'>ollama+DeepSeek</b> 打造智能知识库并实现远程访问

    DeepSeek R1 MTP在TensorRT-LLM中的实现与优化

    TensorRT-LLM 在 NVIDIA Blackwell GPU 上创下了 DeepSeek-R1 推理性能的世界纪录,Multi-Token Prediction (MTP) 实现了大幅提速
    的头像 发表于 08-30 15:47 4682次阅读
    <b class='flag-5'>DeepSeek</b> <b class='flag-5'>R1</b> MTP在TensorRT-LLM中的实现与优化

    deepin 25成功适配魔方派3开发板

    近日,deepin(深度)社区宣布,deepin 25 已正式适配魔方派 3(RUBIK Pi 3)开发板,并完成产品兼容性认证!
    的头像 发表于 07-28 15:14 1296次阅读

    速看!EASY-EAI教你离线部署Deepseek R1大模型

    1.Deepseek简介DeepSeek-R1,是幻方量化旗下AI公司深度求索(DeepSeek)研发的推理模型。DeepSeek-R1采用强化学习进行后训练,旨在提升推理能力,尤其擅
    的头像 发表于 07-25 15:22 1579次阅读
    速看!EASY-EAI教你离线部署<b class='flag-5'>Deepseek</b> <b class='flag-5'>R1</b>大模型

    【「DeepSeek 核心技术揭秘」阅读体验】--全书概览

    讲解Deepseek的使用方法 第三章 深入剖析Deepseek-V3的模型架构、训练框架、推理阶段优化、后训练优化等关键技术 第四章关于DeepSeek-R1的技术剖析 第五章 从宏观角度分析
    发表于 07-21 00:04

    【VisionFive 2单板计算机试用体验】3、开源大语言模型部署

    1ollama平台搭建 ollama可以快速地部署开源大模型,网址为https://ollama.com, 试用该平台,可以在多平台上部署
    发表于 07-19 15:45

    深度操作系统deepin 25全面支持凹语言

    近日,deepin(深度)社区宣布,deepin 25 现已完成对国产通用编程语言凹语言 (Wa-Lang) 的兼容性测试。在 deepin 25
    的头像 发表于 07-10 15:26 1139次阅读
    深度操作系统<b class='flag-5'>deepin</b> <b class='flag-5'>25</b>全面支持凹语言

    深度操作系统deepin 25正式发布

    历经 Preview、Alpha、Beta 三轮社区共创测试,deepin 25 于今日发布亮相!本次版本以 “万物向新” 为核心,四大革新特性全面进化,1000+ 项优化修复落地,为广大开发者与用户朋友们带来更可靠、更流畅、更自由的开源操作系统体验。
    的头像 发表于 07-01 16:57 1432次阅读

    deepin 25 Beta版本成功适配Radxa ROCK 5系列开发板

    近日,deepin(深度)社区宣布,deepin 25 Beta 版本已正式适配 Radxa ROCK 5 系列开发板,包括 ROCK 5B、ROCK 5B+ 和 ROCK 5 ITX 等型号。
    的头像 发表于 06-06 17:25 1845次阅读

    DeepSeek开源新版R1 媲美OpenAI o3

    DeepSeek“悄悄”地又放了一个大招,DeepSeek开源了R1最新0528版本。尽管DeepSeek目前还没有对该版本进行任何说明,但是根据著名代码测试平台Live CodeBe
    的头像 发表于 05-29 11:23 1499次阅读

    ElfBoard技术实战|ELF 2开发板本地部署DeepSeek大模型的完整指南

    ELF 2开发板本地部署DeepSeek大模型的完整指南
    的头像 发表于 05-16 11:13 2778次阅读
    ElfBoard技术实战|ELF 2开发板<b class='flag-5'>本地</b>部署<b class='flag-5'>DeepSeek</b>大模型的完整指南

    瑞萨RZ/V2H平台支持部署离线版DeepSeek -R1大语言模型

    瑞萨RZ/V2H平台支持部署离线版DeepSeek -R1大语言模型
    的头像 发表于 05-13 17:07 1865次阅读
    瑞萨RZ/V2H平台支持部署离线版<b class='flag-5'>DeepSeek</b> -<b class='flag-5'>R1</b>大语言模型

    SAP实施专家解答:如何用DeepSeek-R1实现需求沟通效率倍增

    工博科技分享AI工具链在IT项目中的深度应用:通过DeepSeek-R1实现智能会议记录结构化(2小时会议5分钟生成决策表)和精准多语言文档翻译(错误率降低14%),帮助IT团队将重复性工作耗时减少
    的头像 发表于 04-28 09:13 818次阅读