0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

本地部署openWebUI + ollama+DeepSeek 打造智能知识库并实现远程访问

ZeroNews 来源:jf_58490156 作者:jf_58490156 2025-09-10 16:41 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

DeepSeek是一款由国内人工智能公司研发的大型语言模型,实现了媲美OpenAI-o1模型的效果,拥有强大的自然语言处理能力,还大幅降低了推理模型的成本,受到海内外用户的广泛吹捧。

DeepSeek 作为一个开源的大语言模型,我们可以通过 ZeroNews + openWebUI + ollama的方式,轻松的在本地私有化部署 DeepSeek,不受网络攻击影响,满足不同用户的需求场景。

下面以在Ubuntu 系统为例,部署 ZeroNews +Open WebUI + Ollama,构建自己的 DeepSeek 平台

部署步骤

我们通过Docker 容器的方式部署 ZeroNews 内网穿透及Open WebUI,需提前安装好 Docker

第一步:部署 Ollama

Ollama 是一个用于管理和部署机器学习模型的工具。专注于简化模型的下载、配置和运行过程,我们通过 ollama 下载并运行 DeepSeek 大语言模型

安装 Ollama

在 ubuntu 系统通过一条命令部署 ollama 本地模型

wKgZO2ixEaqAAUDjAAAFEt4ryB0195.png

修改 ollama 的本地监听IP地址, 将 Environment="OLLAMA_HOST=0.0.0.0" 添加到 ollama 的系统服务文件( /etc/systemd/system/ollama.service)中

wKgZPGixEaqAVAjhAAATsVFFyXM979.png

重启ollama 服务

wKgZO2ixEauAZLI1AAAGrupes9M720.png

在浏览器中,输入 http://{主机ip}:11434, 检查 ollama 是否正常运行, 显示 “Ollama is running”, 表示ollama 运行正常

wKgZPGixEauAe_7qAAAMZdn-R2Y023.png

下载 DeepSeek 大语言模型

在 Ollama 官网中,可以查看支持的 DeepSeek 版本,我们根据自己的需求下载对应的模型版本即可

wKgZO2ixEauAQ4qjAAB_2iPx0kw510.png

下面以 deepseek-r1:8b 为例,下载 deepseek-r1:8b 模型

ollama run deepseek-r1:8b

wKgZPGixEayAR1gwAAAV-KRKVxA672.png

deepseek 大语言模型下载完成后,接下来部署 Open WebUI

第二步: 部署 Open WebUI

OpenWebUI 是一个开源的 Web 用户界面框架,为各种应用程序提供现代化的、响应式的用户界面,其构建一个用户友好的 Web 界面,来管理和监控通过 Ollama 部署的机器学习模型。

我们通过 Docker 容器方式部署 Open WebUI

拉取 Open WebUI 镜像

通过以下命令,从 Open WebUI 官方 GitHub Container Registry (GHCR) 仓库拉取镜像

wKgZO2ixEayADq8JAAAGSe-Xx88715.png

启动 Open WebUI 容器

先创建一个用于 Open WebUI 容器本地存储的本地目录

wKgZPGixEayATlc6AAAD_fzUTbg406.png

通过以下命令启动容器,容器名称 deepseek, 映射本地 8080 端口号, 并挂载本地目录 /opt/openwebui 到容器的 /app/backend/data

wKgZO2ixEa2AKBylAAANx22dt48613.png

Open WebUI 容器启动完成后,就可以在浏览器中输入 http://{主机IP}:3000 访问 Open WebUI

wKgZPGixEa2AZJagAAAjDbf5gDE606.png

第三步: 部署 ZeroNews 内网穿透

我们通过 Docker 容器方式部署 ZeroNews 内网穿透

下载 ZeroNews 容器镜像

通过以下命令在 ZeroNews 官方仓库下载 ZeroNews 容器镜像

wKgZO2ixEa2AOWKuAAAEdlFAPmQ929.png

启动 ZeroNews 容器

通过以下命令启动 ZeroNews 容器,将 token 及 网络区域ID 粘贴到命令最后,以空格分隔

wKgZPGixEa2AOf3BAAALBtPLhNY194.png

ZeroNews 容器启动成功后,在 ZeroNews 平台上能查看已上线的 ZeroNews 容器

wKgZO2ixEa6AXO2HAABwMGrxsK0114.png

第四步: 为Open WebUI 添加域名及映射

1. 为 Open WebUI 平台添加域名及端口

在 ZeroNews 管理平台的 "域名端口" 界面下,添加域名,勾选 HTTPS ,然后点击 "确认",完成域名端口添加

wKgZPGixEa6AVKwCAACFkx261Co555.png

2. 为 Open WebUI 平台添加公网映射

首先在 ZeroNews 管理平台的 "映射" 界面下,添加HTTPS公网映射

映射协议: 选择 HTTPS 协议

公网访问地址: 选择上一步添加好的 deepseek 域名地址

映射带宽: 输入需要的带宽,如 2M

内网映射地址: IP地址默认为 127.0.0.1, 端口为 Open WebUI 平台的端口号 8080

wKgZO2ixEa6AFlQrAACFaPpjrmE624.png

Open WebUI 的公网映射添加完成后,在浏览器就可以通过分配的域名在公网上访问 Open WebUI 应用平台

wKgZPGixEa-AdicAAABsVJgqW9U475.png

第五步:Open WebUI基础配置

1. 打开Open WebUI 域名地址后,先创建一个管理员账号, 输入名称、邮箱及密码等信息,然后点击"创建管理员账号" 完成管理员创建

wKgZO2ixEa-AUAgoAAAleNijlWA228.png

成功登录后,进入到 Open WebUI 主页面

wKgZPGixEa-AR0qyAACdjJwIyMA413.png

点击 "选择一个模型", 选择我们添加好的 deepseek-r1.8b 模型

wKgZO2ixEbCADeJeAABlj1floEE136.png

接下来就可以通过 DeepSeek 大模型进行对话了,如输入内网穿透

wKgZPGixEbCAQif_AABPPR_-0EE614.png

审核编辑 黄宇

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 知识库
    +关注

    关注

    0

    文章

    15

    浏览量

    6818
  • 远程访问
    +关注

    关注

    0

    文章

    49

    浏览量

    8211
  • DeepSeek
    +关注

    关注

    2

    文章

    824

    浏览量

    2812
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    “轻松上手!5分钟学会用京东云打造你自己的专属DeepSeek

    #从第⼀步骤到第四步骤是完成DeepSeek本地部署和使⽤,可以满⾜中⼩企业环境的稳定 使⽤,第五步骤为基于AnythingLLM和本地数据进⾏训练(基于
    的头像 发表于 02-10 17:41 2512次阅读
    “轻松上手!5分钟学会用京东云<b class='flag-5'>打造</b>你自己的专属<b class='flag-5'>DeepSeek</b>”

    在龙芯3a6000上部署DeepSeek 和 Gemma2大模型

    , 例如Loongnix 25, Deepin 23, OpenKylin 2.0, ArchLinux, AOSC 12 等 下载相应版本的ollama解压将其复制到/usr/bin $ unzip
    发表于 02-07 19:35

    添越智创基于 RK3588 开发板部署测试 DeepSeek 模型全攻略

    DeepSeek 模型的部署与测试,开启这场充满挑战与惊喜的技术探索之旅。 RK3588 开发板:AI 性能担当 RK3588 开发板基于先进的 8nm LP 制程工艺精心打造,其硬件配置堪称豪华,在 AI
    发表于 02-14 17:42

    《AI Agent 应用与项目实战》阅读心得3——RAG架构与部署本地知识库

    。RAG技术建立在向量数据的基础上,通过高维向量空间中的相似度计算来实现语义层面的匹配,这比传统的关键词搜索更能捕捉文本的深层语义关联。 第七章通过一个本地知识库的搭建案例展示了RA
    发表于 03-07 19:49

    【幸狐Omni3576边缘计算套件试用体验】DeepSeek 部署及测试

    【幸狐 Omni3576 边缘计算套件测评】DeepSeek 部署及测试 本文介绍了幸狐 Omni3576 边缘计算套件实现 DeepSeek 部署
    发表于 03-21 19:31

    基于知识库智能策略翻译技术

    提出基于知识库的策略翻译方法,设计策略翻译组成结构,分析策略知识及其表示形式,建立动态可扩展的策略知识库,开发可扩展的策略编译器和策略组装器。实例测试表明,该
    发表于 04-22 09:42 11次下载

    领域知识库的研究与设计

    领域知识库的构建有利于知识的检索和共享。分析了领域知识库应具备的条件,指出构建领域知识库的有效方法;介绍了构建知识库的一般步骤,
    发表于 08-29 14:39 0次下载

    NXP NFC知识库

    NXP NFC知识库
    发表于 12-30 17:32 49次下载

    本体知识库的模块与保守扩充

    模块化是软件工程的一种方法,近年来被引入到本体领域,用以支持本体的重用和本体的整合。已有的工作没有讨论同时含有TBox和ABox的本体知识库的模块化的相关问题。在定义本体知识库的模块和知识库的保守
    发表于 11-24 09:58 0次下载

    方太集团携手小i机器人打造的方太智能知识库正式上线

    可以通过一个简单的例子来看一下。例如,当顾客问到"EM10T和EM10T.S关机后显示屏是不是还一直亮着?"在这个问题中,顾客其实是问到了两款相近产品的性能及对比问题。智能知识库上线之前,客服
    的头像 发表于 08-21 16:08 5345次阅读

    如何基于亚马逊云科技LLM相关工具打造知识库

    背景 本篇将为大家阐述亚马逊云科技大语言模型下沉到具体行业进行场景以及实施案例的介绍,是亚马逊云科技官方《基于智能搜索和大模型打造企业下一代知识库》系列的第四篇博客。感兴趣的小伙伴可以进入官网深入
    的头像 发表于 11-23 17:53 1819次阅读
    如何基于亚马逊云科技LLM相关工具<b class='flag-5'>打造</b><b class='flag-5'>知识库</b>

    腾讯ima升级知识库功能,上线小程序实现共享与便捷问答

    知识管理体验。 现在,用户可以在ima平台上轻松创建知识库设置共享权限,实现多人同时使用和编辑。这一功能的增加,极大地提升了团队协作的效率,使得
    的头像 发表于 12-31 15:32 2617次阅读

    DeepSeek从入门到精通(2):0成本用DeepSeek(满血版)搭建本地知识库

    我们身处数字化浪潮中,知识管理和利用的重要性与日俱增。拥有一个专属的本地知识库,能极大提升工作效率,满足个性化需求。但对于技术小白来说,搭建这样的知识库不仅存在技术门槛,同时也意味着需
    的头像 发表于 02-23 15:34 1574次阅读
    <b class='flag-5'>DeepSeek</b>从入门到精通(2):0成本用<b class='flag-5'>DeepSeek</b>(满血版)搭建<b class='flag-5'>本地</b><b class='flag-5'>知识库</b>

    用腾讯ima和Deepseek建立个人微信知识库

    ---基于腾讯混元大模型或Deepseek-r推理模型的个人知识库。大模型是通才,知识库是专家大模型的训练数据无法实时更新,而你的知识库可以动态补充最新信息。大模型对细分领
    的头像 发表于 02-25 17:33 2020次阅读
    用腾讯ima和<b class='flag-5'>Deepseek</b>建立个人微信<b class='flag-5'>知识库</b>

    技术融合实战!Ollama携手Deepseek搭建知识库,Continue入驻VScode

    OllamaDeepseek-R1、AnythingLLM 搭建强大的本地个人知识库详细介绍 Continue 在 VScode 中
    的头像 发表于 03-04 14:47 1009次阅读
    技术融合实战!<b class='flag-5'>Ollama</b>携手<b class='flag-5'>Deepseek</b>搭建<b class='flag-5'>知识库</b>,Continue入驻VScode