0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

在MAC mini4上安装Ollama、Chatbox及模型交互指南

jf_23871869 来源:jf_23871869 作者:jf_23871869 2025-03-11 17:17 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

作者:算力魔方创始人/英特尔创新大使刘力

一,简介


本文将指导您如何在MAC mini4上安装Ollama和Chatbox,并下载Deepseek-r1:32b模型。Ollama是一个用于管理和运行大型语言模型的工具,而Chatbox则是一个用户友好的聊天界面,用于与这些模型进行交互。Deepseek-r1:32b是一个高性能的语言模型,适用于多种自然语言处理任务。

二,安装Ollama和Chatbox AI


1,下载安装Ollama;

访问Ollama的官方网址:(https://ollama.com/)。下载最新的macOS版本文件。

wKgZPGfP_3uAR4FZAAB0Mn012tA594.png

打开下载的文件双击ollama图标安装程序进行默认安装即可。

wKgZO2fP_4GAQkjuAAuvGkzZRiM203.png

2,下载安装Chatbox;

访问Chatbox的官方网站(https://chatboxai.app/zh#download)下载最新的macOS版本(.dmg文件)。

wKgZPGfP_4WAKUy0AADGIBAOUww291.png

双击下载的.dmg文件,将Chatbox应用程序拖到“应用程序”文件夹中。打开“应用程序”文件夹,双击Chatbox图标启动应用程序。

wKgZO2fP_4-ACdwGAAHpaKstbZc639.png

三,使用Ollama运行模型


1,打开终端,运行以下命令启动Deepseek-r1:32b模型:ollama run deepseek-r1:32b(若未下载则会自动进行下载)。

wKgZPGfP_5WASq2KAAmc9jy18so141.png

2,输入您的问题或文本,模型将生成响应。32B模型下运行得出平均输出为:4.79token/s。

wKgZO2fP_5qAej9_AALscYPUlHk213.png

四,使用Chatbox与模型交互


1,打开Chatbox应用程序,在设置中,选择“Ollama”作为后端服务,并输入Ollama的API地址(默认是`http://localhost:11434`)。

wKgZO2fP_56ALA0lAAOfSlnRiuM613.png

2,选择“Deepseek-r1:32b”模型。

wKgZPGfP_6KAZHd_AAQYwkfcWGg782.png

3,在聊天界面中输入您的问题或文本,Chatbox将显示模型的响应。

wKgZO2fP_6aAN4KwAAvidEm9vcs678.png

五,总结


通过本文的指导,您已经成功在MAC mini4上安装了Ollama和Chatbox,并部署了Deepseek-r1:32b模型。现在,您可以使用这些工具进行自然语言处理任务,享受高性能的语言模型带来的便利。

如果你有更好的文章,欢迎投稿!

稿件接收邮箱:nami.liu@pasuntech.com

更多精彩内容请关注“算力魔方®”!

审核编辑 黄宇

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • DeepSeek
    +关注

    关注

    2

    文章

    824

    浏览量

    2799
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    本地部署openWebUI + ollama+DeepSeek 打造智能知识库并实现远程访问

    。 DeepSeek 作为一个开源的大语言模型,我们可以通过 ZeroNews + openWebUI + ollama的方式,轻松的本地私有化部署 DeepSeek,不受网络攻击影响,满足不同用户的需求场景。 下面
    的头像 发表于 09-10 16:41 4945次阅读
    本地部署openWebUI + <b class='flag-5'>ollama</b>+DeepSeek 打造智能知识库并实现远程访问

    ESP32-P4-MINI开发板开箱和上手指南来了!速速码住!

    上期“梦中情板”ESP32-P4-MINI开发板一出就备受青睐这期我们立马就端着开箱和上手指南来了!不用惊叹,我们就是这么迅速,请把“启明云端权威”打在公屏上好嘛!开箱展示拿到
    的头像 发表于 07-25 18:02 1402次阅读
    ESP32-P<b class='flag-5'>4-MINI</b>开发板开箱和上手<b class='flag-5'>指南</b>来了!速速码住!

    【VisionFive 2单板计算机试用体验】3、开源大语言模型部署

    1、ollama平台搭建 ollama可以快速地部署开源大模型,网址为https://ollama.com, 试用该平台,可以多平台上部署
    发表于 07-19 15:45

    为什么无法GPU使用INT8 和 INT4量化模型获得输出?

    安装OpenVINO™ 2024.0 版本。 使用 optimum-intel 程序包将 whisper-large-v3 模型转换为 int 4 和 int8,并在 GPU 使用
    发表于 06-23 07:11

    【幸狐Omni3576边缘计算套件试用体验】CPU部署DeekSeek-R1模型(1B和7B)

    架构和动态计算分配技术,保持模型性能的同时显著降低了计算资源需求。 模型特点: 参数规模灵活:提供1.5B/7B/33B等多种规格 混合精度训练:支持FP16/INT8/INT4量化
    发表于 04-21 00:39

    如何在Ollama中使用OpenVINO后端

    Ollama 和 OpenVINO 的结合为大型语言模型(LLM)的管理和推理提供了强大的双引擎驱动。Ollama 提供了极简的模型管理工具链,而 OpenVINO 则通过 Intel
    的头像 发表于 04-14 10:22 1114次阅读

    如何在RakSmart服务器用Linux系统部署DeepSeek

    选择 根据需求选择以下两种主流方案: 1. 轻量化部署(推荐新手): 工具:Ollama(支持快速安装模型管理) 步骤: 1. 安装 Ollama
    的头像 发表于 03-14 11:53 622次阅读

    MAC mini4 安装与使用 ComfyUI 文生图软件完整指南

    ,还是简单的文字配图,ComfyUI 都能为用户提供便捷的解决方案,能够帮助用户将文本内容转化为图像。本教程将指导您如何在 MAC MINI4 安装并配置 ComfyUI。 二,步骤
    的头像 发表于 03-11 17:15 2123次阅读
    <b class='flag-5'>在</b> <b class='flag-5'>MAC</b> <b class='flag-5'>mini4</b> <b class='flag-5'>上</b><b class='flag-5'>安装</b>与使用 ComfyUI 文生图软件完整<b class='flag-5'>指南</b>

    MAC mini4 使用 VSCode 和 Cline 插件对接 Deepseek-R1:32b 的完整指南

    可以 MAC mini4 上高效地编写和调试代码。本教程将详细介绍如何在 MAC mini4
    的头像 发表于 03-11 17:14 1343次阅读
    <b class='flag-5'>在</b> <b class='flag-5'>MAC</b> <b class='flag-5'>mini4</b> <b class='flag-5'>上</b>使用 VSCode 和 Cline 插件对接 Deepseek-R1:32b 的完整<b class='flag-5'>指南</b>

    DeepSeek与Chatbox:开启本地AI交互新时代!

    作者:算力魔方创始人/英特尔创新大使刘力 人工智能技术日新月异的当下,本地部署大型语言模型成为众多技术爱好者和专业人士探索的新方向。其中,DeepSeek模型Chatbox的组合,
    的头像 发表于 03-06 15:04 972次阅读
    DeepSeek与<b class='flag-5'>Chatbox</b>:开启本地AI<b class='flag-5'>交互</b>新时代!

    Raspberry Pi 4为OpenVINO™ 2021.4.2安装DL工作台,加载人脸检测-0200模型时遇到错误怎么解决?

    Raspberry Pi* 4 为 OpenVINO™ 2021.4.2 安装的 DL 工作台 加载人脸检测-0200 模型时遇到错
    发表于 03-05 07:57

    米尔RK3576开发板评测】+ RKLLM-Toolkit 环境安装

    模型安装Ollama工具之后,使用以下命令即可一键部署15亿参数的deepseek-r1模型oll
    发表于 02-22 09:41

    添越智创基于 RK3588 开发板部署测试 DeepSeek 模型全攻略

    ,Gemma 和其他多种模型安装Ollama工具之后,使用以下命令即可一键部署15亿参数的deepseek-r1模型,运行之后如下图所示
    发表于 02-14 17:42

    龙芯3a6000上部署DeepSeek 和 Gemma2大模型

    ollama常用命令 列出已下载的大模型 $ ollama list 6.参考链接 3a6000玩deepseek-r1大
    发表于 02-07 19:35

    OpenAI:GPT-4o及4o-mini模型性能下降,正展开调查

    ,并承诺将尽快发布最新的调查结果和解决方案。这一事件不仅对OpenAI自身的技术声誉产生了影响,也引发了业界对于大型语言模型稳定性和可靠性的担忧。 GPT-4o及4o-mini作为OpenAI推出的先进语言
    的头像 发表于 01-21 10:34 935次阅读