0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

摩尔线程图形显卡MTT S80实现DeepSeek模型部署

摩尔线程 来源:摩尔线程 2025-02-21 15:46 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

前方高能

谁说打游戏的显卡不能搞AI

MTT S80表示:

“我!全!都!要!”

摩尔线程“全功能”图形显卡MTT S80,不仅游戏渲染性能强大,能玩《黑神话:悟空》,现在还能本地部署DeepSeek R1蒸馏模型。搭配最新发布的MUSA SDK RC3.1.1版本,开发者直接用开源框架Ollama就能开跑,学术党、AI极客的福音来了。

4b19bca0-eff3-11ef-9310-92fbcf53809c.png

MTT S80本地运行DeepSeek-R1 14B模型的示例图

手把手教程:‍

3步搞定DeepSeek模型部署

第一步:环境准备

系统:Ubuntu 22.04

工具:MUSA SDK RC3.1.1(文末下载)

框架:Ollama(开源免费,小白友好)

第二步:模型下载

打开Ollama,直接拉取DeepSeek R1系列模型,1.5B/7B/8B/14B轻量版任选;

在Q4_K_M量化格式下,MTT S80的16GB显存可最高支持DeepSeek-R1-Distill-Qwen-14B模型的高效推理,充分满足轻量化AI开发需求

第三步:一键推理

终端输入代码,秒出结果!

我们已附上实战部署指南,详细解析DeepSeek R1 7B和14B蒸馏模型的配置流程与优化技巧。

对游戏党:买显卡送AI算力,血赚!

对开发者:不用抢云服务器,本地部署成本直降!

对学生党:论文实验、轻量级AI开发,一台机器全搞定!

关于摩尔线程

摩尔线程成立于2020年10月,以全功能GPU为核心,致力于向全球提供加速计算的基础设施和一站式解决方案,为各行各业的数智化转型提供强大的AI计算支持。

我们的目标是成为具备国际竞争力的GPU领军企业,为融合人工智能和数字孪生的数智世界打造先进的加速计算平台。我们的愿景是为美好世界加速。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • AI
    AI
    +关注

    关注

    91

    文章

    41115

    浏览量

    302602
  • 摩尔线程
    +关注

    关注

    2

    文章

    285

    浏览量

    6663
  • 大模型
    +关注

    关注

    2

    文章

    3771

    浏览量

    5273

原文标题:游戏显卡跑AI大模型?使用MTT S80解锁DeepSeek R1蒸馏模型本地推理

文章出处:【微信号:moorethreads,微信公众号:摩尔线程】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    摩尔线程S5000 + 智源FlagOS:基于原生FP8引擎,Day-0适配DeepSeek-V4

    4月24日,摩尔线程携手智源众智FlagOS社区,在旗舰级AI训推一体全功能GPU MTT S5000上,率先实现对新一代大
    发表于 04-24 16:30 909次阅读
    <b class='flag-5'>摩尔</b><b class='flag-5'>线程</b><b class='flag-5'>S</b>5000 + 智源FlagOS:基于原生FP8引擎,Day-0适配<b class='flag-5'>DeepSeek</b>-V4

    摩尔线程发布图形显卡驱动程序v330.140

    3月20日,摩尔线程正式发布版本号为v330.140的图形显卡驱动程序。本次更新重磅引入MTVSR实时视频超分技术,并针对多款热门游戏及专业软件进行了深度优化,进一步增强了
    的头像 发表于 03-24 09:52 306次阅读

    摩尔线程MTT S5000全面适配Qwen3.5三款新模型

    第一时间做出极速响应,宣布已在旗舰级AI训推一体全功能GPU MTT S5000上,完成对这三款全新模型的全方位适配。   此次高效支持充分展示了摩尔
    的头像 发表于 02-26 16:23 765次阅读

    摩尔线程快速完成对Qwen3.5模型全面适配

    2月17日,摩尔线程宣布已在旗舰级AI训推一体全功能GPU MTT S5000上完成对阿里最新大模型Qwen3.5的全方位适配。此次支持充分
    发表于 02-18 08:32 1120次阅读

    Day-0支持|摩尔线程完成MiniMax M2.5模型极速适配

    2月14日,摩尔线程在其旗舰级AI训推一体全功能GPU MTT S5000上,成功实现了对MiniMax新一代大
    发表于 02-15 08:01 1586次阅读

    摩尔线程MTT S5000率先完成对GLM-5的适配

    的算子覆盖与强大的生态兼容能力,摩尔线程成功打通了模型推理全链路,并深度释放MTT S5000的原生FP8加速能力,在确保
    的头像 发表于 02-12 10:34 977次阅读
    <b class='flag-5'>摩尔</b><b class='flag-5'>线程</b><b class='flag-5'>MTT</b> <b class='flag-5'>S</b>5000率先完成对GLM-5的适配

    Day-0支持|摩尔线程MTT S5000率先完成对GLM-5的适配

    的算子覆盖与强大的生态兼容能力,摩尔线程成功打通了模型推理全链路,并深度释放MTT S5000的原生FP8加速能力,在确保
    发表于 02-12 09:15 1616次阅读
    Day-0支持|<b class='flag-5'>摩尔</b><b class='flag-5'>线程</b><b class='flag-5'>MTT</b> <b class='flag-5'>S</b>5000率先完成对GLM-5的适配

    支持OpenGL 4.6与Vulkan 1.3,摩尔线程发布图形显卡驱动v320.130

    12月22日,摩尔线程正式发布版本号为v320.130的图形显卡驱动程序, 实现多项关键图形技术
    的头像 发表于 12-24 09:42 6.1w次阅读
    支持OpenGL 4.6与Vulkan 1.3,<b class='flag-5'>摩尔</b><b class='flag-5'>线程</b>发布<b class='flag-5'>图形</b><b class='flag-5'>显卡</b>驱动v320.130

    DeepSeek模型如何在云服务器上部署

    随着大型语言模型(LLM)的应用日益普及,许多开发者和企业希望将像DeepSeek这样的优秀模型部署到自己的云服务器上,以实现私有化、定制化
    的头像 发表于 10-13 16:52 1146次阅读

    摩尔线程发布图形显卡驱动程序v310.120

    8月20日,摩尔线程发布版本号为v310.120的图形显卡驱动程序。本次更新带来多项重大技术升级:新增对Windows 11 24H2版本的正式支持,WDDM驱动同步升级至3.2版本。
    的头像 发表于 08-21 16:07 1653次阅读

    疑似摩尔线程S90曝光,对标RTX4060

    电子发烧友网综合报道 近日,摩尔线程新一代图形显卡MTT S90疑似被知名自媒体曝光,实测性能媲
    的头像 发表于 07-25 10:53 3576次阅读
    疑似<b class='flag-5'>摩尔</b><b class='flag-5'>线程</b><b class='flag-5'>S</b>90曝光,对标RTX4060

    摩尔线程发布图形显卡驱动程序v300.110.1

    近日,摩尔线程发布版本号为v300.110.1的图形显卡驱动程序。本次更新针对近期上市的高人气游戏《剑星》进行了专项优化,MTT
    的头像 发表于 06-24 18:01 1308次阅读

    摩尔线程MTT X300显卡全新性能升级

    摩尔线程近日发布的Linux驱动程序v3.0.0,为MTT X300专业显卡带来全面的性能提升。此次升级通过软硬件深度协同优化,显著提升了GPU渲染性能,使
    的头像 发表于 05-27 18:03 2316次阅读

    摩尔线程发布图形显卡驱动程序v300.110

    近日,摩尔线程发布版本号为v300.110的图形显卡驱动程序,为游戏玩家和专业用户带来全方位的性能优化与体验提升,特别在3DMark基准测试工具Steel Nomad中,测试成绩显著提
    的头像 发表于 05-22 17:26 1331次阅读

    摩尔线程Linux驱动v3.0.0发布

    近日,摩尔线程正式推出Linux驱动程序v3.0.0,全面支持图形显卡MTT S80和高性能专业
    的头像 发表于 05-08 11:38 1511次阅读
    <b class='flag-5'>摩尔</b><b class='flag-5'>线程</b>Linux驱动v3.0.0发布