0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

摩尔线程图形显卡MTT S80实现DeepSeek模型部署

摩尔线程 来源:摩尔线程 2025-02-21 15:46 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

前方高能

谁说打游戏的显卡不能搞AI

MTT S80表示:

“我!全!都!要!”

摩尔线程“全功能”图形显卡MTT S80,不仅游戏渲染性能强大,能玩《黑神话:悟空》,现在还能本地部署DeepSeek R1蒸馏模型。搭配最新发布的MUSA SDK RC3.1.1版本,开发者直接用开源框架Ollama就能开跑,学术党、AI极客的福音来了。

4b19bca0-eff3-11ef-9310-92fbcf53809c.png

MTT S80本地运行DeepSeek-R1 14B模型的示例图

手把手教程:‍

3步搞定DeepSeek模型部署

第一步:环境准备

系统:Ubuntu 22.04

工具:MUSA SDK RC3.1.1(文末下载)

框架:Ollama(开源免费,小白友好)

第二步:模型下载

打开Ollama,直接拉取DeepSeek R1系列模型,1.5B/7B/8B/14B轻量版任选;

在Q4_K_M量化格式下,MTT S80的16GB显存可最高支持DeepSeek-R1-Distill-Qwen-14B模型的高效推理,充分满足轻量化AI开发需求

第三步:一键推理

终端输入代码,秒出结果!

我们已附上实战部署指南,详细解析DeepSeek R1 7B和14B蒸馏模型的配置流程与优化技巧。

对游戏党:买显卡送AI算力,血赚!

对开发者:不用抢云服务器,本地部署成本直降!

对学生党:论文实验、轻量级AI开发,一台机器全搞定!

关于摩尔线程

摩尔线程成立于2020年10月,以全功能GPU为核心,致力于向全球提供加速计算的基础设施和一站式解决方案,为各行各业的数智化转型提供强大的AI计算支持。

我们的目标是成为具备国际竞争力的GPU领军企业,为融合人工智能和数字孪生的数智世界打造先进的加速计算平台。我们的愿景是为美好世界加速。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • AI
    AI
    +关注

    关注

    89

    文章

    38085

    浏览量

    296325
  • 摩尔线程
    +关注

    关注

    2

    文章

    256

    浏览量

    6200
  • 大模型
    +关注

    关注

    2

    文章

    3440

    浏览量

    4960

原文标题:游戏显卡跑AI大模型?使用MTT S80解锁DeepSeek R1蒸馏模型本地推理

文章出处:【微信号:moorethreads,微信公众号:摩尔线程】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    摩尔线程发布图形显卡驱动程序v310.120

    8月20日,摩尔线程发布版本号为v310.120的图形显卡驱动程序。本次更新带来多项重大技术升级:新增对Windows 11 24H2版本的正式支持,WDDM驱动同步升级至3.2版本。
    的头像 发表于 08-21 16:07 945次阅读

    疑似摩尔线程S90曝光,对标RTX4060

    电子发烧友网综合报道 近日,摩尔线程新一代图形显卡MTT S90疑似被知名自媒体曝光,实测性能媲
    的头像 发表于 07-25 10:53 2992次阅读
    疑似<b class='flag-5'>摩尔</b><b class='flag-5'>线程</b><b class='flag-5'>S</b>90曝光,对标RTX4060

    摩尔线程发布图形显卡驱动程序v300.110.1

    近日,摩尔线程发布版本号为v300.110.1的图形显卡驱动程序。本次更新针对近期上市的高人气游戏《剑星》进行了专项优化,MTT
    的头像 发表于 06-24 18:01 892次阅读

    摩尔线程MTT X300显卡全新性能升级

    摩尔线程近日发布的Linux驱动程序v3.0.0,为MTT X300专业显卡带来全面的性能提升。此次升级通过软硬件深度协同优化,显著提升了GPU渲染性能,使
    的头像 发表于 05-27 18:03 1430次阅读

    摩尔线程发布图形显卡驱动程序v300.110

    近日,摩尔线程发布版本号为v300.110的图形显卡驱动程序,为游戏玩家和专业用户带来全方位的性能优化与体验提升,特别在3DMark基准测试工具Steel Nomad中,测试成绩显著提
    的头像 发表于 05-22 17:26 926次阅读

    摩尔线程Linux驱动v3.0.0发布

    近日,摩尔线程正式推出Linux驱动程序v3.0.0,全面支持图形显卡MTT S80和高性能专业
    的头像 发表于 05-08 11:38 1101次阅读
    <b class='flag-5'>摩尔</b><b class='flag-5'>线程</b>Linux驱动v3.0.0发布

    摩尔线程发布图形显卡驱动程序v290.100.2

    近日,摩尔线程发布版本号为v290.100.2的图形显卡驱动程序。此次更新在DirectX 12模式下对《巫师3:狂猎》进行了显著优化,使其游戏平均帧率提升超过
    的头像 发表于 04-23 11:20 760次阅读

    摩尔线程GPU成功适配Deepseek-V3-0324大模型

    架构和全功能GPU的强大技术实力,摩尔线程迅速响应并完成了对DeepSeek-V3的无缝升级,实现了零报错、零兼容性问题的光速部署,充分展
    的头像 发表于 03-31 11:34 1104次阅读
    <b class='flag-5'>摩尔</b><b class='flag-5'>线程</b>GPU成功适配<b class='flag-5'>Deepseek</b>-V3-0324大<b class='flag-5'>模型</b>

    摩尔线程发布图形显卡驱动v290.100.1

    3月20日,摩尔线程发布版本号为v290.100.1的图形显卡驱动程序。在DirectX 12模式下,新驱动对《战地风云5》《幽灵行者2》进行了深度优化,游戏平均帧率提升约50%。此外
    的头像 发表于 03-21 14:26 676次阅读

    摩尔线程完成DeepSeek开源库FlashMLA和DeepGEMM适配

    DeepSeek启动“开源周”以来,已陆续开源三个代码库。摩尔线程基于全新MUSA Compute Capability 3.1计算架构,可提供原生FP8计算能力,同时升级了高性能线性代数模板库
    的头像 发表于 02-27 14:40 1082次阅读

    摩尔线程发布图形显卡驱动v290.100

    2月20日,摩尔线程发布版本号为v290.100的图形显卡驱动程序。此次更新针对多款热门游戏进行了深度优化,旨在为玩家带来更流畅、更稳定的游戏体验。
    的头像 发表于 02-20 18:16 1074次阅读

    添越智创基于 RK3588 开发板部署测试 DeepSeek 模型全攻略

    DeepSeek 模型部署与测试,开启这场充满挑战与惊喜的技术探索之旅。 RK3588 开发板:AI 性能担当 RK3588 开发板基于先进的 8nm LP 制程工艺精心打造,其硬件配置堪称豪华,在 AI
    发表于 02-14 17:42

    摩尔线程宣布成功部署DeepSeek蒸馏模型推理服务

    近日,摩尔线程智能科技(北京)有限责任公司在其官方渠道发布了一则重要消息,宣布公司已经成功实现了对DeepSeek蒸馏模型推理服务的
    的头像 发表于 02-06 13:49 1183次阅读

    摩尔线程发布图形显卡驱动程序v280.90.2

    1月20日,摩尔线程发布最新图形显卡驱动程序v280.90.2。
    的头像 发表于 01-21 10:07 879次阅读

    摩尔线程发布最新图形显卡驱动程序v280.90.1

    12月20日,摩尔线程发布最新图形显卡驱动程序v280.90.1,旨在通过深入的性能优化和关键问题修复,为用户带来更加流畅和沉浸式的游戏体验。 在本次更新中,
    的头像 发表于 12-21 16:16 874次阅读