0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

云轴科技ZStack智塔携手昇腾AI实现DeepSeek模型部署

华为数字中国 来源:华为数字中国 2025-02-18 09:59 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

DeepSeek为人工智能AI产业带来一场革命,为企业级AI应用私有化部署场景(Private AI)注入强劲动力。作为企业级私有化AI Infra平台,云轴科技ZStack智塔携手昇腾AI实现了DeepSeek V3/R1/ Janus Pro三种模型的高效部署,并充分发挥DeepSeek开源模型和低成本高性能特点,为企业提供安全高效的AI基础设施方案,进一步推动AI的企业级商用进程。

从7B到671B模型尺寸

适配企业数据中心AI算力资源

AI Infra平台ZStack智塔在算力层提供计算、存储、网络、安全等基础资源和服务。智能异构调度引擎自动匹配硬件特性,高度适配昇腾算力资源,提供从高效蒸馏7B小模型到满血671B大模型的灵活选择,满足企业数据中心多样化算力需求。

昇腾310:作为面向边缘计算和推理场景的高能效AI产品,昇腾310具备出色的推理性能和功耗比。ZStack智塔充分利用昇腾310的优势,通过模型优化和算力调度,在 R1 蒸馏模型、Janus Pro 模型的推理任务中实现高效能比,为企业提供经济高效的AI部署方案。

昇腾910:昇腾910具有强大的浮点计算能力,适用于大规模模型训练。ZStack智塔通过优化计算资源分配和任务调度,充分挖掘昇腾910的性能潜力,加速DeepSeek等大模型的推理过程,满足企业对高性能AI算力的需求。

954838c2-ed2a-11ef-9310-92fbcf53809c.png支持DeepSeek三种模型

满足企业不同AI场景需求

AI Infra平台ZStack智塔在模型层提供模型开发和应用所需的各种基础工具和组件,支持开源和闭源模型的全生命周期管理。基于昇腾系列硬件支持,ZStack智塔可高效运行DeepSeek V3、R1和Janus Pro模型。

DeepSeek V3:适用于通用型自然语言处理任务。利用昇腾硬件的强大算力,V3模型能够在 AI Infra 上实现高性能的训练和推理,并通过多机互联提升模型的计算效率,满足企业对于大规模自然语言处理的需求。

DeepSeek R1:专注于复杂推理任务。借助昇腾硬件的强大算力和互联性能,R1模型在处理复杂计算和大规模数据时表现出色,提升推理速度和准确性,提供面向推理模型的长上下文。

DeepSeek Janus Pro:擅长多模态理解与生成。通过昇腾硬件的异构计算能力,Janus Pro模型可高效处理图像数据类型,实现跨模态的信息融合和生成,满足企业在多媒体内容分析、智能客服等领域的需求。

提供企业灵活性与定制化服务

构建新一代企业数智化平台

AI Infra平台智塔可以根据企业自身需求,基于昇腾在私有云或混合云环境中部署DeepSeek模型,从而确保数据的安全性和隐私保护;还提供裸金属、虚拟机和容器计算资源的弹性扩展,支持与多种硬件和软件的集成,使得企业能够轻松地将AI能力整合到现有系统中,满足企业级用户对AI应用的多样化需求。

AI Infra平台是企业加速释放AI生产力的关键引擎平台,它聚焦企业级AI应用的私有化部署场景(Private AI)。赛迪顾问在《2025中国AI Infra平台市场发展研究报告》中认为,2025年是中国AI Infra平台应用元年,预计2024年、2025年将分别达到19.4亿元和36.1亿元,2025年同比增长将超过86%。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • AI
    AI
    +关注

    关注

    90

    文章

    38271

    浏览量

    297326
  • Zstack
    +关注

    关注

    0

    文章

    9

    浏览量

    9854
  • 昇腾
    +关注

    关注

    1

    文章

    175

    浏览量

    7302
  • DeepSeek
    +关注

    关注

    2

    文章

    825

    浏览量

    2845

原文标题:ZStack智塔携手昇腾AI,支持DeepSeek三种模型私有化部署

文章出处:【微信号:HWS_yunfuwu,微信公众号:华为数字中国】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    DeepSeek模型如何在服务器上部署

    随着大型语言模型(LLM)的应用日益普及,许多开发者和企业希望将像DeepSeek这样的优秀模型部署到自己的服务器上,以
    的头像 发表于 10-13 16:52 607次阅读

    华为开发者大会2025(HDC 2025)亮点:华为发布盘古大模型5.5 宣布新一代AI服务上线

    HarmonyOS、AI服务、盘古大模型等最新科技创新成果。 在主题演讲中,华为常务董事、华为
    的头像 发表于 06-20 20:19 4007次阅读
    华为开发者大会2025(HDC 2025)亮点:华为<b class='flag-5'>云</b>发布盘古大<b class='flag-5'>模型</b>5.5 宣布新一代<b class='flag-5'>昇</b><b class='flag-5'>腾</b><b class='flag-5'>AI</b><b class='flag-5'>云</b>服务上线

    软通动力入选2025十大DeepSeek部署典型案例

    软通动力AI一体机助力中铁鲁班实现AI全面升级,帮助其完成与DeepSeek
    的头像 发表于 03-27 11:05 1037次阅读

    DeepSeek上的模型部署的常见问题及解决方案

    2024年12月26日,DeepSeek-V3横空出世,以其卓越性能备受瞩目。该模型发布即支持,用户可在
    的头像 发表于 03-25 16:53 1915次阅读
    <b class='flag-5'>DeepSeek</b>在<b class='flag-5'>昇</b><b class='flag-5'>腾</b>上的<b class='flag-5'>模型</b><b class='flag-5'>部署</b>的常见问题及解决方案

    Deepseek进入业务深水区,为什么需要大EP?

    行业智能化的高铁,由大EP+DeepSeek的双轨铺成
    的头像 发表于 03-17 15:09 1682次阅读
    <b class='flag-5'>Deepseek</b>进入业务深水区,为什么需要<b class='flag-5'>昇</b><b class='flag-5'>腾</b>大EP?

    润和软件将持续深化“+DeepSeek”技术路线

    (以下简称“润和软件”)作为生态核心伙伴受邀出席,人工智能研究院AI总工朱凯分享了基于“ + openEuler + OpenHar
    的头像 发表于 03-08 09:39 1140次阅读

    漫话之《一体机请就位》

    为什么DeepSeek部署「最优解」?
    的头像 发表于 03-07 00:12 1949次阅读
    漫话<b class='flag-5'>昇</b><b class='flag-5'>腾</b>之《一体机请就位》

    推理服务器+DeepSeek模型 技术培训在图为科技成功举办

    2月17日,华为政企业务团队受邀莅临图为科技深圳总部,并成功举办了一场聚焦于《推理服务器+DeepSeek模型》的专业知识培训。 此次培训活动不仅深化了双方的技术交流,更标志着
    的头像 发表于 02-26 17:38 1086次阅读
    <b class='flag-5'>昇</b><b class='flag-5'>腾</b>推理服务器+<b class='flag-5'>DeepSeek</b>大<b class='flag-5'>模型</b> 技术培训在图为科技成功举办

    中软国际携手华为助力北京昌平上线DeepSeek政务大模型

    治理领域,基于算力与华为技术部署DeepSeek-R1-671B政务大模型,标志着昌平区
    的头像 发表于 02-21 10:57 984次阅读

    绍兴数据局率先实现政务环境下的DeepSeek模型部署

    2月14日,绍兴数据局率先基于华为服务器,成功部署上线DeepSeek全尺寸大模型,在全省率先实现
    的头像 发表于 02-20 11:22 1753次阅读
    绍兴数据局率先<b class='flag-5'>实现</b>政务环境下的<b class='flag-5'>DeepSeek</b><b class='flag-5'>模型</b><b class='flag-5'>部署</b>

    研华发布AI Box及Deepseek R1模型部署流程

    近日,随着深度求索(DeepSeek)大模型的发布在行业内掀起热议,研华科技正式推出了基于Atlas平台的边缘AI Box MIC-AT
    的头像 发表于 02-19 10:41 1114次阅读

    华为推出DeepSeek模型一体机

    DeepSeek模型的横空出世,让AI正以前所未有的速度重塑各行各业的发展格局。DeepSeek
    的头像 发表于 02-18 09:56 2644次阅读

    添越智创基于 RK3588 开发板部署测试 DeepSeek 模型全攻略

    DeepSeek 模型部署与测试,开启这场充满挑战与惊喜的技术探索之旅。 RK3588 开发板:AI 性能担当 RK3588 开发板基于先进的 8nm LP 制程工艺精心打造,其硬
    发表于 02-14 17:42

    研华边缘AI Box MIC-ATL3S部署Deepseek R1模型

    随着深度求索(DeepSeek)大模型的发布引发行业热议,研华科技基于Atlas平台边缘AI Box MIC-ATL3S正式发布与
    的头像 发表于 02-14 16:08 2647次阅读
    研华边缘<b class='flag-5'>AI</b> Box MIC-ATL3S<b class='flag-5'>部署</b><b class='flag-5'>Deepseek</b> R1<b class='flag-5'>模型</b>

    中软国际科创中心上线DeepSeek模型

    近日,中软国际科创中心以“DeepSeek+”为引擎,紧跟行业趋势,将DeepSeek全参模型满血版
    的头像 发表于 02-08 18:02 1765次阅读