0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

云轴科技ZStack智塔携手昇腾AI实现DeepSeek模型部署

华为数字中国 来源:华为数字中国 2025-02-18 09:59 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

DeepSeek为人工智能AI产业带来一场革命,为企业级AI应用私有化部署场景(Private AI)注入强劲动力。作为企业级私有化AI Infra平台,云轴科技ZStack智塔携手昇腾AI实现了DeepSeek V3/R1/ Janus Pro三种模型的高效部署,并充分发挥DeepSeek开源模型和低成本高性能特点,为企业提供安全高效的AI基础设施方案,进一步推动AI的企业级商用进程。

从7B到671B模型尺寸

适配企业数据中心AI算力资源

AI Infra平台ZStack智塔在算力层提供计算、存储、网络、安全等基础资源和服务。智能异构调度引擎自动匹配硬件特性,高度适配昇腾算力资源,提供从高效蒸馏7B小模型到满血671B大模型的灵活选择,满足企业数据中心多样化算力需求。

昇腾310:作为面向边缘计算和推理场景的高能效AI产品,昇腾310具备出色的推理性能和功耗比。ZStack智塔充分利用昇腾310的优势,通过模型优化和算力调度,在 R1 蒸馏模型、Janus Pro 模型的推理任务中实现高效能比,为企业提供经济高效的AI部署方案。

昇腾910:昇腾910具有强大的浮点计算能力,适用于大规模模型训练。ZStack智塔通过优化计算资源分配和任务调度,充分挖掘昇腾910的性能潜力,加速DeepSeek等大模型的推理过程,满足企业对高性能AI算力的需求。

954838c2-ed2a-11ef-9310-92fbcf53809c.png支持DeepSeek三种模型

满足企业不同AI场景需求

AI Infra平台ZStack智塔在模型层提供模型开发和应用所需的各种基础工具和组件,支持开源和闭源模型的全生命周期管理。基于昇腾系列硬件支持,ZStack智塔可高效运行DeepSeek V3、R1和Janus Pro模型。

DeepSeek V3:适用于通用型自然语言处理任务。利用昇腾硬件的强大算力,V3模型能够在 AI Infra 上实现高性能的训练和推理,并通过多机互联提升模型的计算效率,满足企业对于大规模自然语言处理的需求。

DeepSeek R1:专注于复杂推理任务。借助昇腾硬件的强大算力和互联性能,R1模型在处理复杂计算和大规模数据时表现出色,提升推理速度和准确性,提供面向推理模型的长上下文。

DeepSeek Janus Pro:擅长多模态理解与生成。通过昇腾硬件的异构计算能力,Janus Pro模型可高效处理图像数据类型,实现跨模态的信息融合和生成,满足企业在多媒体内容分析、智能客服等领域的需求。

提供企业灵活性与定制化服务

构建新一代企业数智化平台

AI Infra平台智塔可以根据企业自身需求,基于昇腾在私有云或混合云环境中部署DeepSeek模型,从而确保数据的安全性和隐私保护;还提供裸金属、虚拟机和容器计算资源的弹性扩展,支持与多种硬件和软件的集成,使得企业能够轻松地将AI能力整合到现有系统中,满足企业级用户对AI应用的多样化需求。

AI Infra平台是企业加速释放AI生产力的关键引擎平台,它聚焦企业级AI应用的私有化部署场景(Private AI)。赛迪顾问在《2025中国AI Infra平台市场发展研究报告》中认为,2025年是中国AI Infra平台应用元年,预计2024年、2025年将分别达到19.4亿元和36.1亿元,2025年同比增长将超过86%。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • AI
    AI
    +关注

    关注

    91

    文章

    41172

    浏览量

    302624
  • Zstack
    +关注

    关注

    0

    文章

    9

    浏览量

    9893
  • 昇腾
    +关注

    关注

    1

    文章

    187

    浏览量

    7553
  • DeepSeek
    +关注

    关注

    2

    文章

    840

    浏览量

    3406

原文标题:ZStack智塔携手昇腾AI,支持DeepSeek三种模型私有化部署

文章出处:【微信号:HWS_yunfuwu,微信公众号:华为数字中国】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    国产AI算力:从DeepSeek V4与华为协同看全栈自主之路

    Cache滑窗和压缩算法,显著降低计算与访存开销,在Agent能力、世界知识和推理性能上处于国内及开源领域领先地位。   与此同时,华为宣布超节点全系列产品全面支持DeepSeek V4系列,这场芯
    的头像 发表于 04-25 07:02 6725次阅读

    边缘AI算力临界点:深度解析176TOPS香橙派AI Station的产业价值

    ) 根据社区开发者分享的实战经验,OrangePi AI Station已被用于部署具身智能领域的 ACT (Action Chunking with Transformers)
    发表于 03-10 14:19

    华为深度适配智谱AI全新开源模型GLM-5

    ,在真实编程场景的使用体验逼近Claude Opus 4.5,更擅长复杂系统工程与长程Agent任务。一直同步支持智谱GLM系列模型,此次GLM-5模型一经开源发布,
    的头像 发表于 02-25 14:41 1348次阅读
    华为<b class='flag-5'>昇</b><b class='flag-5'>腾</b>深度适配智谱<b class='flag-5'>AI</b>全新开源<b class='flag-5'>模型</b>GLM-5

    香橙派系列开发板如何部署OpenClaw

    。一位24小时全天候在线的“全能AI员工”让您的高算力开发板如虎添翼,其性能和价值得以充分发挥。无论你是要部署更复杂的智能体流程,还是处理更高负载的自动化任务,芯片的澎湃算力都将为
    发表于 02-25 10:13

    AI+FPGA助力生态新篇章|2025AI技术研讨会·杭州站成功举办

    和杭州人工智能计算中心共同承办。会议聚焦AI技术创新、行业解决方案落地及生态链协同发展三大核心议题。内容涵盖底层硬件,大
    的头像 发表于 12-24 08:05 808次阅读
    <b class='flag-5'>AI</b>+FPGA助力<b class='flag-5'>昇</b><b class='flag-5'>腾</b>生态新篇章|2025<b class='flag-5'>昇</b><b class='flag-5'>腾</b><b class='flag-5'>AI</b>技术研讨会·杭州站成功举办

    如何在ZYNQ本地部署DeepSeek模型

    一个将最小号 DeepSeek 模型部署到 AMD Zynq UltraScale+ MPSoC 处理系统的项目。
    的头像 发表于 12-19 15:43 7829次阅读
    如何在ZYNQ本地<b class='flag-5'>部署</b><b class='flag-5'>DeepSeek</b><b class='flag-5'>模型</b>

    国产AI芯片真能扛住“算力内卷”?海思的这波操作藏了多少细节?

    最近行业都在说“算力是AI的命门”,但国产芯片真的能接住这波需求吗? 前阵子接触到海思910B,实测下来有点超出预期——7nm工艺下算力直接拉到256 TFLOPS,比上一代提升了40%,但功耗
    发表于 10-27 13:12

    DeepSeek模型如何在服务器上部署

    随着大型语言模型(LLM)的应用日益普及,许多开发者和企业希望将像DeepSeek这样的优秀模型部署到自己的服务器上,以
    的头像 发表于 10-13 16:52 1148次阅读

    软通动力携手华为推进AI智能体规模化部署

    9月18至20日,软通动力作为独家钻石赞助商深度参与华为全联接大会2025多项重要活动。在大会期间的OpenSpeech环节,软通动力数字基础设施与集成技术总监单继岭发表了”软通动力携手,赋能
    的头像 发表于 09-28 17:50 1735次阅读

    知声加入华为万里伙伴计划

    近日,知声(09678.HK)正式加入华为万里伙伴计划,标志着其在大模型领域的技术实力与创新能力获得了业界高度认可。此次合作将进一步推动双方在人工智能基础设施、大
    的头像 发表于 09-22 09:16 1023次阅读

    智能客服驱动效率和体验升级,上海电信+AI的一次民生应用实践

    上海电信+AI的一次民生应用实践
    的头像 发表于 07-30 23:44 3084次阅读
    智能客服驱动效率和体验升级,上海电信+<b class='flag-5'>昇</b><b class='flag-5'>腾</b><b class='flag-5'>AI</b>的一次民生应用实践

    Arm Neoverse N2平台实现DeepSeek-R1满血版部署

    今年年初,开源大语言模型 (LLM) DeepSeek 在国内外人工智能 (AI) LLM 领域掀起热议。它在模型架构和训练、推理方法上实现
    的头像 发表于 07-03 14:37 1432次阅读
    Arm Neoverse N2平台<b class='flag-5'>实现</b><b class='flag-5'>DeepSeek</b>-R1满血版<b class='flag-5'>部署</b>

    软通动力携手华为推出AI知识引擎与数据工程融合创新解决方案

    在华为开发者大会2025中,软通动力携手华为以华为AI、盘古大
    的头像 发表于 06-28 17:07 1772次阅读

    华为开发者大会2025(HDC 2025)亮点:华为发布盘古大模型5.5 宣布新一代AI服务上线

    HarmonyOS、AI服务、盘古大模型等最新科技创新成果。 在主题演讲中,华为常务董事、华为
    的头像 发表于 06-20 20:19 4671次阅读
    华为开发者大会2025(HDC 2025)亮点:华为<b class='flag-5'>云</b>发布盘古大<b class='flag-5'>模型</b>5.5 宣布新一代<b class='flag-5'>昇</b><b class='flag-5'>腾</b><b class='flag-5'>AI</b><b class='flag-5'>云</b>服务上线

    Deepseek海思SD3403边缘计算AI产品系统

    的训练样本和训练 模型,具体商业价值和保密性,采用海思SD3403边缘计算AI服务器+多路安防监控IPC,让差异化AI视频系统, 成本控制极具市场竞争力。 海思SD3403边缘计算AI
    发表于 04-28 11:05