0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

玄武智算云平台为智能计算保驾护航

华为数字中国 来源:华为数字中国 2025-02-18 10:06 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

当前,AI大模型的迅猛发展带来了大量的智算需求。然而,大模型的复杂架构与海量参数对算力要求极高,在实际应用场景中,即便组建超大规模智算集群,如何优化算力使用和提升集群计算效率,依然是一项极具挑战性的任务;其次,大模型部署的组件兼容性差、协同工作难度大,在不同环境下迁移与优化的门槛很高;另外,大模型与各行各业的结合日益成熟,大模型在微调和推理部署任务需求日益增加。为解决以上问题,玄武智算云平台应运而生。该平台依托昇腾系列硬件,适配多种主流大模型,实现了大模型的微调、推理、优化部署等任务的端到端落地,极大提升集群的AI支持能力;同时,玄武平台具备强大的算力加速和算力池化能力,可精准调配资源,实现高效的算力集群管理,完美攻克算力“用不了,不好用”的难题,为智能计算保驾护航。

01平台概述

玄武智算云平台是基于昇腾原生打造的智算平台,它支持昇腾全系列硬件的纳管、调度和AI模型支持,可实现高效、精细的算力集群运营管理,旨在打破模型部署困境,解决集群利用率低、硬件适配性差、运营效率低等核心痛点问题,为用户提供高效、经济、便捷的智能计算服务。

a673bb8a-ed2a-11ef-9310-92fbcf53809c.png

02核心功能

适配、加速、算力池化

在适配方面,平台能够针对不同架构类型的计算模型实现高精度匹配,这为后续推理、训练框架优化加速功能的有效发挥,提供了坚实的前提条件。在加速方面,平台的推理、训练框架优化功能协同发力,能够大幅缩短推理决策时长,快速输出精准结果,显著加快模型迭代,全方位提升工作效率。在算力池化方面,平台依托统一通信、精细任务切分与多级混合策略,遇复杂任务时能有条不紊地调配资源,实现多任务并行高效推进,保障用户的使用体验。

算力集群管理

在对算力集群的管理方面,玄武智算云平台具备高度专业性与系统性。

首先,在硬件纳管与监测方面,平台硬件纳管功能能够精准把控硬件,确保集群运行有条不紊。硬件监测功能能够紧盯硬件状态,精准、实时探测潜在隐患,为保障平台能够平稳、顺畅的运转,筑牢坚实的根基;

其次,在资源调配方面,平台能够深入剖析任务特性的差异,以科学、精细的方式分配算力,避免出现算力冗余闲置的状况,确保算力资源得到最优化的配置;

最后,在资源提效方面,平台采网络虚拟化、存储虚拟化等协同技术,汇聚算力,优化传输与存储,降低成本,为平台性能提供支撑,确保用户可享受到稳定、高效、可靠的服务。

运营管理

计费模式创新实用。平台采用token式计费与按量计费相结合的模式,为用户开辟灵活自主的资源成本管控路径,用户可依业务需求选计费模式,确保资源投入契合业务发展节奏,避免浪费。

安全防护坚实可靠。平台的服务鉴权功能能够全方位监测和拦截未经授权的访问及操作企图,精准识别并拒外部恶意入侵和内部违规操作于门外,保障信息安全与用户隐私。

运营流程优化升级。平台的SLO管理与产品管理模块紧密协同,以及精细化管理产品全生命周期,优化运营环节,确保服务质量与产品功能迭代。

数据回溯助力运维。平台服务的日志功能可以完整记录用户操作轨迹,为用户回溯操作记录提供便利,也为运维团队排查故障、分析数据提供支撑,助力平台自我优化升级。

03优势亮点

支持海量主流模型适配

玄武智算云平台能够支持海量广泛、不同规模范围的大模型。它支持Deepseek、Baichuan、Llama、Qwen、ChatGLM等多种模型,能够满足不同行业对各种模型的需求,并确保模型在平台上高效运行。

a6903d46-ed2a-11ef-9310-92fbcf53809c.png

支持混合推理

玄武智算云平台具备卓越的灵活性,能够支持多种型号的昇腾硬件,实现统一推理任务的高效处理。此外,平台具备多级分布式算力组合功能,结合模型任务的自适应切分,使得各类算力资源都得以高效整合与利用。这种智能化的算力调配不仅提升了推理的精准度和效率,还确保了平台能够灵活应对多样化的业务需求,为用户提供了强大的技术支持。

a6ab5540-ed2a-11ef-9310-92fbcf53809c.png

支持大模型训练微调、推理部署一站式服务

玄武智算云平台的核心优势在体现在对大模型训练微调和推理部署的全面支持。在训练微调方面,平台支持的微调方法涵盖了业界领先的SFT技术,能够为用户提供灵活多样的模型优化选项,确保模型能够精确适应特定任务需求。在推理部署方面,平台支持文本生成、对话系统和文本分类等多样化的推理任务。致力于提供高效稳定的推理服务,确保用户在处理大规模语言模型时,能够获得快速响应和高性能输出。

a6c25376-ed2a-11ef-9310-92fbcf53809c.png

a6df120e-ed2a-11ef-9310-92fbcf53809c.png

支持即时部署,立享澎湃算力

玄武智算云平台通过用户友好的操作界面和简易的流程设计,为用户带来了前所未有的便捷体验。用户无需进行繁琐的配置和调试,即可迅速接入并使用平台提供的算力资源。这种设计不仅节省了用户的宝贵时间,也降低了使用高性能计算资源的技术门槛。

a6f71a34-ed2a-11ef-9310-92fbcf53809c.png

a70bd79e-ed2a-11ef-9310-92fbcf53809c.png

支持昇腾生态,联合实现共赢

玄武智算云平台通过对Atlas 300I Pro、Atlas 300I Duo、Atlas 900 PoD、Atlas 800T A2等昇腾全系列硬件的高效整合,能够根据不同任务需求精准调配硬件资源,大幅提升计算效能。在此基础上,玄武智算云平台与昇腾硬件的结合,能够带来以下显著的业务优势:

全面覆盖需求:平台能够精准满足90%以上的RAG需求,提供全面的模型服务和算力调度,并确保模型运行的高效率和稳定性。

性能提升:平台接入了适配昇腾系列硬件的MLGuider-Ascend大模型训练和推理引擎,支持多种AI加速技术,显著提高处理效率,能够轻松应对海量并发请求。

算子优化:平台基于昇腾常用算子进行了优化,在Atlas 900 PoD集群上能够释放出卓越的性能,使计算过程更加高效和迅速。

自主创新:“昇腾+玄武智算云”联合方案实现了软硬件的自主创新,能够实现技术主权和保障数据安全,并以其高性价比的解决方案,为各行业的数字化转型提供坚实的支持,推动了数智化的发展。

展望未来,昇腾与清昴的合作将迈向新的发展高度。双方将进一步整合资源,携手攻克技术难题,将先进的智能计算技术应用于更多行业领域,努力为客户创造更大的价值,为推动数智化发展做出更大的贡献!

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 华为
    +关注

    关注

    217

    文章

    35783

    浏览量

    260701
  • AI
    AI
    +关注

    关注

    89

    文章

    38090

    浏览量

    296518
  • 云平台
    +关注

    关注

    1

    文章

    1532

    浏览量

    41660

原文标题:昇腾原生丨玄武智算云平台正式发布,领航智能计算新时代

文章出处:【微信号:HWS_yunfuwu,微信公众号:华为数字中国】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    FLIR早期火灾探测技术林业安全保驾护航

    设施更是首当其冲。面对这一挑战,Flir的早期火灾探测(EFD)技术以其精准、高效的特点,林业安全保驾护航
    的头像 发表于 11-14 14:09 433次阅读

    解决锂电池一致性难题!景锂新能源电池均衡仪储能安全/电动车续航保驾护航

    解决锂电池一致性难题!景锂新能源电池均衡仪储能/电动车电池续航保驾护航
    的头像 发表于 11-06 11:00 354次阅读

    曙光数创您的数据中心建设保驾护航

    每一台曙光数创生产的设备背后,都是一场围绕着“品质”的马拉松。从原料进场到设备出厂,几十道流程环环相扣,曙光数创用20年的“较真精神”,把品质藏进了生产线的每个细节里,您的数据中心建设保驾护航
    的头像 发表于 09-30 16:15 1067次阅读

    光伏电站气象监测系统:清洁能源高效发电保驾护航

    光伏电站气象监测系统:清洁能源高效发电保驾护航 柏峰【BF-GFQX】在全球能源结构向清洁能源转型的浪潮中,光伏发电凭借其清洁、可再生的优势,得到了前所未有的发展。然而,光伏电站的发电效率深受气象条件影响,
    的头像 发表于 07-21 11:47 398次阅读
    光伏电站气象监测系统:<b class='flag-5'>为</b>清洁能源高效发电<b class='flag-5'>保驾护航</b>

    车规级二三极管、MOS管、LDO选型应用 车灯保驾护航

    在汽车照明系统中,常用到保护器件、二极管、三极管、MOSFET、LDO、IC等功率半导体器件,这些元器件承载着至关重要的作用:浪涌静电防护、整流、隔离、启动、电流放大等等,汽车车灯稳定运行保驾护航
    的头像 发表于 04-24 17:07 906次阅读
    车规级二三极管、MOS管、LDO选型应用 <b class='flag-5'>为</b>车灯<b class='flag-5'>保驾护航</b>

    eUPS0505断电续航模块,嵌入式系统保驾护航

    保驾护航。应用场景与作用在嵌入式系统中,有许多关键设备如主控MCU和存储器都需要稳定的电力供应,倘若遇到外部供电意外断电,则极易导致存储器数据丢失甚至系统损坏,因此就有
    的头像 发表于 04-15 11:38 511次阅读
    eUPS0505断电续航模块,<b class='flag-5'>为</b>嵌入式系统<b class='flag-5'>保驾护航</b>

    充电桩安全用电消防系统:电动自行车保驾护航

    。今天,我们就来聊聊充电桩安全用电消防系统,看看它是如何为电动自行车保驾护航的。 电动自行车充电桩,作为电动自行车充电的基础设施,其安全性直接关系到广大车主的生命财产安全。近年来,因充电桩质量问题或使用不当引发
    的头像 发表于 04-01 14:11 581次阅读

    充电桩“耐力大考验”:老化负载研究,持久续航保驾护航

    虚拟仿真技术,模拟各种复杂环境下的老化过程,缩短测试周期,降低测试成本。 充电桩老化负载研究,是保障充电桩安全可靠运行的重要环节,也是推动充电桩行业健康发展的重要力量。让我们共同期待,更智能、更可靠的充电桩,绿色出行保驾护航
    发表于 02-28 14:42

    从工业控制系统到智能安防设备,30KPA71A 单向二极管凭 71V 击穿保驾护航

    从工业控制系统到智能安防设备,30KPA71A 单向二极管凭 71V 击穿保驾护航
    的头像 发表于 02-28 13:12 557次阅读
    从工业控制系统到<b class='flag-5'>智能</b>安防设备,30KPA71A 单向二极管凭 71V 击穿<b class='flag-5'>保驾护航</b>

    一文速览 30KPA48A:快速响应,电路安全保驾护航

    一文速览 30KPA48A:快速响应,电路安全保驾护航
    的头像 发表于 02-22 10:15 875次阅读
    一文速览 30KPA48A:快速响应,<b class='flag-5'>为</b>电路安全<b class='flag-5'>保驾护航</b>

    安科瑞蓄电池在线监控系统铁塔基站的稳定运行保驾护航

    简婷 安科瑞电气股份有限公司 上海嘉定 201801  安科瑞蓄电池在线监控系统铁塔基站的稳定运行保驾护航 技术支持18701998775     国家大力实施网络强国战略,移动通信行业的持续
    的头像 发表于 02-20 16:54 630次阅读
    安科瑞蓄电池在线监控系统<b class='flag-5'>为</b>铁塔基站的稳定运行<b class='flag-5'>保驾护航</b>

    无人机电力巡检系统电网安全保驾护航

           无人机电力巡检系统电网安全保驾护航        电力,现代社会的命脉,其稳定运行关乎国计民生。而电力巡检,作为保障电网安全的首道防线,却长期面临着效率低、风险高、成本大等难题。传统
    的头像 发表于 02-07 18:06 904次阅读

    5KP26A 二极管:26V 精准稳压,电路安全 “保驾护航

    5KP26A 二极管:26V 精准稳压,电路安全 “保驾护航
    的头像 发表于 01-21 14:07 1315次阅读

    无人机光伏巡检系统光伏发电保驾护航

           无人机光伏巡检系统光伏发电保驾护航        在当下,光伏发电行业正处于高速发展的黄金时期,光伏电站的规模也在不断扩大。然而,在这繁荣的背后,光伏维护与巡检却面临着诸多挑战。幸运
    的头像 发表于 01-13 16:25 786次阅读

    低温自动加热型激光雪深传感器:交通出行保驾护航

    冬日里的暖阳,交通出行保驾护航,让人们在冰雪中也能畅行无阻。 这款传感器融合了前沿的激光测距技术与巧妙的低温自动加热设计。其工作原理基于激光脉冲的精准发射与反射。当传感器开启工作模式,它会向雪面发射一束高
    的头像 发表于 01-07 13:49 612次阅读