0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

面向万亿级参数大模型,“超节点”涌现

Hobby观察 来源:电子发烧友网 作者:梁浩斌 2025-08-03 02:37 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

电子发烧友网综合报道 近年来,随着人工智能技术的迅猛发展,尤其是大模型的兴起,对算力的需求呈现出爆发式增长。在这一背景下,紫光股份旗下新华三集团以“算力×联接”为技术基石,重磅发布了全新的H3C UniPoD系列超节点产品,旨在为万亿级参数大模型的训练与推理提供更强劲、更智能且更绿色的算力支持。

H3C UniPoD系列超节点产品基于领先的Scale-up南向互联技术,可实现单机柜最高64卡GPU间的高速互联互通,有效突破了单卡计算性能瓶颈,为AI技术在百行百业的落地应用提供了坚实的算力基础。

当前,以DeepSeek为代表的MoE大模型持续火爆,推动了AI领域的“军备竞赛”,大模型已迈入“万亿级”时代。然而,传统的计算架构和“摩尔定律”已不再适用,单卡计算性能接近天花板,单机GPU互联及机间Scale-out横向扩展也难以满足高带宽、低时延与高可靠的集群网络联接需求。新华三凭借在网络联接领域的深厚积累,结合不同品牌GPU的性能与架构特点,开发出基于以太协议和PCIe协议的双技术路线超节点产品,可实现单机柜最高64卡的全互联互通,大幅提升单节点计算效能,打造了万亿级参数大模型训推的强劲算力引擎。

本次发布的H3C UniPoD超节点产品以算力芯片多元化、互联协议标准化、基础设施集成化为核心设计理念,主要涵盖H3C UniPoD S80000和H3C UniPoD F80000两个子产品系列,能够为不同规模参数的模型训练、推理和精调提供有针对性的算力支撑。

H3C UniPoD S80000面向万亿级参数模型训推场景,实现了更高性能、更高密度、更高效率的三重进化。它以网强算,全面释放算力矩阵动能,柜内卡间全互联通信,互联带宽提升8倍,单机柜训练性能相较于单节点最高可提升10倍,单卡推理效率提升13倍。

在密度方面,H3C UniPoD S80000单柜支持部署64卡,采用液冷方式散热,整柜功率可支持到120KW,同时兼容下一代高性能AI加速卡。此外,三总线全盲插、全面的漏液检测等设计,简化了运维流程、提升了能效产出。

值得关注的创新点是,H3C UniPoD F80000依托全国产算力平台,采用创新的PCIe光互联技术,突破单机板内走线限制,实现了64张AI加速卡的高速互联,卡间带宽大幅提升至576GB/s,模型训练性能提升35%以上。基于灵活开放的产品理念,H3C UniPoD F80000支持基于不同形态的AI服务器及AI加速卡灵活构建超节点产品,支持按需定义产品拓扑16/32/64卡,实现灵活按需交付。

近年来随着算力需求的增长,市场上出现越来越多的超节点产品。比如,NVIDIA NVL72系统配备72个NVIDIA Blackwell GPU,单个GPU显存为192T;配置36个NVIDIA Grace CPU,每个CPU搭配480GB内存,总内存为17TB DDR5X;采用第五代NVLink技术,单GPU连接带宽达1.8TB/s,整个系统内的72个GPU通过NVLink全互联,总带宽达130TB/s;采用全液冷机架方案,相比传统风冷基础设施,同等功耗下性能提升25倍。

华为昇腾 384 超节点由 12 个计算柜和 4 个总线柜组成,支持 384 张昇腾 910C NPU 全互联,通信时延降低至 0.2μs(较传统方案下降 10 倍),带宽提升 15 倍。采用液冷设计,PUE<1.2,性能对标英伟达 NVL72 超节点。
燧原科技云燧ESL超节点系统单节点最高64卡全带宽互联,采用液冷方案,实现高性价比、高密度、高能效,可实现9216GB单节点存储容量、230TB/s单节点存储带宽、51.2TB/s单节点聚合带宽、单节点可支持PD分离优化。

展望未来,AI行业对算力的需求将持续增长。随着大模型的不断发展,算力基础设施的性能、效率和灵活性将变得至关重要。新华三将持续深化“算力×联接”能力,实现关键技术突破和工程化创新,全面构建多元开放、持续进化、AI就绪、强劲稳定的算力基础设施,加速百行百业的智慧跃迁。多元算力架构的融合、高速互联技术创新、绿色节能发展、智能化运维管理以及算力云服务的普及将成为未来行业发展的主要趋势。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    工作流大模型节点说明

    ,变量值支持设置为固定值或引用上游节点的输出参数模型设置说明: 支持对模型参:TopK、TopP、Temperature进行调整,实现
    发表于 03-19 14:56

    摩尔线程与中国移动研究院等,联合发布128卡高密节点参考设计,定义超大规模智算底座新标准

    随着全球智算集群规模跨入“万卡时代”并向“十万卡”巅峰演进,传统单机八卡服务器在应对万亿参数模型时,因集群通信开销过大导致算力线性增长受阻,技术重心正加速向具备强互联能力的
    发表于 03-17 08:40 854次阅读

    工作流节点说明结束节点

    结束节点是工作流的最终节点,用于返回工作流运行后的结果。结束节点支持两种返回方式:返回变量、返回文本。 返回变量 在返回变量模式下,工作流运行结束后会以JSON格式输出所有返回参数,适
    发表于 03-16 16:43

    华为发布新一代节点产品,支持8192张NPU卡高速互联

    支撑   在人工智能快速发展的当下,每月都有新突破。智能体时代,模型从局限于大语言模型走向全模态原生融合,万亿模型
    的头像 发表于 03-09 09:19 7208次阅读

    中兴通讯重磅发布节点技术白皮书

    近日,中兴通讯重磅发布《节点技术白皮书》,提出以节点为核心打造标准化“AI工厂”,通过系统架构创新突破算力极限与能效瓶颈,为AI基础设
    的头像 发表于 02-10 13:47 704次阅读

    中科曙光3套scaleX万卡集群落地国家算互联网郑州核心节点

    2月5日,由中科曙光提供的3套万卡集群系统在国家算互联网郑州核心节点同时上线试运行,成为全国首个实现3万卡部署、且实际投入运营的最大国产AI算力池,全面覆盖万亿
    的头像 发表于 02-09 10:32 716次阅读

    奇异摩尔ODCC 2026节点大会精彩回顾

    北京-1月22日,由ODCC(开放数据中心委员会)主办的2026节点大会在北京顺利举办。本次大会围绕节点部件、
    的头像 发表于 01-24 15:49 2054次阅读
    奇异摩尔ODCC 2026<b class='flag-5'>超</b><b class='flag-5'>节点</b>大会精彩回顾

    中国信通院:元脑SD200首个通过《节点测试大纲》评测,Token速度快至8.73ms!

    当前,面对千亿乃至万亿参数模型训练与推理日益增长的应用需求,传统一机八卡服务器已难以满足性能要求,节点新型计算产品应运而生。中国信息通信
    的头像 发表于 01-15 17:19 757次阅读

    发力AI节点和AI推理服务器,华勤技术重磅亮相英特尔大会

    电子发烧友原创 章鹰 近日,在2025英特尔技术创新大会上,华勤技术数据事业部总经理程励之指出,AI算力需求激增,万亿模型参数需要多GPU高带宽互联,
    的头像 发表于 12-07 05:59 1.1w次阅读
    发力AI<b class='flag-5'>超</b><b class='flag-5'>节点</b>和AI推理服务器,华勤技术重磅亮相英特尔大会

    从炫技到务实,节点的祛魅时刻

    规模与业务相适配,才是节点的最优解
    的头像 发表于 12-03 16:55 1.1w次阅读
    从炫技到务实,<b class='flag-5'>超</b><b class='flag-5'>节点</b>的祛魅时刻

    中科曙光scaleX640节点亮相2025世界计算大会

    11月20日,在以“计算万物,湘约未来——智算驱动新质生产力”为主题的长沙世界计算大会上,中科曙光携scaleX640节点重磅亮相,引发各界广泛关注。作为全球首个单机柜640卡
    的头像 发表于 11-21 17:30 1174次阅读

    昆仑芯节点亮相,单卡性能提升95%

    ;天池512节点将于 2026下半年上市,最高支持512卡互联、卡间互联总带宽提升1倍、单节点即可完成万亿参数模型训练。     早在今年
    的头像 发表于 11-16 07:32 1.1w次阅读
    昆仑芯<b class='flag-5'>超</b><b class='flag-5'>节点</b>亮相,单卡性能提升95%

    开源大模型算力革命下:电子谷连接技术的坚守与未来

    推动算力系统向节点架构转型。"元脑SD200"等新一代服务器通过开放总线技术实现万亿参数模型的实时运行,而这一突破的背后,离不开连接器、线束等核心部件的技术支撑
    的头像 发表于 09-19 08:03 629次阅读
    开源大<b class='flag-5'>模型</b>算力革命下:电子谷连接技术的坚守与未来

    浪潮信息发布&quot;元脑SD200&quot;节点面向万亿参数模型创新设计

    北京2025年8月8日 /美通社/ -- 8月7日,浪潮信息发布面向万亿参数模型节点AI服
    的头像 发表于 08-08 22:17 782次阅读
    浪潮信息发布&quot;元脑SD200&quot;<b class='flag-5'>超</b><b class='flag-5'>节点</b>,<b class='flag-5'>面向</b><b class='flag-5'>万亿</b><b class='flag-5'>参数</b>大<b class='flag-5'>模型</b>创新设计

    万亿参数!元脑企智一体机率先支持Kimi K2大模型

    北京2025年7月21日 /美通社/ -- 浪潮信息宣布元脑企智一体机已率先完成对Kimi K2 万亿参数模型的适配支持,并实现单用户70 tokens/s的流畅输出速度,为企业客户高效部署
    的头像 发表于 07-22 09:27 695次阅读
    <b class='flag-5'>万亿</b><b class='flag-5'>参数</b>!元脑企智一体机率先支持Kimi K2大<b class='flag-5'>模型</b>