0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

AI时代,如何用服务器存储如何升级?

向上 来源:厂商供稿 作者:铠侠 2025-11-03 14:46 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

一边是基于Darkmont的至强6+蓄势待发,另一边是基于Zen 6的EPYC Venice摩拳擦掌,海量GPU并行计算的AI服务器正在酝酿一轮全新的升级,以更高的密度、吞吐量和效能支持AI负载和新应用挑战。无论是CXL与内存扩展技术的落地,还是PCIe 5.0和PCIe 6.0与AI数据密集型应用推动的本地高速存储,都将企业级固态硬盘推向了非常重要角色。存储已经从系统的配套设施,变身成新平台性能释放的关键。

相对于HBM、GDDR和DRAM,企业级SSD优势在于弥补了数据供给速度与计算速度之间的巨大鸿沟,特别是全新的CPU、GPU在算力、核心数量、AI吞吐量井喷式的增长,以往的低速存储很容易造成计算单元空转,造成数据饥饿,进而影响到企业的时间与支出成本。

PCIe 5.0规范在企业级平台中的普及已经能够很好的解决很多问题。例如新平台单路有机会提供多大128条PCIe 5.0通道,进而并行挂载8到16块企业级SSD,聚合带宽轻松突破100 GB/s,与内存子系统形成二级存储池,为AI训练、实时分析提供高速数据洪流。

随着模型体积不断增大,AI大模型、OLAP数据库的工作经常超出物理内存已经成为日常,把热数据缓存到企业级SSD也已经成为未来趋势。以近段时间发布的铠侠LC9为例,不仅支持PCIe 5.0,NVMe 2.0和NVMe-MI 1.2c,以及OCP v2.5规范,单盘容量更是一步到位达到了245.76TB,能够以更高的存储密度,远低于DRAM的存储成本为AI提供数据流支持,同时响应性能还能保持在微秒级。

随着NVMe over RoCE v2和CXL 3.0的进一步推广,本地SSD还可以池化为软件定义内存,实现跨节点共享,特别企业级SSD或者数据中心级SSD与高性能AI服务器集群联合,把数PB高速闪存当作全局地址空间,内存容量得以弹性扩容,让数据中心、AIGC训练集群突破单机内存墙。

由铠侠BiCS8 TLC打造的CM9系列为高性能计算集群提供了充足的存储支持,具备双端口设计,为多平台存储方案提供更多可能性能。同时CM9系列拥有强劲的性能表现,顺序读取性能高达14.8GB/s,释放PCIe 5.0潜能,且提供U.2和E3.S规格可选,满足不同的存储方案需求,且最高容量可达61.44TB。

铠侠CD9P同样由BiCS8 TLC打造,最高容量同样可达61.44TB,且旨在帮助数据中心优化TCO,同时兼顾高吞吐量、低延迟等诸多特性,为AI加速、机器学习、云端服务等应用提供更多可能性。

数据就像粮草,算力再强,也需要数据跟上。铠侠企业级SSD和数据中心级SSD以高速、稳定、可靠的表现,将数据洪流稳定地送到计算单元,成为新平台中性能释放的关键部件,也是数据存储的保险栓,为AI应用落地提供坚实的保障。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • DRAM
    +关注

    关注

    41

    文章

    2406

    浏览量

    189748
  • 固态硬盘
    +关注

    关注

    12

    文章

    1659

    浏览量

    60767
  • HBM
    HBM
    +关注

    关注

    2

    文章

    437

    浏览量

    15908
  • GDDR
    +关注

    关注

    0

    文章

    28

    浏览量

    5053
  • 铠侠
    +关注

    关注

    1

    文章

    120

    浏览量

    8576
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    AI 服务器电源:现状剖析与未来展望

    AI技术蓬勃发展的当下,AI服务器作为算力的核心支撑,其电源系统的重要性愈发凸显。它不仅是服务器稳定运行的动力源泉,更是推动AI技术不断突
    的头像 发表于 05-07 11:20 412次阅读
    <b class='flag-5'>AI</b> <b class='flag-5'>服务器</b>电源:现状剖析与未来展望

    AI服务器PCBA加工技术解析:高算力时代的核心制造能力

    AI服务器PCBA加工技术也在不断升级。 从制造角度来看,AI服务器PCBA加工主要包括PCB制造、SMT贴片、插件焊接以及整板测试等多个工
    的头像 发表于 04-16 22:57 249次阅读

    服务器发展趋势:迎接数字时代新变革

    在当今数字化浪潮中,服务器作为数字基础设施的核心,正经历着深刻而持久的变革。随着云计算、人工智能、边缘计算等新兴技术的崛起,服务器的发展呈现出诸多引人瞩目的趋势。01AI驱动性能革命人工智能
    的头像 发表于 03-19 16:58 338次阅读
    <b class='flag-5'>服务器</b>发展趋势:迎接数字<b class='flag-5'>时代</b>新变革

    Supermicro率先发布NVIDIA BlueField-4 STX存储服务器,提升AI推理性能

      Supermicro凭借其基于NVIDIA STX AI存储参考架构打造的上下文内存(CMX)存储服务器,进一步彰显其行业领先地位。 BlueField-4 STX
    的头像 发表于 03-19 15:46 216次阅读
    Supermicro率先发布NVIDIA BlueField-4 STX<b class='flag-5'>存储</b><b class='flag-5'>服务器</b>,提升<b class='flag-5'>AI</b>推理性能

    AI服务器大电流电感选型指南

    随着大模型训练、GPU算力集群、数据中心高密度供电快速普及,AI服务器对电源的要求已进入高功率、大电流、低损耗、高可靠时代。电感作为VRM、多相供电、OBC、PSU模块的核心器件,直接决定算力稳定性
    的头像 发表于 02-27 10:51 470次阅读
    <b class='flag-5'>AI</b><b class='flag-5'>服务器</b>大电流电感选型指南

    普通服务器电源与AI服务器电源的区别(上)

    引言服务器是数据中心的核心设备,其稳定运行依赖可靠的电源供应。随着AI技术的飞速发展,AI服务器大量涌现,与普通服务器在应用场景等方面存在显
    的头像 发表于 01-12 09:31 1597次阅读
    普通<b class='flag-5'>服务器</b>电源与<b class='flag-5'>AI</b><b class='flag-5'>服务器</b>电源的区别(上)

    AI 服务器电源测试项目研究报告

    01项目背景随着人工智能技术的飞速发展,AI服务器的需求急剧增加。电源作为AI服务器的关键组件,其性能直接影响服务器的稳定性、可靠性和能源效
    的头像 发表于 12-16 10:22 1138次阅读
    <b class='flag-5'>AI</b> <b class='flag-5'>服务器</b>电源测试项目研究报告

    解锁AI时代算力密码:天数智算存储服务器解决方案,让数据爆发式增长不再是难题!​

    展望未来,天数智算将持续深耕AI存储服务器领域,不断突破技术壁垒。我们畅想,在不久的将来,依托更高效的存储服务器解决方案,
    的头像 发表于 12-12 09:12 1903次阅读
    解锁<b class='flag-5'>AI</b><b class='flag-5'>时代</b>算力密码:天数智算<b class='flag-5'>存储</b><b class='flag-5'>服务器</b>解决方案,让数据爆发式增长不再是难题!​

    解锁AI时代算力密码:天数智算存储服务器解决方案,让数据爆发式增长不再是难题!​

    展望未来,天数智算将持续深耕AI存储服务器领域,不断突破技术壁垒。我们畅想,在不久的将来,依托更高效的存储服务器解决方案,
    的头像 发表于 12-12 09:11 1008次阅读
    解锁<b class='flag-5'>AI</b><b class='flag-5'>时代</b>算力密码:天数智算<b class='flag-5'>存储</b><b class='flag-5'>服务器</b>解决方案,让数据爆发式增长不再是难题!​

    液冷散热时代AI服务器如何重构磁元件设计

    随着AI服务器功率密度的快速提升,传统的风冷散热方案在热管理方面逐渐面临挑战。在此背景下,液冷散热技术正加速应用于数据中心,特别是高算力的AI集群中。 这一散热方式的变革,并不仅仅是冷却介质的简单
    的头像 发表于 11-21 11:42 1313次阅读
    液冷散热<b class='flag-5'>时代</b>:<b class='flag-5'>AI</b><b class='flag-5'>服务器</b>如何重构磁元件设计

    AI时代服务器存储如何升级

    一边是基于Darkmont的至强6+蓄势待发,另一边是基于Zen 6的EPYC Venice摩拳擦掌,海量GPU并行计算的AI服务器正在酝酿一轮全新的升级,以更高的密度、吞吐量和效能支持AI
    的头像 发表于 11-03 13:11 1020次阅读

    对话|AI服务器电源对磁性元件提出的新需求

    编者按: 自ChatGPT、DeepSeek等大型AI模型应用爆发以来,市场对AI服务器的需求激增,其配套电源的发展前景已成为行业共识。目前,I服务器电源企业的出货规模仍有限,
    的头像 发表于 10-11 14:55 1429次阅读
    对话|<b class='flag-5'>AI</b><b class='flag-5'>服务器</b>电源对磁性元件提出的新需求

    顺络电子核心产品破解AI服务器供电难题

    2025年,人工智能正以前所未有的速度重塑全球经济格局,从大模型训练到行业应用落地,AI服务器作为算力核心基础设施,成为科技竞争的战略高地。AI 服务器的崛起,是人工智能
    的头像 发表于 09-05 17:04 1729次阅读
    顺络电子核心产品破解<b class='flag-5'>AI</b><b class='flag-5'>服务器</b>供电难题

    AI服务器电源技术研讨会部分演讲嘉宾确认

    AI服务器电源是2025-2026年AI硬件确定的增量,英伟达超级芯片GB200功率到2700W,是传统服务器电源的5-7倍,但其面临的挑战同样不小。 超高功率需求与空间限制。
    的头像 发表于 06-24 10:07 1546次阅读
    <b class='flag-5'>AI</b><b class='flag-5'>服务器</b>电源技术研讨会部分演讲嘉宾确认

    AI 服务器电源如何迭代升级

    AI 算力需求增长的今天,AI 服务器电源正陷入 “性能瓶颈与国产替代并行、场景适配与技术创新交织” 的双重挑战。 由Big-Bit商务网、广东省磁性元器件行业协会主办的2025中国电子热点
    的头像 发表于 06-23 14:51 1843次阅读