0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

AI时代,如何用服务器存储如何升级?

向上 来源:厂商供稿 作者:铠侠 2025-11-03 14:46 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

一边是基于Darkmont的至强6+蓄势待发,另一边是基于Zen 6的EPYC Venice摩拳擦掌,海量GPU并行计算的AI服务器正在酝酿一轮全新的升级,以更高的密度、吞吐量和效能支持AI负载和新应用挑战。无论是CXL与内存扩展技术的落地,还是PCIe 5.0和PCIe 6.0与AI数据密集型应用推动的本地高速存储,都将企业级固态硬盘推向了非常重要角色。存储已经从系统的配套设施,变身成新平台性能释放的关键。

相对于HBM、GDDR和DRAM,企业级SSD优势在于弥补了数据供给速度与计算速度之间的巨大鸿沟,特别是全新的CPU、GPU在算力、核心数量、AI吞吐量井喷式的增长,以往的低速存储很容易造成计算单元空转,造成数据饥饿,进而影响到企业的时间与支出成本。

PCIe 5.0规范在企业级平台中的普及已经能够很好的解决很多问题。例如新平台单路有机会提供多大128条PCIe 5.0通道,进而并行挂载8到16块企业级SSD,聚合带宽轻松突破100 GB/s,与内存子系统形成二级存储池,为AI训练、实时分析提供高速数据洪流。

随着模型体积不断增大,AI大模型、OLAP数据库的工作经常超出物理内存已经成为日常,把热数据缓存到企业级SSD也已经成为未来趋势。以近段时间发布的铠侠LC9为例,不仅支持PCIe 5.0,NVMe 2.0和NVMe-MI 1.2c,以及OCP v2.5规范,单盘容量更是一步到位达到了245.76TB,能够以更高的存储密度,远低于DRAM的存储成本为AI提供数据流支持,同时响应性能还能保持在微秒级。

随着NVMe over RoCE v2和CXL 3.0的进一步推广,本地SSD还可以池化为软件定义内存,实现跨节点共享,特别企业级SSD或者数据中心级SSD与高性能AI服务器集群联合,把数PB高速闪存当作全局地址空间,内存容量得以弹性扩容,让数据中心、AIGC训练集群突破单机内存墙。

由铠侠BiCS8 TLC打造的CM9系列为高性能计算集群提供了充足的存储支持,具备双端口设计,为多平台存储方案提供更多可能性能。同时CM9系列拥有强劲的性能表现,顺序读取性能高达14.8GB/s,释放PCIe 5.0潜能,且提供U.2和E3.S规格可选,满足不同的存储方案需求,且最高容量可达61.44TB。

铠侠CD9P同样由BiCS8 TLC打造,最高容量同样可达61.44TB,且旨在帮助数据中心优化TCO,同时兼顾高吞吐量、低延迟等诸多特性,为AI加速、机器学习、云端服务等应用提供更多可能性。

数据就像粮草,算力再强,也需要数据跟上。铠侠企业级SSD和数据中心级SSD以高速、稳定、可靠的表现,将数据洪流稳定地送到计算单元,成为新平台中性能释放的关键部件,也是数据存储的保险栓,为AI应用落地提供坚实的保障。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • DRAM
    +关注

    关注

    40

    文章

    2373

    浏览量

    188120
  • 固态硬盘
    +关注

    关注

    12

    文章

    1607

    浏览量

    60100
  • HBM
    HBM
    +关注

    关注

    2

    文章

    426

    浏览量

    15698
  • GDDR
    +关注

    关注

    0

    文章

    28

    浏览量

    5001
  • 铠侠
    +关注

    关注

    1

    文章

    115

    浏览量

    8353
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    液冷散热时代AI服务器如何重构磁元件设计

    随着AI服务器功率密度的快速提升,传统的风冷散热方案在热管理方面逐渐面临挑战。在此背景下,液冷散热技术正加速应用于数据中心,特别是高算力的AI集群中。 这一散热方式的变革,并不仅仅是冷却介质的简单
    的头像 发表于 11-21 11:42 171次阅读
    液冷散热<b class='flag-5'>时代</b>:<b class='flag-5'>AI</b><b class='flag-5'>服务器</b>如何重构磁元件设计

    AI时代服务器存储如何升级

    一边是基于Darkmont的至强6+蓄势待发,另一边是基于Zen 6的EPYC Venice摩拳擦掌,海量GPU并行计算的AI服务器正在酝酿一轮全新的升级,以更高的密度、吞吐量和效能支持AI
    的头像 发表于 11-03 13:11 303次阅读

    对话|AI服务器电源对磁性元件提出的新需求

    编者按: 自ChatGPT、DeepSeek等大型AI模型应用爆发以来,市场对AI服务器的需求激增,其配套电源的发展前景已成为行业共识。目前,I服务器电源企业的出货规模仍有限,
    的头像 发表于 10-11 14:55 456次阅读
    对话|<b class='flag-5'>AI</b><b class='flag-5'>服务器</b>电源对磁性元件提出的新需求

    AI 服务器电源如何迭代升级

    AI 算力需求增长的今天,AI 服务器电源正陷入 “性能瓶颈与国产替代并行、场景适配与技术创新交织” 的双重挑战。 由Big-Bit商务网、广东省磁性元器件行业协会主办的2025中国电子热点
    的头像 发表于 06-23 14:51 831次阅读

    存储服务器租用的好处有哪些?

    随着企业数字化转型加速,云存储服务器租用成为越来越多企业的首选方案。云存储服务器租用的好处在于弹性灵活、成本可控、安全可靠,同时避免了传统服务器
    的头像 发表于 05-16 11:03 604次阅读

    兆易创新存储组件助力AI服务器升级

    在人工智能技术重构全球算力格局的当下,AI服务器作为支撑大模型训练、云端推理及边缘计算的核心基础设施,正迎来部署规模的爆发式增长。其硬件架构的复杂化与性能需求的指数级提升也对存储组件提出了多维度挑战
    的头像 发表于 05-06 09:53 943次阅读
    兆易创新<b class='flag-5'>存储</b>组件助力<b class='flag-5'>AI</b><b class='flag-5'>服务器</b><b class='flag-5'>升级</b>

    RAKsmart服务器如何赋能AI开发与部署

    AI开发与部署的复杂性不仅体现在算法设计层面,更依赖于底层基础设施的支撑能力。RAKsmart服务器凭借其高性能硬件架构、灵活的资源调度能力以及面向AI场景的深度优化,正在成为企业突破算力瓶颈、加速
    的头像 发表于 04-30 09:22 587次阅读

    KOA电阻在AI服务器电源中的应用

    AI服务器要同时实现高性能计算能力,存储能力,高速传输能力等功能,对基础器件的性能跟稳定性也有较高要求。
    的头像 发表于 04-16 16:33 761次阅读
    KOA电阻在<b class='flag-5'>AI</b><b class='flag-5'>服务器</b>电源中的应用

    AI 推理服务器都有什么?2025年服务器品牌排行TOP10与选购技巧

    根据行业数据,AI推理服务器的性能差异可以达到10倍以上。比如,用普通服务器跑一个700亿参数的大模型,可能需要30秒才能出结果,而用顶级服务器可能只需要3秒。这就是为什么选对
    的头像 发表于 04-09 11:06 7342次阅读
    <b class='flag-5'>AI</b> 推理<b class='flag-5'>服务器</b>都有什么?2025年<b class='flag-5'>服务器</b>品牌排行TOP10与选购技巧

    存储服务器怎么搭建?RAKsmart实战指南

    搭建存储服务器需兼顾硬件性能、数据冗余与安全访问。以RAKsmart服务器为例,整体流程可分为五步:需求评估→硬件选型→RAID配置→系统部署→网络设置。以下是小编对RAKsmart存储
    的头像 发表于 04-01 10:09 968次阅读

    思瑞浦 #AI服务器 方案如何帮助客户实现价值? #人工智能 #芯片 #产品方案

    AI服务器
    思瑞浦3PEAK
    发布于 :2025年03月28日 18:23:30

    利用RAKsmart服务器托管AI模型训练的优势

    AI模型训练需要强大的计算资源、高效的存储和稳定的网络支持,这对服务器的性能提出了较高要求。而RAKsmart服务器凭借其核心优势,成为托管AI
    的头像 发表于 03-18 10:08 521次阅读

    大功率AI服务器PSU的革新之路

    在人工智能浪潮的席卷下,AI服务器作为支撑各类复杂AI运算的关键硬件,其电源(PSU)的性能表现成为了决定整个系统效能的重要因素。作为大功率AI服务
    的头像 发表于 03-10 15:07 1766次阅读
    大功率<b class='flag-5'>AI</b><b class='flag-5'>服务器</b>PSU的革新之路

    公有云服务器在大数据与AI时代的角色与机遇

    随着大数据和人工智能(AI)技术的飞速发展,公有云服务器作为支撑这些前沿技术的基础设施,正扮演着越来越重要的角色。在这个数据驱动的时代,公有云服务器不仅为企业提供了强大的计算能力和灵活
    的头像 发表于 02-20 11:10 672次阅读

    云储存服务器与传统存储的区别 云储存服务器数据恢复方法

    一、云储存服务器与传统存储的区别 云储存服务器与传统存储是两种不同的数据存储解决方案,它们各自具有独特的优势和使用场景。以下是它们之间的主要
    的头像 发表于 02-01 10:02 2225次阅读