0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

AI服务器大热带动存储器出货量,韩企厂商大吃红利

百能云芯电子元器件 来源: 百能云芯电子元器件 作者: 百能云芯电子元器 2023-04-18 17:09 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

AI服务器出货动能强劲带动HBM(high bandwidth memory高频宽存储器)需求提升,预计2023年AI服务器出货量年增15.4%。

据TrendForce研究显示,2022年三大原厂HBM市占率分别为SK海力士(SK hynix)50%、三星电子(Samsung)约40%、美光科技(Micron)约10%。此外,高级深度学习AI GPU的规格也刺激HBM产品更迭,2023下半年伴随NVIDIA H100与AMD MI300的搭载,三大原厂也已规划相对应规格HBM3的量产。因此,在今年有更多客户将导入HBM3的预期下,SK海力士作为目前唯一量产新世代HBM3产品的供应商,其整体HBM市占率可望借此提升至53%,而三星、美光则预计陆续在今年年底至明年初量产,HBM市占率分别为38%及9%。

目前英伟达NVIDIA所定义的DL/ ML型AI服务器平均每台均搭载4张或8张高级显卡,搭配两颗主流型号的x86服务器CPU,而主要拉货力道来自于美系云端业者Google、AWS、Meta与Microsoft。据TrendForce统计,2022年高级搭载GPGPU的服务器出货量年增约9%,其中近80%的出货量均集中在中、美系八大云端业者。展望2023年,微软Microsoft、脸书Meta、百度与字节跳动相继推出基于生成式AI衍生的产品服务而积极加单,预估今年AI服务器出货量年增率可望达15.4%,2023~2027年AI服务器出货量年复合成长率约12.2%。

根据TrendForce调查,AI服务器可望带存储器需求成长,以现阶段而言,Server DRAM普遍配置约为500至600GB左右,而AI服务器在单条模组上则多采64至128GB,平均容量可达1.2~1.7TB之间。以Enterprise SSD而言,由于AI服务器追求的速度更高,其要求往往优先于DRAM或HBM满足,在SSD固态硬盘的容量提升上则呈现非必要扩大容量的态势,但在传输界面上,则会为了高速运算的需求而优先采用PCIe 5.0。而相较于一般服务器而言,AI服务器多增加GPGPU的使用,因此以英伟达NVIDIA A100 80GB配置4或8张采计,HBM用量约为320至640GB。未来在AI模型逐渐复杂化的趋势下,将刺激更多的存储器用量,并同步带动Server DRAM、SSD以及HBM的需求成长。

审核编辑 黄宇

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 存储器
    +关注

    关注

    39

    文章

    7716

    浏览量

    170932
  • 服务器
    +关注

    关注

    13

    文章

    10108

    浏览量

    90968
  • AI
    AI
    +关注

    关注

    90

    文章

    38271

    浏览量

    297309
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    GPU猛兽袭来!HBM4、AI服务器彻底引爆!

    电子发烧友网报道(文/黄晶晶)日前,多家服务器厂商表示因AI服务器需求高涨拉高业绩增长。随着AI服务器
    的头像 发表于 06-02 06:54 6502次阅读

    AI时代,服务器存储如何升级?

    一边是基于Darkmont的至强6+蓄势待发,另一边是基于Zen 6的EPYC Venice摩拳擦掌,海量GPU并行计算的AI服务器正在酝酿一轮全新的升级,以更高的密度、吞吐和效能支持AI
    的头像 发表于 11-03 13:11 367次阅读

    对话|AI服务器电源对磁性元件提出的新需求

    编者按: 自ChatGPT、DeepSeek等大型AI模型应用爆发以来,市场对AI服务器的需求激增,其配套电源的发展前景已成为行业共识。目前,I服务器电源企业的
    的头像 发表于 10-11 14:55 534次阅读
    对话|<b class='flag-5'>AI</b><b class='flag-5'>服务器</b>电源对磁性元件提出的新需求

    服务器数据恢复—服务器断电导致raid模块损坏的数据恢复案例

    某品牌服务器中有12块硬盘,组建了一组raid5磁盘阵列,服务器存储的是普通文件。 机房供电不稳定导致服务器断电,管理员重启服务器后发现
    的头像 发表于 09-04 12:57 478次阅读

    服务器和云服务器区别:2025年终极选择指南

    服务器和云服务器区别在于定位和性能保障。轻服务器采用共享计算资源和突发性能模式,预配置环境、开箱即用,适合个人开发者、测试环境及轻
    的头像 发表于 09-01 13:58 766次阅读
    轻<b class='flag-5'>量</b>云<b class='flag-5'>服务器</b>和云<b class='flag-5'>服务器</b>区别:2025年终极选择指南

    AI 服务器电源如何迭代升级?

    AI 算力需求增长的今天,AI 服务器电源正陷入 “性能瓶颈与国产替代并行、场景适配与技术创新交织” 的双重挑战。 由Big-Bit商务网、广东省磁性元器件行业协会主办的2025中国电子热点
    的头像 发表于 06-23 14:51 902次阅读

    存储服务器租用的好处有哪些?

    随着企业数字化转型加速,云存储服务器租用成为越来越多企业的首选方案。云存储服务器租用的好处在于弹性灵活、成本可控、安全可靠,同时避免了传统服务器
    的头像 发表于 05-16 11:03 622次阅读

    AI 推理服务器都有什么?2025年服务器品牌排行TOP10与选购技巧

    根据行业数据,AI推理服务器的性能差异可以达到10倍以上。比如,用普通服务器跑一个700亿参数的大模型,可能需要30秒才能出结果,而用顶级服务器可能只需要3秒。这就是为什么选对
    的头像 发表于 04-09 11:06 7473次阅读
    <b class='flag-5'>AI</b> 推理<b class='flag-5'>服务器</b>都有什么?2025年<b class='flag-5'>服务器</b>品牌排行TOP10与选购技巧

    存储服务器怎么搭建?RAKsmart实战指南

    搭建存储服务器需兼顾硬件性能、数据冗余与安全访问。以RAKsmart服务器为例,整体流程可分为五步:需求评估→硬件选型→RAID配置→系统部署→网络设置。以下是小编对RAKsmart存储
    的头像 发表于 04-01 10:09 990次阅读

    利用RAKsmart服务器托管AI模型训练的优势

    AI模型训练需要强大的计算资源、高效的存储和稳定的网络支持,这对服务器的性能提出了较高要求。而RAKsmart服务器凭借其核心优势,成为托管AI
    的头像 发表于 03-18 10:08 531次阅读

    大功率AI服务器PSU的革新之路

    在人工智能浪潮的席卷下,AI服务器作为支撑各类复杂AI运算的关键硬件,其电源(PSU)的性能表现成为了决定整个系统效能的重要因素。作为大功率AI服务
    的头像 发表于 03-10 15:07 1823次阅读
    大功率<b class='flag-5'>AI</b><b class='flag-5'>服务器</b>PSU的革新之路

    蔡司工业CT无损亚微米级高速检测AI连接

    AI的爆火带动AI服务器市场快速发展,得益于大模型训练与推理业务的高需求,以及上游芯片供应状况的改善。AI
    的头像 发表于 02-21 11:06 1053次阅读
    蔡司工业CT无损亚微米级高速检测<b class='flag-5'>AI</b>连接<b class='flag-5'>器</b>

    云储存服务器与传统存储的区别 云储存服务器数据恢复方法

    一、云储存服务器与传统存储的区别 云储存服务器与传统存储是两种不同的数据存储解决方案,它们各自具有独特的优势和使用场景。以下是它们之间的主要
    的头像 发表于 02-01 10:02 2271次阅读

    英伟达GB200 NVL72服务器出货量调低

    近日,天风国际证券分析师郭明錤发布报告指出,英伟达GB200 NVL72服务器出货量将低于预期。据悉,由于该服务器的组装量产时间多次延期,导致今年的出货量预估范围调整至2.5万至3.
    的头像 发表于 01-22 18:16 1353次阅读

    鸿海董事长预测:2025年AI服务器出货量将超2024年

    近日,据媒体援引鸿海集团董事长刘扬伟的言论报道称,鸿海集团对未来人工智能(AI)服务器市场充满信心,并预测2025年的AI服务器出货量将超过
    的头像 发表于 12-30 14:13 1029次阅读