0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

H100 GPU供应改善,AI市场需求依旧强劲

微云疏影 来源:综合整理 作者:综合整理 2024-02-29 16:10 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

据海外报道,NVIDIA目前热门AI芯片H100的交货周期已明显缩短,先前需半年,现仅需三四个月即可。此外,由于各大云服务供应商如AWS、谷歌云和Microsoft Azure提供便捷的AI计算服务,使得之前批量采购H100 GPU的企业决定出售。

值得注意的是,H100 GPU的供求关系已经缓解,且维护成本高起,部分客户正在置换这类硬件以转向云服务,这种转变在过去的市场紧缩中很少见到。同时,市场上虽然有其他选择如AMD的MI300 GPU,性能稳定且价格低廉。

根据TrendForce研究机构预测,2024年全球高级AI服务器需求将激增至1.5亿台,NVIDIA、AMD等领先ASIC芯片厂商将主导这一市场,分别占据至少六七成以上份额。其中,NVIDIA的H100芯片仍处于前列,预计于2024年在整体需求中的占比逾70%。

然而,NVIDIA在AI领域面临潜在威胁。首当其冲的便是美国对华科技出口限制,这可能减损NVIDIA在中国市场的销售业绩;其次,大型科技公司如亚马逊AWS、Google、Microsoft和Meta等已经开始研发自有的ASIC芯片;再者,AMD以其高性价比产品给NVIDIA造成竞争压力,尤其在旗舰客户市场的争夺上,预计到2024年,Microsoft将成为AMD Mi300 GPU解决方案的最大客户之一。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • amd
    amd
    +关注

    关注

    25

    文章

    5647

    浏览量

    139024
  • gpu
    gpu
    +关注

    关注

    28

    文章

    5099

    浏览量

    134461
  • AI芯片
    +关注

    关注

    17

    文章

    2063

    浏览量

    36569
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    英伟达失守中国区!推理需求爆发,国产GPU抢滩上市

    亿元。而在此前,另一家国产GPU公司摩尔线程已于9月26日率先过会。这两大GPU企业接连冲刺IPO,背后是中国AI算力需求爆发式增长与全球供应
    的头像 发表于 10-22 09:09 7422次阅读
    英伟达失守中国区!推理<b class='flag-5'>需求</b>爆发,国产<b class='flag-5'>GPU</b>抢滩上市

    AI芯片市场鏖战,GPU与ASIC谁将占据主动?

    ,正围绕性能、成本、灵活性等核心维度展开激烈角逐,各自凭借独特优势占据细分市场,同时也面临着技术迭代与市场需求变革带来的挑战。GPU凭借其与生俱来的并行计算基因,成
    的头像 发表于 10-30 12:06 457次阅读
    <b class='flag-5'>AI</b>芯片<b class='flag-5'>市场</b>鏖战,<b class='flag-5'>GPU</b>与ASIC谁将占据主动?

    【「AI芯片:科技探索与AGI愿景」阅读体验】+AI芯片的需求和挑战

    的我我们讲解了这几种芯片的应用场景,设计流程、结构等。 CPU: 还为我们讲解了一种算法:哈希表算法 GPU: 介绍了英伟达H100GPU芯片。使用了一下关键技术: ①张量核
    发表于 09-12 16:07

    英伟达 H100 GPU 掉卡?做好这五点,让算力稳如泰山!

    H100服务器停工一天损失的算力成本可能比维修费还高。今天,我们给大家总结一套“防掉卡秘籍”,从日常管理到环境把控,手把手教你把掉卡风险压到最低。一、供电是“生命线”,这3点必须盯紧H100满载功耗
    的头像 发表于 09-05 11:03 714次阅读
    英伟达 <b class='flag-5'>H100</b> <b class='flag-5'>GPU</b> 掉卡?做好这五点,让算力稳如泰山!

    搞定英伟达 H100 ECC 报错:从原理到维修,一步到位解烦忧

    最近,捷智算GPU维修室收到了不少H100服务器需要维修,故障问题集中为ECC报错。为了帮大家更好地认识和了解情况,下面就详细分享一下ECC报错系统化排查方法和维修流程。一、ECC报错
    的头像 发表于 08-14 18:05 1393次阅读
    搞定英伟达 <b class='flag-5'>H100</b> ECC 报错:从原理到维修,一步到位解烦忧

    睿海光电以高效交付与广泛兼容助力AI数据中心800G光模块升级

    400G/800G光模块已实现规模化量产,并基于AI工厂与AI云的核心需求进行深度优化: 速率突破:采用PAM4调制技术,单通道速率达100Gbps,整模块实现800Gbps传输能力,
    发表于 08-13 19:01

    H20中国区卖爆!英伟达紧急向台积电加订30万块

    ,性能上相当于英伟达另一款主流GPU芯片H100的20%左右。   尽管如此,在美国解禁对H20芯片的出口后,需求仍然超出了想象。据路透社报道,中国
    的头像 发表于 07-30 08:08 3007次阅读

    别让 GPU 故障拖后腿,捷智算GPU维修室来救场!

    GPU也常面临各类故障挑战,令使用者头疼不已。常见GPU故障大盘点一、内存故障引发性能“滑坡”以英伟达H100为例,在高负载、大规模集群运行环境下,HBM3高带宽
    的头像 发表于 07-17 18:56 831次阅读
    别让 <b class='flag-5'>GPU</b> 故障拖后腿,捷智算<b class='flag-5'>GPU</b>维修室来救场!

    GPU 维修干货 | 英伟达 GPU H100 常见故障有哪些?

    ABSTRACT摘要本文主要介绍英伟达H100常见的故障类型和问题。JAEALOT2025年5月5日今年,国家政府报告提出要持续推进“人工智能+”行动,大力发展人工智能行业,市场上对算力的需求持续
    的头像 发表于 05-05 09:03 2457次阅读
    <b class='flag-5'>GPU</b> 维修干货 | 英伟达 <b class='flag-5'>GPU</b> <b class='flag-5'>H100</b> 常见故障有哪些?

    搭建算力中心,从了解的GPU 特性开始

    ABSTRACT摘要本文介绍如何搭建算力,并介绍A100H100H200和B200这些GPU的特性。JAEALOT2025年4月23日随着人工智能、大数据和高性能计算(HPC)的快
    的头像 发表于 04-24 11:08 2983次阅读
    搭建算力中心,从了解的<b class='flag-5'>GPU</b> 特性开始

    DeepSeek推动AI算力需求:800G光模块的关键作用

    类型和功耗选项,是数据中心向800G带宽扩展的理想选择。 市场前景广阔: 随着AI算力需求的不断增长,尤其是在超大规模数据中心和AI集群的建设中,对高带宽光模块的
    发表于 03-25 12:00

    e络盟丰富开关系列满足市场需求

    安富利旗下全球电子元器件产品与解决方案分销商e络盟扩大开关库存储备,包括领先品牌和自有品牌 Multicomp Pro 系列,以满足市场需求
    的头像 发表于 02-18 16:31 731次阅读
    e络盟丰富开关系列满足<b class='flag-5'>市场需求</b>

    英伟达A100H100比较

    英伟达A100H100都是针对高性能计算和人工智能任务设计的GPU,但在性能和特性上存在显著差异。以下是对这两款GPU的比较: 1. 架构与核心规格: A
    的头像 发表于 02-10 17:05 1.1w次阅读
    英伟达A<b class='flag-5'>100</b>和<b class='flag-5'>H100</b>比较

    台积电扩展CoWoS产能以满足AI与HPC市场需求

    台积电(TSMC),作为全球半导体行业的巨头,一直以来致力于满足不断增长的市场需求,尤其是在人工智能(AI)和高性能计算(HPC)领域。近日,台积电向台湾南部科学工业园区(南科)管理局提交了租地申请
    的头像 发表于 01-21 11:41 866次阅读
    台积电扩展CoWoS产能以满足<b class='flag-5'>AI</b>与HPC<b class='flag-5'>市场需求</b>!

    影响服务器GPU租用价格的因素

    服务器GPU租用的价格受多种因素影响,包括GPU型号和性能、租用时长、带宽和流量、地理位置、供应需求以及服务质量等。下面,AI部落小编为您
    的头像 发表于 12-30 10:38 870次阅读