据Digitimes报道,因NVIDIA H100 GPU广泛应用于人工智能计算,造成其供需失衡。如今,根据台湾地区总经理Terence Liao介绍,近期该产品交货周期已大幅度缩短,由原先的3-4个月缩减为当前的2-3个月(即8-12周)。同时,服务器制造商也证实,相较于2023年几乎无法购买到H100的状况,目前供应紧张局面正逐渐得到缓解。
尽管交货周期有所缩短,Liao强调,人工智能硬件市场需求依然强劲。尽管价格较高,但人工智能服务器的采购量正在超过普通服务器。他指出,过长的交付周期是导致需求看似持续增长的主因。
值得关注的是,目前2-3个月的交货周期已是NVIDIA H100 GPU历史最短纪录。仅在半年前,等待期还长达11个月,大部分客户需等待近一年才能获得所需的人工智能GPU。
自2024年初起,H100 GPU交货周期持续明显缩短。今年初,等待期已由数月缩短至3-4个月;现今再度缩短一个月。按照此趋势,预计今年底或更早,无需再等待。
部分原因可能源于部分公司持有过多的H100 GPU库存,并选择出售以降低库存维护成本。此外,亚马逊云科技(AWS)提供云端租赁服务,使得用户能够更加便捷地使用H100 GPU,从而缓解了部分需求压力。
现阶段,仅有少数大型企业如OpenAI等仍受供应限制影响,因其正在开发自身的大型语言模型(LLM)。由于此类模型训练需大量GPU支持,故这些企业仍面临供应难题。
-
gpu
+关注
关注
28文章
5099浏览量
134464 -
服务器
+关注
关注
13文章
10093浏览量
90891 -
人工智能
+关注
关注
1813文章
49741浏览量
261564
发布评论请先 登录
英伟达 Q3 狂揽 308 亿
亚马逊:调用订单退款API自动化处理售后请求,缩短用户等待时间
英伟达 H100 GPU 掉卡?做好这五点,让算力稳如泰山!
传英伟达自研HBM基础裸片
搞定英伟达 H100 ECC 报错:从原理到维修,一步到位解烦忧
H20中国区卖爆!英伟达紧急向台积电加订30万块
英伟达获美批准恢复H20在华销售,同步推出全新兼容GPU
英伟达黄仁勋:将向中国市场销售H20芯片 中国市场至关重要
今日看点丨英伟达将为中国市场推出新AI芯片 售价大幅低于H20;中科曙光与海光信息宣布战略重组
GPU 维修干货 | 英伟达 GPU H100 常见故障有哪些?

英伟达H100 GPU交货等待时间大幅缩短
评论