0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

英伟达H100 GPU交货等待时间大幅缩短

微云疏影 来源:综合整理 作者:综合整理 2024-04-11 10:48 次阅读

据Digitimes报道,因NVIDIA H100 GPU广泛应用于人工智能计算,造成其供需失衡。如今,根据台湾地区总经理Terence Liao介绍,近期该产品交货周期已大幅度缩短,由原先的3-4个月缩减为当前的2-3个月(即8-12周)。同时,服务器制造商也证实,相较于2023年几乎无法购买到H100的状况,目前供应紧张局面正逐渐得到缓解。

尽管交货周期有所缩短,Liao强调,人工智能硬件市场需求依然强劲。尽管价格较高,但人工智能服务器的采购量正在超过普通服务器。他指出,过长的交付周期是导致需求看似持续增长的主因。

值得关注的是,目前2-3个月的交货周期已是NVIDIA H100 GPU历史最短纪录。仅在半年前,等待期还长达11个月,大部分客户需等待近一年才能获得所需的人工智能GPU。

自2024年初起,H100 GPU交货周期持续明显缩短。今年初,等待期已由数月缩短至3-4个月;现今再度缩短一个月。按照此趋势,预计今年底或更早,无需再等待。

部分原因可能源于部分公司持有过多的H100 GPU库存,并选择出售以降低库存维护成本。此外,亚马逊科技(AWS)提供云端租赁服务,使得用户能够更加便捷地使用H100 GPU,从而缓解了部分需求压力。

现阶段,仅有少数大型企业如OpenAI等仍受供应限制影响,因其正在开发自身的大型语言模型(LLM)。由于此类模型训练需大量GPU支持,故这些企业仍面临供应难题。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • gpu
    gpu
    +关注

    关注

    27

    文章

    4424

    浏览量

    126724
  • 服务器
    +关注

    关注

    12

    文章

    8125

    浏览量

    82548
  • 人工智能
    +关注

    关注

    1776

    文章

    43899

    浏览量

    230646
收藏 人收藏

    评论

    相关推荐

    英伟达发布新一代H200,搭载HBM3e,推理速度是H100两倍!

    兼容,在推理速度上几乎达到H100的两倍。H200预计将于明年二季度开始交付。此外,英伟达还透露,下一代Blackwell B100 GPU也将在2024年推出。  
    的头像 发表于 11-15 01:15 2392次阅读
    <b class='flag-5'>英伟</b>达发布新一代H200,搭载HBM3e,推理速度是<b class='flag-5'>H100</b>两倍!

    英伟达H200和H100的比较

    英伟达H200和H100是两款不同的AI芯片,它们各自具有独特的特点和优势。以下是关于这两款芯片的一些比较。
    的头像 发表于 03-07 15:53 890次阅读

    NVIDIA H100 GPU交货周期缩短,部分公司转向销售或减单

    根据The Information报导,由于芯片供应状况改善、交货期的骤然缩短,一些公司开始抛售他们所持有的GPU或削减订单。然而,尽管如此,AI芯片需求仍大于供应,特别是OpenAI之类的大型语言模型训练机构。
    的头像 发表于 02-27 14:56 323次阅读

    英伟大幅缩短AI GPU交付周期

    根据瑞银分析师最近提供给投资者的备忘录,英伟达已经显著缩短了其AI GPU的交付周期。这一周期已经从去年年底的8-11个月迅速缩短至目前的3-4个月。这一变化引发了市场的广泛关注,分析
    的头像 发表于 02-18 17:31 509次阅读

    英伟H100,没那么缺货了 !RTX 4090 ,大涨

    这样,在云端使用 H100 GPU 的排队时间可能会缩短。数据中心提供商和前比特币挖矿公司正在开设具有 H100 集群的数据中心。这些公司承
    的头像 发表于 11-23 15:59 732次阅读

    英伟达特供版芯片将上市:性能最高不到H100的20%

    本周四,一些媒体首次报道了英伟达特供芯片的消息。报道称,这三款新产品是在 H100 GPU 的基础版本基础上进行修改的,采用的是最新架构,但性能大幅度缩减。
    的头像 发表于 11-13 16:44 470次阅读
    <b class='flag-5'>英伟</b>达特供版芯片将上市:性能最高不到<b class='flag-5'>H100</b>的20%

    揭秘:英伟H100最强替代者

    目前,用于高端推理的 GPU 主要有三种:NVIDIA A100、NVIDIA H100 和新的 NVIDIA L40S。我们将跳过NVIDIA L4 24GB,因为它更像是低端推理卡。
    的头像 发表于 11-13 16:13 677次阅读
    揭秘:<b class='flag-5'>英伟</b>达<b class='flag-5'>H100</b>最强替代者

    MI300X能否与H100一较高下?

    市场研究公司Omdia近日发布报告称,预计英伟达二季度用于AI和高性能计算应用的H100 GPU的出货量超过了900吨。并且预计其在未来几个季度的GPU销量将大致相同,因此
    发表于 09-28 14:50 1291次阅读
    MI300X能否与<b class='flag-5'>H100</b>一较高下?

    升腾910和英伟h100对比

    升腾910和英伟h100对比  随着人工智能计算进入快速发展的阶段,AI芯片的性能也越来越得到人们的关注,其中两款最受关注的芯片必须是华为的升腾910以及英伟达的H100,两者各有优
    的头像 发表于 08-31 17:06 1.3w次阅读

    生成式人工智能推动,传英伟达今年将销售55万个H100 GPU

    虽然目前尚未确定gpu的准确配置,但英伟h100 80gb hbm2e运算卡gpu (14592 cuda core, 26 fp64 tflops, 1513 fp16 tflo
    的头像 发表于 08-16 11:05 751次阅读

    英伟达a100h100哪个强?英伟达A100H100的区别

    基于Ampere架构的GPU计算加速器,专为高性能计算、人工智能和机器学习等领域而设计。它拥有高达6912个CUDA核心(在32GB版本中),是目前最强大的数据中心GPU之一。A100支持更快的训练速度和更大的模型容量,适用于需
    的头像 发表于 08-09 17:31 3.6w次阅读

    英伟达h800和h100的区别

    英伟达h800和h100的区别 其实大白话就是,A100H100是原版,特供中国市场的减配版是A800、H800。A100
    的头像 发表于 08-08 16:06 3.9w次阅读
    <b class='flag-5'>英伟</b>达h800和<b class='flag-5'>h100</b>的区别

    英伟达A100H100的区别

    英伟达A100H100的区别 英伟达A100H100是两种不同的产品。A
    的头像 发表于 08-07 18:06 2.4w次阅读

    英伟达a100h100哪个强?

    英伟达a100h100哪个强? 英伟达A100H100更强。
    的头像 发表于 08-07 17:32 1.1w次阅读

    AMD甩出最强AI芯片 单个GPU跑大模型

    专为生成式AI设计的GPU:HBM密度是英伟H100的2.4倍,带宽是英伟H100的1.6倍。
    的头像 发表于 06-20 10:47 653次阅读