0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

巨头豪购35万块NVIDIA最强GPU H100

硬件世界 来源:硬件世界 2024-01-29 09:58 次阅读

NVIDIA AI GPU无疑是当下的硬通货,从科技巨头到小型企业都在抢。

Meta(Facebook) CEO扎克伯格近日就透露,为了训练下一代大语言模型Llama 3,Meta正在建造庞大的计算平台,包括将在今年底前购买多达35万块NVIDIA H100 GPU。

届时,再加上其他GPU,Meta拥有的总算力将相当于几乎60万块H100!

根据市调机构Omdia的数据,Meta 2023年买了多达15万块NVIDIA GPU,能与之媲美的只有微软,而亚马逊、甲骨文、谷歌、腾讯等都只拿到了5万块左右。

SemiAccurate的首席分析师Dylan Patel指出,2024年第一季度,H100、H200、GH100、GH200、H20等基于最新Hopper架构的GPU出货量有望达到77.3万块,第二季度增至81.1万块。

而在2023年第二季度,Hopper家族GPU只出货了大约30万块。

另外值得一提的是,Meta也在购买AMD最新的Instinct MI300系列GPU,但具体数量不详。

微软也是AMD Instinct的大客户。

据海关总署公布的最新数据,2023年全年中国集成电路进口数量为4795.6亿颗,同比减少10.8%,金额为24590.7亿元人民币,同比减少了10.6%。

不过,进口金额如果以美元计,将是3490亿美元,与2022年相比大跌15.4%。

此外,2023年中国进口的二极管和类似半导体组件(普通商品芯片的代表)的数量也大幅下降了23.8%至4529.6亿颗,进口金额同比下滑23.8%至1658.1亿元人民币。

虽然由于全球经济疲软,2023年全球芯片市场也出现了11%的同比下滑至5330 亿美元,但中国的芯片进口额(以美元计)下滑幅度更大。

至于原因也不难猜测,全球经济恢复缓慢、中国通货紧缩、中美贸易战、厂商供应链转移和分散、美国对中国半导体全面封锁……

c577cd06-b6e8-11ee-8b88-92fbcf53809c.png





审核编辑:刘清

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 半导体
    +关注

    关注

    328

    文章

    24506

    浏览量

    202118
  • NVIDIA
    +关注

    关注

    14

    文章

    4592

    浏览量

    101715
  • gpu
    gpu
    +关注

    关注

    27

    文章

    4417

    浏览量

    126699

原文标题:巨头豪购35万块NVIDIA最强GPU H100:还在买AMD

文章出处:【微信号:hdworld16,微信公众号:硬件世界】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    英伟达发布新一代H200,搭载HBM3e,推理速度是H100两倍!

    电子发烧友网报道(文/李弯弯)日前,英伟达正式宣布,在目前最强AI芯片H100的基础上进行一次大升级,发布新一代H200芯片。H200拥有141GB的内存、4.8TB/秒的带宽,并将与H100相互
    的头像 发表于 11-15 01:15 2390次阅读
    英伟达发布新一代H200,搭载HBM3e,推理速度是<b class='flag-5'>H100</b>两倍!

    特斯拉和xAI筹集H100芯片,以推动L5级自动驾驶和“终极真相人工”的实现 

    近期,X平台用户“技术兄弟”报导称,Meta已成为全球最具实力的H100 GPU持有者,总计为35万块,但马斯克对此却并不认同(特斯拉与xAI的持有量均为1万颗),并坚持认为“如若计算
    的头像 发表于 04-09 11:02 167次阅读

    扎克伯格的Meta斥资数十亿美元购买35万块Nvidia H100 GPU

    首席执行官马克扎克伯格表示,Meta总共将拥有相当于600,000个NvidiaH100GPU的计算能力,以帮助其开发下一代人工智能产品。JAEALOT2024年1月22日马克·扎克伯格计划购买35
    的头像 发表于 01-26 08:26 429次阅读
    扎克伯格的Meta斥资数十亿美元购买<b class='flag-5'>35</b><b class='flag-5'>万块</b><b class='flag-5'>Nvidia</b> <b class='flag-5'>H100</b> <b class='flag-5'>GPU</b>

    AI计算需求激增,英伟达H100功耗成挑战

    根据预测,若H100的年利用率保持在61%,那么单台设备每年将耗电3740千瓦小时左右。如果英伟达在2023年售出150万块H100,2024年再增加至200万块,那么到2024年底,
    的头像 发表于 12-28 09:29 640次阅读

    英伟达H100 GPU Q3售出50万块,科技巨头争抢

    这款产品最大购买客户是Meta与微软,各自购买了15万块;谷歌、亚马逊、甲骨文、腾讯各自购买了5万块,榜单中还出现了百度、阿里巴巴、字节跳动这几家中国公司。集微网了解到,目前H100 80GB单卡售价将近4万美元,约合28万元人
    的头像 发表于 12-07 15:18 525次阅读
    英伟达<b class='flag-5'>H100</b> <b class='flag-5'>GPU</b> Q3售出50<b class='flag-5'>万块</b>,科技<b class='flag-5'>巨头</b>争抢

    英伟达H100,没那么缺货了 !RTX 4090 ,大涨

    这样,在云端使用 H100 GPU 的排队时间可能会缩短。数据中心提供商和前比特币挖矿公司正在开设具有 H100 集群的数据中心。这些公司承诺以大型云提供商成本的一小部分提供 H100
    的头像 发表于 11-23 15:59 725次阅读

    揭秘:英伟达H100最强替代者

    目前,用于高端推理的 GPU 主要有三种:NVIDIA A100NVIDIA H100 和新的 NVI
    的头像 发表于 11-13 16:13 671次阅读
    揭秘:英伟达<b class='flag-5'>H100</b><b class='flag-5'>最强</b>替代者

    传英伟达新AI芯片H20综合算力比H100降80%

    但据悉,三种新型AI芯片不是“改良型”,而是“缩小型”。用于ai模型教育的hgx h20的带宽和计算速度是有限的。整体计算能力理论上比nvidiah100 gpu芯片低80%左右。h20是h
    的头像 发表于 11-13 09:41 856次阅读

    英伟达H100最强替代者

    首先,我们首先要说的是,如果您现在想要训练基础模型(例如 ChatGPT),那么 NVIDIA H100 80GB SXM5 仍然是首选 GPU。一旦基础模型经过训练,通常可以在成本和功耗显着降低的部件上根据特定领域的数据或推理
    的头像 发表于 11-08 15:35 547次阅读
    英伟达<b class='flag-5'>H100</b>的<b class='flag-5'>最强</b>替代者

    Oracle 云基础设施提供新的 NVIDIA GPU 加速计算实例

    。为了帮助满足这一需求,Oracle 云基础设施(OCI)于近日宣布,在 OCI Compute 上全面提供 NVIDIA H100 Tensor Core GPU ,同时 NVIDIA
    的头像 发表于 09-25 20:40 287次阅读
    Oracle 云基础设施提供新的 <b class='flag-5'>NVIDIA</b> <b class='flag-5'>GPU</b> 加速计算实例

    NVIDIA最强CPU芯片架构——NVIDIA Grace CPU

    NVIDIA Grace Hopper Superchip将节能、高带宽的 NVIDIA Grace CPU 与功能强大的 NVIDIA H100 Hopper
    发表于 08-30 10:45 980次阅读
    <b class='flag-5'>NVIDIA</b><b class='flag-5'>最强</b>CPU芯片架构——<b class='flag-5'>NVIDIA</b> Grace CPU

    英伟达a100h100哪个强?英伟达A100H100的区别

    基于Ampere架构的GPU计算加速器,专为高性能计算、人工智能和机器学习等领域而设计。它拥有高达6912个CUDA核心(在32GB版本中),是目前最强大的数据中心GPU之一。A100
    的头像 发表于 08-09 17:31 3.6w次阅读

    英伟达h800和h100的区别

    不足,反而更贵。 NVIDIA H100 的中国版本就是:NVIDIA H800。        H800的的带宽仅为H100(900 GB/s)的约一半。
    的头像 发表于 08-08 16:06 3.9w次阅读
    英伟达h800和<b class='flag-5'>h100</b>的区别

    英伟达a100h100哪个强?

    架构。 英伟达A100是一款基于最新的NVIDIA Ampere架构设计的数据中心GPU,拥有更多的CUDA核心、更高的时钟频率和更大的存储
    的头像 发表于 08-07 17:32 1.1w次阅读

    AMD甩出最强AI芯片 单个GPU跑大模型

    专为生成式AI设计的GPU:HBM密度是英伟达H100的2.4倍,带宽是英伟达H100的1.6倍。
    的头像 发表于 06-20 10:47 649次阅读