0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

英伟达Blackwell B300 AI GPU或将采用插槽式设计

要长高 2024-10-18 17:14 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

据TrendForce援引的消息,英伟达正计划对其即将发布的Blackwell B300 GPU(针对人工智能AI和高性能计算HPC应用)采用创新的插槽设计。这一决策的背后,是对AI GPU在高强度运算下故障率、主板替换成本以及散热难题的深入考量。

英伟达与其他AI GPU设计者正考虑在下一代产品中引入插槽设计,以替代当前GPU直接焊接到主板上的做法。然而,值得注意的是,插槽式设计往往伴随着更高的功耗和散热挑战,因为最强大的GPU通常采用BGA封装技术。

供应链方面,里昂证券分析师Chen Shuowen透露,英伟达可能从其GB200 Ultra系列开始引入GPU插槽设计。Chen提到了英伟达一个包含CPU主板的4路GPU设计方案,尽管与DGX服务器的8路GPU主板和2路CPU主板设计相比,这似乎并不寻常。

英伟达的数据中心产品线以其GPU(如A100、H100、B100/B200)和Grace CPU + GPU平台(如GH100、GB200)命名。目前,GB200平台的CPU和GPU均使用BGA封装,但B200 Ultra的更新版本是否会有所改变,尤其是下半年可能出现的GB200 Ultra升级,目前尚不确定。

尽管插槽设计为维修和升级提供了便利,但在服务器环境中,它们相比BGA封装或SXM/OAM模块,占用的空间更大,功耗和散热限制也更多。虽然模块可修复,但拆卸过程复杂,且可能因主板设计而异。相比之下,插槽更为便捷。

此外,附加卡和SXM/OAM模块的制造难度高、成本昂贵,且大多数英伟达SXM模块由富士康生产。从板卡或模块转向插槽可以降低成本,但可能会牺牲部分性能。

英伟达已推出B200 GPU(功率超过1000W),用于GB200板卡(如Bianca,配备Grace CPU和Blackwell GPU;以及Ariel,配备Ariel CPU和一个Blackwell GPU),均采用BGA封装。此外,英伟达还推出了支持8个B200(1000W)和B100(700W)SXM模块的Umbriel GPU板,以及Miranda和Oberon GB200等平台。

尽管英伟达已推出基于Hopper架构的H100甚至H200附加卡,通过降低性能以适应传统服务器的功耗和散热限制,但英伟达尚未宣布任何基于Blackwell GPU的附加卡。

最新爆料显示,英伟达正在准备代号为B200A的产品,该产品基于单片B102处理器,采用台积电CoWoS-S封装技术连接四个HBM3E内存堆栈,与双芯片B100/B200设计形成鲜明对比。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • gpu
    gpu
    +关注

    关注

    28

    文章

    5283

    浏览量

    136105
  • AI
    AI
    +关注

    关注

    91

    文章

    41326

    浏览量

    302731
  • 英伟达
    +关注

    关注

    23

    文章

    4116

    浏览量

    99664
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    豪言自家芯片比英伟GPU强10倍,这家AI公司再获融资

    的 “复仇者联盟” 正在硅谷悄然集结,他们创立的 MatX 公司刚刚完成 5 亿美元 B 轮融资,豪言要打造性能 10 倍于英伟 GPU 的专用
    的头像 发表于 03-01 06:41 1.2w次阅读

    GPU不是AI的唯一解:英伟用Groq LPU证明,推理赛道需要“另一条腿”

      电子发烧友网报道(文/莫婷婷)过去十年,人工智能的爆发式增长与GPU需求紧密相连。凭借其卓越的并行计算能力,GPU成为AI算力的绝对代名词。   然而,英伟
    的头像 发表于 03-24 11:27 6100次阅读
    <b class='flag-5'>GPU</b>不是<b class='flag-5'>AI</b>的唯一解:<b class='flag-5'>英伟</b><b class='flag-5'>达</b>用Groq LPU证明,推理赛道需要“另一条腿”

    英伟Rubin GPU采用钻石铜散热,解决芯片散热难题

    电子发烧友网综合报道 在AI算力狂飙的时代,芯片散热问题成为制约技术发展的关键瓶颈。英伟下一代Vera Rubin架构GPU全面
    的头像 发表于 02-05 13:46 5511次阅读
    <b class='flag-5'>英伟</b><b class='flag-5'>达</b>Rubin <b class='flag-5'>GPU</b><b class='flag-5'>采用</b>钻石铜散热,解决芯片散热难题

    NVIDIA RTX PRO 5000 72GB Blackwell GPU现已全面上市

    NVIDIA RTX PRO 5000 72GB Blackwell GPU 现已全面上市,基于 NVIDIA Blackwell 架构的强大代理式与生成
    的头像 发表于 12-24 10:32 1149次阅读
    NVIDIA RTX PRO 5000 72GB <b class='flag-5'>Blackwell</b> <b class='flag-5'>GPU</b>现已全面上市

    罗姆强势入局AI服务器800VDC电源方案 原创

    % 。 AI 训练耗电量是网络搜索的 10 倍以上 。 AI 服务器 GPU 性能增长的同时功率持续飙升。以 英伟 为例,其
    的头像 发表于 12-13 00:25 8750次阅读

    罗姆强势入局AI服务器800VDC电源方案

    的10倍以上。   AI服务器GPU性能增长的同时功率持续飙升。以英伟为例,其GPU的TDP热设计功耗从H100的700W,攀升至
    的头像 发表于 12-12 15:42 5405次阅读
    罗姆强势入局<b class='flag-5'>AI</b>服务器800VDC电源方案

    NVIDIA RTX PRO 2000 Blackwell GPU性能测试

    越来越多的应用正在使用 AI 加速,而无论工作站的大小形态如何,都有越来越多的用户需要 AI 性能。NVIDIA RTX PRO 2000 Blackwell 是全新 NVIDIA
    的头像 发表于 11-28 09:39 7140次阅读
    NVIDIA RTX PRO 2000 <b class='flag-5'>Blackwell</b> <b class='flag-5'>GPU</b>性能测试

    今日看点:特朗普:英伟Blackwell AI芯片不会广泛对海外开放;闪迪 NAND 闪存11 月报价涨幅高达 50%

    特朗普:英伟Blackwell AI芯片不会广泛对海外开放   美国总统唐纳德·特朗普表示,英伟
    发表于 11-10 10:28 1458次阅读

    锦富技术斩获液冷板订单

    随着AI技术的发展和应用需求激增,市场对GPU性能的要求持续攀升,推动GPU芯片加速迭代升级。当前,GPU产品正从B200向新一代
    的头像 发表于 10-28 17:39 1763次阅读

    英伟首片美国制造Blackwell晶圆下线,重塑AI芯片制造格局

    近日,美国亚利桑那州凤凰城的台积电 Fab 21 晶圆厂内,一块承载全球 AI 产业期待的特殊晶圆正式下线 —— 这是首片在美国本土制造的英伟 Blackwell 芯片晶圆。
    的头像 发表于 10-22 17:21 1153次阅读

    SuperX发布最新XN9160-B300 AI服务器,Blackwell Ultra 比 Blackwell计算能力增加了 50%

    ;SuperX") 今日宣布,正式推出其最新旗舰产品——SuperX XN9160-B300 AI服务器。该服务器搭载NVIDIA Blackwell GPU
    的头像 发表于 10-07 21:36 674次阅读
    SuperX发布最新XN9160-<b class='flag-5'>B300</b> <b class='flag-5'>AI</b>服务器,<b class='flag-5'>Blackwell</b> Ultra 比 <b class='flag-5'>Blackwell</b>计算能力增加了 50%

    英伟最新B30A芯片曝光:算力角逐中的新变数

    目前允许在中国销售的H20型号。这一消息瞬间点燃了行业内外的关注热情,为本就竞争激烈的AI芯片领域增添了新的变数。 ​ 架构升级:站在巨人肩膀上的革新 B30A芯片基于英伟
    的头像 发表于 08-22 16:41 1802次阅读

    英伟自研HBM基础裸片

    "后的下一代AI GPU "Feynman"。   有分析指出,英伟此举或是部分GPU功能集
    的头像 发表于 08-21 08:16 3063次阅读

    外媒:英伟正开发新款中国特供芯片B30A 或为旗舰AI芯品B300的阉割版

    30A ;或为旗舰AI芯品B300的阉割版 ;估计性能只有B300的50%--70%。 据外媒路透社报道,为了中国市场;英伟正在加速研发基
    的头像 发表于 08-20 15:19 4094次阅读
    外媒:<b class='flag-5'>英伟</b><b class='flag-5'>达</b>正开发新款中国特供芯片<b class='flag-5'>B</b>30A 或为旗舰<b class='flag-5'>AI</b>芯品<b class='flag-5'>B300</b>的阉割版

    英伟拟再推中国特供GPU,今年6月量产!

    电子发烧友网综合报道 近年来,美国政府对华半导体出口管制政策不断收紧,英伟等半导体企业面临严峻挑战。为保持在中国市场的竞争力,英伟推出了多款特供版
    发表于 05-27 00:03 4916次阅读