0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

英伟达发布性能大幅提升的新款B200 AI GPU

微云疏影 来源:综合整理 作者:综合整理 2024-03-20 09:37 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

英伟达在3月18日GTC 2024年盛会上推出了搭载自家创新结构Blackwell的B200 GPU芯片,选用了台积电最先进的N4P制程工艺,性能较之前翻番。然而,Meta公司在次日披露称,预计今年无法获得这款最新的AI芯片,至少在2025年后才能用上。

英伟达宣称,B200在性能上比以往最好的GPU快30倍不止。由它构成的服务器集群相比上一代,运算能力飞跃性提升,甚至能使大语言模型的训练速度翻番。

财务长科莱特•克雷斯于同日向财经分析人士保证,“我们确信新款GPU产品将在今年内面世。”新款GPU的规模生产预计需等到2025年。

脸书(即Meta)作为英伟达的主要买家之一,已经购买了数十万块英伟达AI芯片,用以训练生成式AI和强化内容推荐功能。首席执行官马克•扎克伯格曾在年初表示,今年底将拥有约35万个H100芯片。这些芯片与其他型号GPU结合使用,总共将提供60万个H100所代表的运算力。

在英伟达发布B200后不久,Meta宣布将利用该芯片训练公司的LIama大型模型。据悉,Meta正在动用两个包含约2.4万个H100GPU的GPU集群来训练第三代LIama模型。Meta公司发言人表示,他们打算继续使用这两座集群训练LIama 3,并期待未来用Blackwell硬件训练更多世代的大型模型。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 服务器
    +关注

    关注

    14

    文章

    10342

    浏览量

    91737
  • 语言模型
    +关注

    关注

    0

    文章

    573

    浏览量

    11341
  • 英伟达
    +关注

    关注

    23

    文章

    4112

    浏览量

    99595
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    豪言自家芯片比英伟GPU强10倍,这家AI公司再获融资

    的 “复仇者联盟” 正在硅谷悄然集结,他们创立的 MatX 公司刚刚完成 5 亿美元 B 轮融资,豪言要打造性能 10 倍于英伟 GPU
    的头像 发表于 03-01 06:41 1.2w次阅读

    堪称史上最强推理芯片!英伟发布 Rubin CPX,实现50倍ROI

    电子发烧友网报道(文/梁浩斌)近日,英伟AI infra峰会上发布了专为大规模上下文推理设计的全新GPU系列Rubin CPX,
    的头像 发表于 09-11 08:25 1.1w次阅读
    堪称史上最强推理芯片!<b class='flag-5'>英伟</b><b class='flag-5'>达</b><b class='flag-5'>发布</b> Rubin CPX,实现50倍ROI

    GPU不是AI的唯一解:英伟用Groq LPU证明,推理赛道需要“另一条腿”

    大会上,英伟CEO黄仁勋正式发布了Vera Rubin AI超级计算机平台。这一平台的问世,不仅标志着英伟
    的头像 发表于 03-24 11:27 5983次阅读
    <b class='flag-5'>GPU</b>不是<b class='flag-5'>AI</b>的唯一解:<b class='flag-5'>英伟</b><b class='flag-5'>达</b>用Groq LPU证明,推理赛道需要“另一条腿”

    英伟电话会看Agentic AI推理与FPGA价值

    2026年2月,英伟发布2026财年Q4财报:营收681亿美元,同比增长73%,数据中心业务增长75%——预期中的超预期。更值得关注的,是电话会中反复出现的几个关键词:Agentic AI
    的头像 发表于 03-04 17:07 1249次阅读
    从<b class='flag-5'>英伟</b><b class='flag-5'>达</b>电话会看Agentic <b class='flag-5'>AI</b>推理与FPGA价值

    每块GPU对应16TB SSD,英伟KV缓存虹吸高性能TLC SSD

    作者:黄晶晶   不久前,英伟宣布其Vera Rubin平台将采用搭载BlueField-4芯片的ICMS架构,通过卸载KV Cache突破内存瓶颈、提升AI推理
    的头像 发表于 02-10 11:12 1.4w次阅读

    亚马逊发布新一代AI芯片Trainium3,性能提升4倍

    Trainium 4的开发计划。亚马逊表示,这款芯片能够比英伟市场领先的图形处理单元(GPU)更便宜、更高效地驱动AI模型背后的密集计算。     作为亚马逊首款3纳米工艺
    的头像 发表于 12-09 08:37 8832次阅读
    亚马逊<b class='flag-5'>发布</b>新一代<b class='flag-5'>AI</b>芯片Trainium3,<b class='flag-5'>性能</b><b class='flag-5'>提升</b>4倍

    英伟 Q3 狂揽 308 亿

    厂商季度合计 500 亿美元资本支出中,约 30% 流向了英伟。 新一代 Blackwell 芯片已全面投产,Q3 交付 1.3 万个 GPU 样品,H200
    的头像 发表于 11-20 18:11 1353次阅读

    英伟发布 NVQLink 开放系统架构;国内首个汽车芯片标准验证平台投入使用

    英伟发布 NVQLink 开放系统架构 在华盛顿特区举行的英伟全球技术大会上,英伟
    发表于 10-29 10:33 1314次阅读

    锦富技术斩获液冷板订单

    随着AI技术的发展和应用需求激增,市场对GPU性能的要求持续攀升,推动GPU芯片加速迭代升级。当前,GPU产品正从
    的头像 发表于 10-28 17:39 1734次阅读

    英伟最新B30A芯片曝光:算力角逐中的新变数

    在全球AI芯片市场风云变幻之际,英伟再次成为焦点。据路透社8月19日报道,两位知情人士透露,英伟正在为中国市场开发一款基于其最新Blac
    的头像 发表于 08-22 16:41 1738次阅读

    英伟自研HBM基础裸片

    "后的下一代AI GPU "Feynman"。   有分析指出,英伟此举或是将部分GPU功能集成到基础裸片中,旨在提高HBM和
    的头像 发表于 08-21 08:16 3000次阅读

    外媒:英伟正开发新款中国特供芯片B30A 或为旗舰AI芯品B300的阉割版

    30A ;或为旗舰AI芯品B300的阉割版 ;估计性能只有B300的50%--70%。 据外媒路透社报道,为了中国市场;英伟
    的头像 发表于 08-20 15:19 4003次阅读
    外媒:<b class='flag-5'>英伟</b><b class='flag-5'>达</b>正开发<b class='flag-5'>新款</b>中国特供芯片<b class='flag-5'>B</b>30A 或为旗舰<b class='flag-5'>AI</b>芯品<b class='flag-5'>B</b>300的阉割版

    AI服务器电源技术研讨会部分演讲嘉宾确认

    英伟Blackwell B100/B200或H100的机架)功率需求已从传统服务器的800W提升至4kW甚至更高,部分机架总功率超过198
    的头像 发表于 06-24 10:07 1378次阅读
    <b class='flag-5'>AI</b>服务器电源技术研讨会部分演讲嘉宾确认

    GPU 维修干货 | 英伟 GPU H100 常见故障有哪些?

    上涨,英伟H100GPU凭借其强大的算力,成为AI训练、高性能计算领域的核心硬件。然而,随着使用场景的复杂化,H100服务器故障率也逐渐攀
    的头像 发表于 05-05 09:03 3334次阅读
    <b class='flag-5'>GPU</b> 维修干货 | <b class='flag-5'>英伟</b><b class='flag-5'>达</b> <b class='flag-5'>GPU</b> H100 常见故障有哪些?