0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

NVIDIA CPU+GPU超级芯片大升级!

硬件世界 来源:硬件世界 2023-08-10 09:37 次阅读

NVIDIA官方宣布了新一代GH200 Grace Hopper超级芯片平台,全球首发采用HBM3e高带宽内存,可满足世界上最复杂的生成式AI负载需求。

NVIDIA 2022年3月推出了Grace Hopper超级芯片,首次将CPUGPU融合在一块主板上,不过直到今年5月份才量产。

其中,Grace CPU拥有72个Armv9 CPU核心、198MB缓存,支持1TB/s高带宽的LPDDR5X ECC内存,还支持PCIe 5.0。

Hopper GPU则采用台积电4nm定制工艺,800亿晶体管,集成18432个CUDA核心、576个Tenor核心、60MB二级缓存,支持6144-bit HBM高带宽内存,此前版本配备的是96GB HBM3。

双路配置的系统中,两颗新一代GH200超级芯片可带来144个CPU核心、8PFlops(8千万亿次浮点计算每秒) AI性能、282GB HBM3e内存,容量是现在的3.5倍,而高达10TB/s的带宽也是现在的3倍。

基于NVLink高速总线,GH200超级芯片还可以继续拓展互连,GPU可以访问全部的CPU内存,双路配置下总容量可达1.2TB。

NVIDIA没有透露采用的HBM3e来自哪家供应商,很可能是SK海力士。

首批基于GH200超级芯片的系统将在2024年第二季度出货。

顺带一提,AMD Instinct MI300A、MI300X AI加速器分别配备128GB、192GB HBM3,后者带宽超过5TB/s。

NVIDIA Ada Lovelace架构在桌面、笔记本游戏卡上已经布局完毕,如今在工作站上也圆满了。

今天,NVIDIA正式发布了RTX 5000 ADA、RTX 4500 ADA、RTX 4000 ADA三款新专业卡,加上此前的旗舰级RTX 6000 ADA、半高式RTX 4000 SFF ADA,高中低端都齐了。

RTX 6000 ADA旗舰卡为双插槽、单涡轮风扇设计,满血的AD102 GPU核心,配备18176个CUDA核心、568个Tensor核心,核心加速频率可达2.5GHz。

显存搭档384-bit 48GB GDDR6 ECC,等效频率20GHz,带宽为960GB/s,整卡功耗300W,四个DP 1.4a接口

FP32浮点性能91.1TFlops(每秒91.1万亿次),价格高达6800美元,约合人民币4.90万元。

RTX 5000 ADA延续了老大哥的造型、AD102核心,精简到12800个CUDA核心、400个Tensor核心。

显存也砍到256-bit 32GB,频率18GHz,带宽降至578GB/s,功耗也来到250W。

浮点性能65.3TFlops,相当于旗舰卡的约72%,价格4000美元,约合人民币2.88元。

RTX 4500 ADA外观依然不变,但内部改成了AD104核心(跳过AD103),7680个CUDA核心、240个Tensor核心的规模与RTX 4070 Ti完全一致。

核心频率是全系列最高的2.6GHz,显存是192-bit 24GB GDDR6 ECC,频率18GHz,带宽432GB/s。

浮点性能39.6TFlops,价格2250美元,约合人民币1.62万元。

RTX 4000 ADA改成了单插槽设计,还是单个涡轮风扇,AD104核心,6144个CUDA核心、192个Tensor核心、160-bit 20GB GDDR6显存,接口四个mini DP 1.4a,这些都和SFF半完全一致。

不过核心频率从1.56GHz大幅提高到2.2GHz,显存频率也从16GHz提高到18GHz,浮点性能来到了26.7TFlops,功耗也从70W大幅增至130W。

价格倒是没变,还是1250美元,约合人民币9000元。

Boxx、戴尔、Lamdda、联想、惠普等将从今年秋天开始陆续推出搭载新卡的工作站,甚至有的会配备四块RTX 6000 ADA,总显存多达192GB。

43f9e084-36cd-11ee-9e74-dac502259ad0.png

442e621e-36cd-11ee-9e74-dac502259ad0.png






审核编辑:刘清

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 晶体管
    +关注

    关注

    76

    文章

    9054

    浏览量

    135211
  • 缓存器
    +关注

    关注

    0

    文章

    63

    浏览量

    11579
  • PCIe接口
    +关注

    关注

    0

    文章

    111

    浏览量

    9529
  • GPU芯片
    +关注

    关注

    1

    文章

    289

    浏览量

    5688
  • NVIDIA显卡
    +关注

    关注

    0

    文章

    15

    浏览量

    3107

原文标题:NVIDIA CPU+GPU超级芯片大升级!史无前例282GB内存

文章出处:【微信号:hdworld16,微信公众号:硬件世界】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    利用NVIDIA组件提升GPU推理的吞吐

    本实践中,唯品会 AI 平台与 NVIDIA 团队合作,结合 NVIDIA TensorRT 和 NVIDIA Merlin HierarchicalKV(HKV)将推理的稠密网络和热 Embedding 全置于
    的头像 发表于 04-20 09:39 160次阅读

    AI服务器异构计算深度解读

    AI服务器按芯片类型可分为CPU+GPUCPU+FPGA、CPU+ASIC等组合形式,CPU+GPU是目前国内的主要选择(占比91.9%)
    发表于 04-12 12:27 85次阅读
    AI服务器异构计算深度解读

    RISC-V芯片新突破:CPUGPU一体化核心设计

    X-Silicon 的芯片与其他架构不同,其设计将 CPUGPU 的功能结合到单核架构中。这与 Intel 和 AMD 的典型设计不同,后者有独立的 CPU 核心和
    发表于 04-07 10:41 123次阅读
    RISC-V<b class='flag-5'>芯片</b>新突破:<b class='flag-5'>CPU</b>与<b class='flag-5'>GPU</b>一体化核心设计

    NVIDIA推出搭载GB200 Grace Blackwell超级芯片NVIDIA DGX SuperPOD™

    NVIDIA 于太平洋时间 3 月 18 日发布新一代 AI 超级计算机 —— 搭载 NVIDIA GB200 Grace Blackwell 超级
    的头像 发表于 03-21 09:49 330次阅读

    NVIDIA 推出 Blackwell 架构 DGX SuperPOD,适用于万亿参数级的生成式 AI 超级计算

    基于先进的 NVIDIA 网络、NVIDIA 全栈 AI 软件和存储技术,可将集群中 Grace Blackwell 超级芯片的数量扩展至数万个,通过
    发表于 03-19 10:56 106次阅读
    <b class='flag-5'>NVIDIA</b> 推出 Blackwell 架构 DGX SuperPOD,适用于万亿参数级的生成式 AI <b class='flag-5'>超级</b>计算

    深度解读Nvidia AI芯片路线图

    Nvidia是一个同时拥有 GPUCPU和DPU的计算芯片和系统公司。Nvidia通过NVLink、NVSwitch和NVLink C2C
    发表于 03-13 09:25 368次阅读
    深度解读<b class='flag-5'>Nvidia</b> AI<b class='flag-5'>芯片</b>路线图

    Nvidia与AMD新芯片,突破PCIe瓶颈

    AMD 和 NvidiaGPU 都依赖 PCI 总线与 CPU 进行通信。CPUGPU 有两个不同的内存域,数据必须通过 PCI
    的头像 发表于 03-08 14:15 233次阅读
    <b class='flag-5'>Nvidia</b>与AMD新<b class='flag-5'>芯片</b>,突破PCIe瓶颈

    大模型算驱动AI服务器行业报告

    AI服务器按芯片类型可分为CPU+GPUCPU+FPGA、CPU+ASIC等组合形式,CPU+GPU是目前国内的主要选择(占比91.9%)
    发表于 11-28 09:18 118次阅读
    大模型算驱动AI服务器行业报告

    NVIDIA GPU的核心架构及架构演进

    在探讨 NVIDIA GPU 架构之前,我们先来了解一些相关的基本知识。GPU 的概念,是由 NVIDIA 公司在 1999 年发布 Geforce256 图形处理
    发表于 11-21 09:40 436次阅读
    <b class='flag-5'>NVIDIA</b> <b class='flag-5'>GPU</b>的核心架构及架构演进

    NVIDIA Grace Hopper超级芯片横扫MLPerf推理基准测试

    Hopper超级芯片首次亮相 MLPerf 行业基准测试,其运行了所有数据中心推理测试,进一步扩大了NVIDIA H100 Tensor Core GPU的领先优势。   总体测试结
    发表于 09-13 09:45 165次阅读
    <b class='flag-5'>NVIDIA</b> Grace Hopper<b class='flag-5'>超级</b><b class='flag-5'>芯片</b>横扫MLPerf推理基准测试

    NVIDIA Grace Hopper 超级芯片横扫 MLPerf 推理基准测试

    超级芯片 首次亮相 MLPerf 行业基准测试,其运行了所有数据中心推理测试,进一步扩大了 NVIDIA H100 Tensor Core GPU 的领先优势。 总体测试结果表明,
    的头像 发表于 09-12 20:40 276次阅读

    NVIDIA最强CPU芯片架构——NVIDIA Grace CPU

    NVIDIA Grace Hopper Superchip将节能、高带宽的 NVIDIA Grace CPU 与功能强大的 NVIDIA H100 Hopper
    发表于 08-30 10:45 980次阅读
    <b class='flag-5'>NVIDIA</b>最强<b class='flag-5'>CPU</b><b class='flag-5'>芯片</b>架构——<b class='flag-5'>NVIDIA</b> Grace <b class='flag-5'>CPU</b>

    NVIDIA CPU+GPU超级芯片终于量产

    同时,黄仁勋还公布了Grace Hopper的更多细节,尤其是它的CPUGPU之间使用NVLink-C2C互连技术,总带宽高达900GB/s,相比传统的PCIe 5.0通道超出足足7倍,能够满足要求最苛刻的生成式AI和HPC应用,功耗也降低了超过80%。
    的头像 发表于 05-30 14:45 789次阅读
    <b class='flag-5'>NVIDIA</b> <b class='flag-5'>CPU+GPU</b><b class='flag-5'>超级</b><b class='flag-5'>芯片</b>终于量产

    COMPUTEX2023 | 为加速生成式 AI 而设计的 NVIDIA Grace Hopper 超级芯片全面投产

    年 5 月 29 日 —  NVIDIA 于今日宣布 NVIDIA GH200 Grace Hopper 超级芯片 全面投产,将为全球各地即将上线的系统提供运行复杂 AI 和 HPC
    的头像 发表于 05-30 01:40 654次阅读
    COMPUTEX2023 | 为加速生成式 AI 而设计的 <b class='flag-5'>NVIDIA</b> Grace Hopper <b class='flag-5'>超级</b><b class='flag-5'>芯片</b>全面投产

    NVIDIA Grace 掀起新型节能 Arm 超级计算机的新浪潮

    公布了一个基于 NVIDIA Grace CPU 超级芯片超级计算机,为基于 Arm Neoverse 平台的新型节能
    的头像 发表于 05-23 07:10 381次阅读