0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

英伟达推出百亿参数AI模型处理方案——DGX SuperPOD

微云疏影 来源:综合整理 作者:综合整理 2024-03-19 14:35 次阅读

据报道,当地时间3月19日,英伟达于GTC开发者大会上发布了以处理百亿参数AI模型为核心的新品——DGX SuperPOD,旨在助力超大规模AI训练和推理工作负载实现稳定而高效的性能输出。

据悉,新型DGX SuperPOD采用全新的高效水冷机架式设计,搭载英伟达DGX GB200系统,FP4精度下具备11.5 exaflops的人工智能超级计算力以及240 terabytes的高速内存。用户可以通过加装机架进行持续扩充。

一套DGX GB200系统内含36块英伟达GB200加速卡,其中包含36颗英伟达Grace CPU以及72颗英伟达Blackwell GPU,经由第五代英伟达NVLink技术组合成一具高性能超算。

相较于英伟达基于H100 Tensor Core GPU打造的产品,GB200加速卡在大型语言模型推理任务中的表现将有望提高最多30倍。

英伟达现有的DGX SuperPOD套装包含至少8套DGX GB200系统,通过英伟达Quantum InfiniBand技术扩容后,能够容纳数万枚GB200加速卡。

英伟达名誉主席及首席执行官黄仁勋指出,“英伟达的DGX系列人工智能超级计算机是智能化工业革命的催化剂。而此次推出的DGX SuperPOD集成了最先进的加速计算、网络和软件技术,使每一家企业、行业乃至国家均能充分利用该平台完善并发展自身的人工智能技术”。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 人工智能
    +关注

    关注

    1776

    文章

    43845

    浏览量

    230600
  • 加速卡
    +关注

    关注

    1

    文章

    46

    浏览量

    10880
  • 英伟达
    +关注

    关注

    22

    文章

    3327

    浏览量

    87768
收藏 人收藏

    评论

    相关推荐

    英伟达战略收购Run:ai,推进产品战略,整合资源至Nvidia DGX C

    4 月 25 日,英伟达正式推出新闻公告,宣布成功收购了 Run:ai 公司,以加快推进其产品蓝图的实施,并将其与 Nvidia DGX Cloud 深度融合。关于此次收购的具体金额及
    的头像 发表于 04-25 10:25 178次阅读

    英伟达超级计算机Eos揭秘

    英伟达将Eos描述为一个可以为“AI工厂”提供动力的系统,因为它是一个非常大规模的SuperPod DGX H100系统。
    的头像 发表于 04-24 10:15 106次阅读

    英伟达Blackwell平台网络配置分析

    采用 DGX GB200 系统的 NVIDIA DGX SuperPOD 专为训练和推理万亿参数生成式AI
    的头像 发表于 04-17 11:01 252次阅读

    NVIDIA Blackwell DGX SuperPOD助力万亿级生成式AI计算

    全新 DGX SuperPOD 采用新型高效液冷机架级扩展架构,基于 NVIDIA DGX GB200 系统构建而成,在 FP4 精度下可提供 11.5 exaflops 的 AI
    发表于 03-21 09:49 77次阅读

    NVIDIA推出搭载GB200 Grace Blackwell超级芯片的NVIDIA DGX SuperPOD

    NVIDIA 于太平洋时间 3 月 18 日发布新一代 AI 超级计算机 —— 搭载 NVIDIA GB200 Grace Blackwell 超级芯片的 NVIDIA DGX SuperPOD™。
    的头像 发表于 03-21 09:49 330次阅读

    NVIDIA 推出 Blackwell 架构 DGX SuperPOD,适用于万亿参数级的生成式 AI 超级计算

    日 ——  NVIDIA 于今日发布新一代 AI 超级计算机 —— 搭载 NVIDIA GB200 Grace Blackwell 超级芯片的 NVIDIA DGX SuperPOD™。这台
    发表于 03-19 10:56 106次阅读
    NVIDIA <b class='flag-5'>推出</b> Blackwell 架构 <b class='flag-5'>DGX</b> <b class='flag-5'>SuperPOD</b>,适用于万亿<b class='flag-5'>参数</b>级的生成式 <b class='flag-5'>AI</b> 超级计算

    英伟HBM4预计2026年推出

    英伟行业资讯
    深圳市浮思特科技有限公司
    发布于 :2023年11月27日 15:15:17

    #英伟 #显卡 英伟全新旗舰显卡RTX 5090性能暴涨70%

    显卡英伟
    深圳市浮思特科技有限公司
    发布于 :2023年11月20日 14:19:25

    英伟达的反击:挟H100以令诸侯

    2023年3月,英伟达正式上线云计算服务DGX Cloud。事实证明,经过英伟达工程师的优化后,DGX Cloud在训练大模型时表现得的确更
    的头像 发表于 10-18 15:33 452次阅读
    <b class='flag-5'>英伟</b>达的反击:挟H100以令诸侯

    AI简报20230616】英伟推出Instinct MI300、OpenAI凌晨再给ChatGPT、GPT-4加码!

    AI 简报 20230616 期 1. AMD硬刚英伟达,推出Instinct MI300,单芯片可运行800亿参数 原文: https://mp.weixin.qq.com
    的头像 发表于 06-17 18:15 655次阅读
    【<b class='flag-5'>AI</b>简报20230616】<b class='flag-5'>英伟</b>达<b class='flag-5'>推出</b>Instinct MI300、OpenAI凌晨再给ChatGPT、GPT-4加码!

    天数智芯天垓100率先完成百亿参数模型训练

    的Aquila语言基础模型,使用代码数据进行继续训练,稳定运行19天,模型收敛效果符合预期,证明天数智芯有支持百亿参数模型训练的能力。
    的头像 发表于 06-12 15:23 617次阅读
    天数智芯天垓100率先完成<b class='flag-5'>百亿</b>级<b class='flag-5'>参数</b>大<b class='flag-5'>模型</b>训练

    英伟推出超级计算机DGX GH200

    DGX GH200人工智能超级计算机则集成了英伟达最先进加速计算和网络技术。
    的头像 发表于 05-30 16:20 2284次阅读

    NVIDIA推出DGX GH200 AI超级计算机

    新型AI超级计算机将256个Grace Hopper超级芯片连接为巨大的、1-Exaflop、144TB GPU,用于支持生成式AI、推荐系统和数据处理的巨型模型     COMPUT
    发表于 05-30 14:15 448次阅读
    NVIDIA<b class='flag-5'>推出</b><b class='flag-5'>DGX</b> GH200 <b class='flag-5'>AI</b>超级计算机

    COMPUTEX2023 | NVIDIA 推出 DGX GH200 AI 超级计算机

    新型 AI 超级计算机将 256 个 Grace Hopper 超级芯片连接为巨大的、1-Exaflop、144TB GPU,用于支持生成式 AI、推荐系统和数据处理的巨型模型 COM
    的头像 发表于 05-30 01:40 1516次阅读
    COMPUTEX2023 | NVIDIA <b class='flag-5'>推出</b> <b class='flag-5'>DGX</b> GH200 <b class='flag-5'>AI</b> 超级计算机

    联发科回应结盟英伟合攻 Arm 架构芯片传闻

    联发科计划周一下午举行 2023“旗舰科技 智领未来”记者会,由联发科 CEO 蔡力行与重量级嘉宾一同出席,这位嘉宾应该是近来引起全球关注、并成为 AI 创新推动者的英伟 CEO 黄仁勋。早些时候
    发表于 05-28 08:47