0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

英伟达推出百亿参数AI模型处理方案——DGX SuperPOD

微云疏影 来源:综合整理 作者:综合整理 2024-03-19 14:35 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

据报道,当地时间3月19日,英伟达于GTC开发者大会上发布了以处理百亿参数AI模型为核心的新品——DGX SuperPOD,旨在助力超大规模AI训练和推理工作负载实现稳定而高效的性能输出。

据悉,新型DGX SuperPOD采用全新的高效水冷机架式设计,搭载英伟达DGX GB200系统,FP4精度下具备11.5 exaflops的人工智能超级计算力以及240 terabytes的高速内存。用户可以通过加装机架进行持续扩充。

一套DGX GB200系统内含36块英伟达GB200加速卡,其中包含36颗英伟达Grace CPU以及72颗英伟达Blackwell GPU,经由第五代英伟达NVLink技术组合成一具高性能超算。

相较于英伟达基于H100 Tensor Core GPU打造的产品,GB200加速卡在大型语言模型推理任务中的表现将有望提高最多30倍。

英伟达现有的DGX SuperPOD套装包含至少8套DGX GB200系统,通过英伟达Quantum InfiniBand技术扩容后,能够容纳数万枚GB200加速卡。

英伟达名誉主席及首席执行官黄仁勋指出,“英伟达的DGX系列人工智能超级计算机是智能化工业革命的催化剂。而此次推出的DGX SuperPOD集成了最先进的加速计算、网络和软件技术,使每一家企业、行业乃至国家均能充分利用该平台完善并发展自身的人工智能技术”。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 人工智能
    +关注

    关注

    1813

    文章

    49772

    浏览量

    261708
  • 加速卡
    +关注

    关注

    1

    文章

    69

    浏览量

    11324
  • 英伟达
    +关注

    关注

    23

    文章

    4046

    浏览量

    97720
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    英伟重磅杀入Arm AI PC,N1X芯片跑分曝光!结果比较意外

     电子发烧友网报道(文/黄山明)如今我们正处于信息时代迈入AI时代的过渡期,而作为AI时代最大的“卖铲人”,英伟算是吃尽了时代的红利。不仅将公司一举带上了全球第一的市值,更是让
    的头像 发表于 03-04 00:58 3115次阅读
    <b class='flag-5'>英伟</b><b class='flag-5'>达</b>重磅杀入Arm <b class='flag-5'>AI</b> PC,N1X芯片跑分曝光!结果比较意外

    NVIDIA DGX Spark助力构建自己的AI模型

    2025 年 1 月 6 日,NVIDIA 正式宣布其 Project DIGITS 项目,并于 3 月 18 日更名为 NVIDIA DGX Spark,进一步公布了产品细节。DGX Spark
    的头像 发表于 11-21 09:25 595次阅读
    NVIDIA <b class='flag-5'>DGX</b> Spark助力构建自己的<b class='flag-5'>AI</b><b class='flag-5'>模型</b>

    NVIDIA新闻:英伟10亿美元入股诺基亚 英伟推出全新量子设备

    给大家分享一些NVIDIA新闻: 英伟10亿美元入股诺基亚 在当地时间10月28日,英伟正式宣布将以10亿美元入股诺基亚;据悉英伟
    的头像 发表于 10-29 17:12 1320次阅读

    Cadence 借助 NVIDIA DGX SuperPOD 模型扩展数字孪生平台库,加速 AI 数据中心部署与运营

    [1]  利用搭载 DGX GB200 系统的 NVIDIA DGX SuperPOD[2] 数字孪生系统实现了库的重大扩展 。借助 NVIDIA 高性能加速计算平台的新模型,数据中
    的头像 发表于 09-15 15:19 1265次阅读

    英伟Cosmos-Reason1 模型深度解读

    英伟近期发布的 Cosmos-Reason1 模型在物理常识推理领域引发广泛关注。作为专为物理世界交互设计的多模态大语言模型,它通过融合视觉感知与复杂逻辑推理,重新定义了
    的头像 发表于 03-29 23:29 2629次阅读

    英伟、高通布局AI投资版图,这些明星企业被收入囊中!

    电子发烧友原创 章鹰 今年以来,AI界新秀DeepSeek带来的大模型平权推动AI应用,云计算市场景气度上行,推动资本开支增长。对于DeepSeek的横空出世,英伟
    的头像 发表于 03-25 09:22 1833次阅读

    IBM携手英伟AI数据平台推动企业级AI创新

    英伟平台与 IBM 的 AI 和数据平台 watsonx 的集成。此外,IBM 还将与英伟合作推出
    发表于 03-24 19:20 418次阅读

    NVIDIA 宣布推出 DGX Spark 个人 AI 计算机

    DGX™ 个人 AI 超级计算机。   DGX Spark(前身为 Project DIGITS)支持 AI 开发者、研究人员、数据科学家和学生,在台式电脑上对大
    发表于 03-19 09:59 506次阅读
       NVIDIA 宣布<b class='flag-5'>推出</b> <b class='flag-5'>DGX</b> Spark 个人 <b class='flag-5'>AI</b> 计算机

    广和通正式推出AI玩具大模型解决方案

    广和通近期推出了一款创新的AI玩具大模型解决方案,该方案深度融合了豆包等AI
    的头像 发表于 01-24 10:36 1759次阅读

    广和通推出AI玩具大模型解决方案

    广和通推出AI玩具大模型解决方案,该方案深度融合豆包等AI
    的头像 发表于 01-21 10:27 1692次阅读

    英伟发布Nemotron-CC大型AI训练数据库

    近日,英伟在其官方博客上宣布了一项重大进展,推出了一款名为Nemotron-CC的大型英文AI训练数据库。这一数据库的发布,标志着英伟
    的头像 发表于 01-14 14:14 798次阅读

    英伟推出基石世界模型Cosmos,解决智驾与机器人具身智能训练数据问题

    CES 2025展会上,英伟推出了基石世界模型Cosmos,World Foundation Model基石世界模型,简称WFM。 物理
    的头像 发表于 01-14 11:04 2117次阅读
    <b class='flag-5'>英伟</b><b class='flag-5'>达</b><b class='flag-5'>推出</b>基石世界<b class='flag-5'>模型</b>Cosmos,解决智驾与机器人具身智能训练数据问题

    美银分析师:英伟加大“物理AI”投入为明智之举

    新兴分支,正逐渐受到业界的广泛关注。英伟作为全球领先的图形处理器(GPU)制造商,其在人工智能领域的实力不容小觑。此次加大对“物理AI”的投入,不仅体现了
    的头像 发表于 01-08 10:51 746次阅读

    英伟收购AI初创公司Run:ai

    :ai作为一家专注于AI云计算软件平台开发的初创公司,其产品以高效利用高性能GPU资源为核心,致力于为用户提供更快速、更便捷的机器学习加速方案。通过此次收购,英伟
    的头像 发表于 12-31 10:46 879次阅读

    NaVILA:加州大学与英伟联合发布新型视觉语言模型

    日前,加州大学的研究人员携手英伟,共同推出了一款创新的视觉语言模型——NaVILA。该模型在机器人导航领域展现出了独特的应用潜力,为智能机
    的头像 发表于 12-13 10:51 963次阅读