0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

COMPUTEX2023 | NVIDIA 推出面向超大规模生成式 AI 的加速以太网平台

NVIDIA英伟达企业解决方案 来源:未知 2023-05-30 01:40 次阅读

全新的 NVIDIA Spectrum-X 网络平台集 NVIDIA Spectrum-4、BlueField-3 DPU 和加速软件于一身;全球头部云服务提供商采用该平台来横向扩展其生成式 AI 服务

COMPUTEX—2023 年 5 月 29 日NVIDIA 于今日宣布推出 NVIDIA Spectrum-X 网络平台,该平台是一个加速网络平台,致力于提高基于以太网 AI 云的性能与效率。

NVIDIA Spectrum-X 是基于网络创新的新成果而构建 —— 将 NVIDIA Spectrum-4 以太网交换机NVIDIA BlueField-3 DPU 紧密结合,取得了 1.7 倍的整体 AI 性能和能效提升,同时可在多租户环境中提供一致、可预测的性能。Spectrum-X 还提供 NVIDIA 加速软件和软件开发套件(SDK),使开发人员能够构建软件定义的云原生 AI 应用。

这种端到端的功能交付,可以减少基于 transformer 的大规模生成式 AI 模型的运行时间,助力网络工程师、AI 数据科学家和云服务商及时取得更好的结果,并更快做出明智的决策。

全球头部超大规模云服务商正在采用 NVIDIA Spectrum-X,包括领先的云创新企业。

作为 NVIDIA Spectrum-X 参考设计的蓝图和测试平台,NVIDIA 正在构建一台超大规模生成式 AI 超级计算机,命名为 Israel-1。它将被部署在 NVIDIA 以色列数据中心,由基于 NVIDIA HGX 平台的戴尔 PowerEdge XE9680 服务器、BlueField-3 DPU 和 Spectrum-4 交换机等打造而成。

NVIDIA 网络高级副总裁 Gilad Shainer 表示:“诸如生成式 AI 等革命性技术正在推动各家企业提升数据中心性能的极限,从而获得更多竞争优势。作为新一代以太网络,NVIDIA Spectrum-X 为新一代 AI 工作负载扫清障碍,将会彻底改变整个行业。”

NVIDIA Spectrum-X 网络平台具有高度的通用性,可用于各种 AI 应用。它采用完全标准的以太网,与现有以太网的堆栈实现互通。

该平台起步于 Spectrum-4,这是全球首款专为 AI 网络打造的 51Tb/s 以太网交换机。先进的 RoCE 扩展功能可以跨 Spectrum-4 交换机、BlueField-3 DPU 和 NVIDIA LinkX 光纤相互协同,共同构建了一个专为 AI 云优化的端到端 400GbE 网络。

NVIDIA Spectrum-X 通过性能隔离增强了多租户环境,确保租户的 AI 工作负载能以最佳性能持续运行。NVIDIA Spectrum-X 还提供了更好的 AI 性能可见性,它可以识别性能瓶颈,而且具有全自动网络验证功能。

驱动 Spectrum-X 的加速软件包括 Cumulus Linux、纯 SONiC 和 NetQ 等性能强大的 NVIDIA SDK,共同助力该网络平台实现极致性能。另外,Spectrum-X 还包括 BlueField DPU 的核心软件—— NVIDIA DOCA 软件框架。

NVIDIA Spectrum-X 单台交换机即可实现突破性的 256 个 200Gb/s 端口的连接,使用两层叶脊拓扑可以连接 16,000 个端口,以支持 AI 云的增长和扩展,同时保持极高的性能和极低的网络延时。

生态采用情况

提供 NVIDIA Spectrum-X 方案的公司包括戴尔科技、联想和超微。

供货情况

NVIDIA Spectrum-X、Spectrum-4 交换机、BlueField-3 DPU 和 400G LinkX 光纤现已上市。

聆听 COMPUTEX 主题演讲,进一步了解 NVIDIA Spectrum-X。

47a3be26-fe47-11ed-90ce-dac502259ad0.png

点击 “阅读原文”,或扫描下方海报二维码,观看 NVIDIA 创始人兼 CEO 黄仁勋为 COMPUTEX 2023 带来的主题演讲直播回放,了解 AI、图形及其他领域的最新进展!


原文标题:COMPUTEX2023 | NVIDIA 推出面向超大规模生成式 AI 的加速以太网平台

文章出处:【微信公众号:NVIDIA英伟达企业解决方案】欢迎添加关注!文章转载请注明出处。


声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 英伟达
    +关注

    关注

    22

    文章

    3332

    浏览量

    87800

原文标题:COMPUTEX2023 | NVIDIA 推出面向超大规模生成式 AI 的加速以太网平台

文章出处:【微信号:NVIDIA-Enterprise,微信公众号:NVIDIA英伟达企业解决方案】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    晶晟微纳发布N800超大规模AI算力芯片测试探针卡

    近日,上海韬盛科技旗下的苏州晶晟微纳宣布推出其最新研发的N800超大规模AI算力芯片测试探针卡。这款高性能探针卡采用了前沿的嵌入式合金纳米堆叠技术,旨在满足当前超大规模
    的头像 发表于 03-04 13:59 285次阅读

    NVIDIA全新AI以太网平台大幅提升AI云性能

    NVIDIA 近日宣布,三家头部系统制造商将率先在其服务器产品阵容中集成专为 AI 量身定制的 NVIDIA Spectrum-X™ 以太网络技术,帮助企业客户
    的头像 发表于 11-27 14:31 416次阅读

    戴尔科技、慧与和联想即将推出 NVIDIA 全新 AI 以太网平台

    NVIDIA Spectrum-X 以太网络技术,帮助企业客户加速生成AI 业务。 Spectrum-X 专为
    的头像 发表于 11-21 21:50 330次阅读
    戴尔科技、慧与和联想即将<b class='flag-5'>推出</b> <b class='flag-5'>NVIDIA</b> 全新 <b class='flag-5'>AI</b> <b class='flag-5'>以太网</b>络<b class='flag-5'>平台</b>

    戴尔科技、慧与和联想即将推出 NVIDIA 全新 AI 以太网平台

    NVIDIA Spectrum-X™ 以太网络技术,帮助企业客户加速生成AI 业务。   Spectrum-X 专为
    发表于 11-21 18:18 156次阅读
    戴尔科技、慧与和联想即将<b class='flag-5'>推出</b> <b class='flag-5'>NVIDIA</b> 全新 <b class='flag-5'>AI</b> <b class='flag-5'>以太网</b>络<b class='flag-5'>平台</b>

    6G超大规模多天线的技术演进历程

    从3G到5G时代,天线规模发生了显著的变化,5G超大规模天线技术具有许多优势,但面向6G的极致性能要求还需持续演进
    发表于 11-21 09:19 395次阅读
    6G<b class='flag-5'>超大规模</b>多天线的技术演进历程

    NVIDIA 在 Microsoft Azure 上推出面向全球企业和初创公司的 生成AI Foundry 服务

    AI Enterprise 软件进行部署       Microsoft Ignite — 2023 年 11 月 15 日 — NVIDIA 于今日推出一项
    发表于 11-16 14:13 142次阅读
    <b class='flag-5'>NVIDIA</b> 在 Microsoft Azure 上<b class='flag-5'>推出面向</b>全球企业和初创公司的 <b class='flag-5'>生成</b>式 <b class='flag-5'>AI</b> Foundry 服务

    基于超大规模架构的FPGA存储器IP

    电子发烧友网站提供《基于超大规模架构的FPGA存储器IP.pdf》资料免费下载
    发表于 09-13 17:31 0次下载
    基于<b class='flag-5'>超大规模</b>架构的FPGA存储器IP

    超大规模数据中心的优势和面临的挑战

    从本质上来说,数据中心是为大规模运行而设计的,通常容纳数十个(如果不是数百个)物理服务器和虚拟机。超大规模数据中心本质上是一个更高的级别,它可以支持数千台服务器和数百万个虚拟机。超大规模数据中心可以
    的头像 发表于 09-08 08:29 576次阅读
    <b class='flag-5'>超大规模</b>数据中心的优势和面临的挑战

    COMPUTEX2023 | 主题演讲中文字幕版已上线!

    和 AI 标志着计算的革新” 在 COMPUTEX2023 主题演讲上,NVIDIA 创始人兼首席执行官 黄仁勋展示了多个新系统,软件及服务, 以充分利用这个时代最具变革性的技术 —— 生成
    的头像 发表于 06-05 10:55 437次阅读
    <b class='flag-5'>COMPUTEX2023</b> | 主题演讲中文字幕版已上线!

    COMPUTEX 2023 NVIDIA 重磅发布一览

    NVIDIA CEO 黄仁勋发布面向各行各业的生成AI 平台 NVIDIA 创始人兼首席执
    的头像 发表于 06-01 09:05 675次阅读

    COMPUTEX2023 | WPP 与 NVIDIA 共同打造用于数字广告的生成AI 内容引擎

    基于 NVIDIA AI 和 Omniverse 打造的开创性引擎通过连接领先软件制造商的 3D 和 AI 创作工具,重塑品牌内容和体验 COMPUTEX
    的头像 发表于 05-30 01:45 782次阅读
    <b class='flag-5'>COMPUTEX2023</b> | WPP 与 <b class='flag-5'>NVIDIA</b> 共同打造用于数字广告的<b class='flag-5'>生成</b>式 <b class='flag-5'>AI</b> 内容引擎

    COMPUTEX2023 | NVIDIA CEO 黄仁勋发布面向各行各业的生成AI 平台

    COMPUTEX2023 年 5 月 29 日 — NVIDIA 创始人兼首席执行官黄仁勋在本次主题演讲中发布了多个平台。通过这些平台
    的头像 发表于 05-30 01:45 431次阅读
    <b class='flag-5'>COMPUTEX2023</b> | <b class='flag-5'>NVIDIA</b> CEO 黄仁勋发布<b class='flag-5'>面向</b>各行各业的<b class='flag-5'>生成</b>式 <b class='flag-5'>AI</b> <b class='flag-5'>平台</b>

    COMPUTEX2023 | NVIDIA ACE 游戏开发版利用生成AI 使虚拟角色栩栩如生

    全新代工服务为云端及 PC 的游戏角色产生出定制化生成式 AI 模型 COMPUTEX2023 年 5 月 29 日 — NVIDIA
    的头像 发表于 05-30 01:45 399次阅读

    COMPUTEX2023 | 为加速生成AI 而设计的 NVIDIA Grace Hopper 超级芯片全面投产

    由 GH200 驱动的系统将加入到全球系统制造商基于 NVIDIA Grace、Hopper、Ada Lovelace 架构的 400 多种系统配置中 COMPUTEX2023
    的头像 发表于 05-30 01:40 656次阅读
    <b class='flag-5'>COMPUTEX2023</b> | 为<b class='flag-5'>加速</b><b class='flag-5'>生成</b>式 <b class='flag-5'>AI</b> 而设计的 <b class='flag-5'>NVIDIA</b> Grace Hopper 超级芯片全面投产

    COMPUTEX2023 | NVIDIA 推出 DGX GH200 AI 超级计算机

    Switch System 驱动的 NVIDIA DGX 超级计算机 ,旨在助力开发面向生成AI 语言应用、推荐系统和数据分析工作负载的巨型、下一代模型。
    的头像 发表于 05-30 01:40 1517次阅读
    <b class='flag-5'>COMPUTEX2023</b> | <b class='flag-5'>NVIDIA</b> <b class='flag-5'>推出</b> DGX GH200 <b class='flag-5'>AI</b> 超级计算机