0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

NVIDIA全新AI以太网络平台大幅提升AI云性能

丽台科技 来源:NVIDIA英伟达企业解决方案 2023-11-27 14:31 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

NVIDIA 近日宣布,三家头部系统制造商将率先在其服务器产品阵容中集成专为 AI 量身定制的 NVIDIA Spectrum-X 以太网络技术,帮助企业客户加速生成式 AI 业务。

Spectrum-X 专为生成式 AI 量身定制,为企业提供了一种全新的以太网络,相较传统以太网方案,其 AI 通信网络性能提高了 1.6 倍。

这三家头部系统制造商的新系统,整合了 Spectrum-X 与 NVIDIA Tensor Core GPU、NVIDIA AI Enterprise 软件和 NVIDIA AI Workbench 软件,为企业通过生成式 AI 来实现业务转型奠定了基础。

NVIDIA 创始人兼首席执行官黄仁勋表示:“生成式 AI 和加速计算正在推动新一代的业务转型,企业需要升级其数据中心来满足新型业务的需求。加速网络就是 NVIDIA 的头部服务器制造商合作伙伴推出新一代系统的催化剂,加快他们迈向生成式 AI 新时代。”

专门用于加速 AI 的网络

为实现 AI 业务的出色效率,Spectrum-X 集性能优异的 Spectrum-4 以太网交换机、NVIDIA BlueField-3 SuperNIC(一款可以大幅提升超大规模 AI 业务性能的新型网络加速器)以及多种加速软件于一体。领先的基础设施计算平台 —— NVIDIA BlueField-3 DPU 就属于 Spectrum-X 的一部分。

Spectrum-4 是专门面向 AI 的 51Tb/sec 以太网交换机,可在大规模、满负荷的场景下提供较高的数据吞吐量,同时在 AI 云业务的多租户场景下将网络拥塞降低,其智能的、基于微调的路由技术可以保障网络基础设施的利用率。

BlueField-3 SuperNIC 专为网络密集型的大规模并行计算而设计,可在 GPU 服务器之间提供高达 400Gb/s 的 RDMA(RoCE - RDMA over Converged Ethernet)网络连接,大幅提升了集群内部基于东西网络流量的 AI 训练和推理性能,还能实现多租户数据中心环境的安全隔离,确保租户业务的可预测性和性能隔离。BlueField-3 SuperNIC 基于低功耗、半高半长的 PCIe 规格设计,是企业级服务器的理想选择。

NVIDIA 加速软件包括 Cumulus Linux、SONiC 和 NetQ 三者组成的性能优异的 Spectrum-X 软件开发套件,以及作为 BlueField 核心的 NVIDIA DOCA 软件框架。

NVIDIA AI Enterprise 为安全、稳定和已经支持的生产级 AI 业务提供了框架、预训练模型和开发工具。NVIDIA AI Workbench 使开发者能够在 PC 或工作站上快速创建、测试和自定义预训练生成式 AI 模型,然后将其扩展至几乎任何数据中心或云。

搭载 Spectrum-X 的 NVIDIA 超级计算机

NVIDIA 自己的一台超级计算机就在使用 Spectrum-X,这也是新一代 AI 系统的参考架构。该超级计算机由 NVIDIA 与戴尔科技联合开发,使用了基于 8 卡 NVIDIA Hopper GPU 的 HGX 平台和 BlueField-3 DPU 及 SuperNIC 的 Dell PowerEdge XE9680 服务器,并通过 Spectrum-4 交换机组成了集群系统。






审核编辑:刘清

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 以太网
    +关注

    关注

    41

    文章

    6188

    浏览量

    181551
  • NVIDIA
    +关注

    关注

    14

    文章

    5687

    浏览量

    110116
  • gpu
    gpu
    +关注

    关注

    28

    文章

    5271

    浏览量

    136069
  • 交换机
    +关注

    关注

    23

    文章

    2930

    浏览量

    104867
  • RDMA
    +关注

    关注

    0

    文章

    102

    浏览量

    9666

原文标题:NVIDIA 全新 AI 以太网络平台大幅提升 AI 云性能

文章出处:【微信号:Leadtek,微信公众号:丽台科技】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    Jump Trading采用NVIDIA Rubin平台大幅提升研究速度

    Jump Trading 将成为金融服务领域首批采用 NVIDIA Rubin 平台的交易公司之一,以加速由 AI 驱动的资本市场研究和金融建模。
    的头像 发表于 03-25 10:03 318次阅读

    NVIDIA携手合作伙伴基于AI-RAN平台构建未来AI原生无线网络

    实地试验、新的性能基准测试、日益增长的运营商采纳率,以及合作伙伴基于 NVIDIA 平台构建的创新成果,共同印证了行业正加速迈向 AI 原生 5G 与 6G
    的头像 发表于 03-09 16:36 1083次阅读

    NVIDIA Spectrum-X以太网硅光技术助力AI工厂网络创新

    NVIDIA 将率先为 AI 工厂引入采用光电一体封装 (CPO) 的优化以太网网络,通过 NVIDIA Spectrum-X 以太网硅光
    的头像 发表于 01-14 09:06 887次阅读
    <b class='flag-5'>NVIDIA</b> Spectrum-X<b class='flag-5'>以太网</b>硅光技术助力<b class='flag-5'>AI</b>工厂<b class='flag-5'>网络</b>创新

    亚马逊科技推出全新的Amazon AI Factories 将客户现有基础设施转化为高性能AI环境

    亚马逊科技在2025 re:Invent全球大会上,宣布推出全新的Amazon AI Factories,助力企业将现有基础设施转化为高性能AI
    的头像 发表于 12-13 13:44 855次阅读

    NVIDIA携手Mistral AI发布全新开源大语言模型系列

    全新 Mistral 3 系列涵盖从前沿级到紧凑型模型,针对 NVIDIA 平台进行了优化,助力 Mistral AI 实现到边缘分布式智
    的头像 发表于 12-13 09:58 1440次阅读

    NVIDIA扩大与微软合作推动AI超级工厂建设

    在 Microsoft Ignite 大会上,NVIDIA 扩大与微软的合作,包括在由 NVIDIA Blackwell 平台驱动的全新 Microsoft Fairwater
    的头像 发表于 12-01 09:52 984次阅读

    NVIDIA Spectrum-X 以太网交换机助力 Meta 和 Oracle 加速网络性能

    超大规模企业广泛采用 NVIDIA 网络解决方案,驱动十亿瓦级(Giga-Scale)高性能 AI 数据中心 Meta 推出基于 NVIDIA
    的头像 发表于 10-14 10:26 2081次阅读
    <b class='flag-5'>NVIDIA</b> Spectrum-X <b class='flag-5'>以太网</b>交换机助力 Meta 和 Oracle 加速<b class='flag-5'>网络</b><b class='flag-5'>性能</b>

    NVIDIA推出Spectrum-XGS以太网技术

    NVIDIA 今日宣布推出 NVIDIA Spectrum-XGS 以太网。这项跨区域扩展(scale-across)技术可将多个分布式数据中心组合成一个十亿瓦级 AI 超级工厂。
    的头像 发表于 08-27 12:51 1476次阅读

    睿海光电以高效交付与广泛兼容助力AI数据中心800G光模块升级

    客户历史投资 针对AI工厂与AI的不同技术路线(如InfiniBand与以太网),睿海光电800G光模块展现出卓越的生态适配能力: 协议兼容:支持RoCEv2、InfiniBand
    发表于 08-13 19:01

    NVIDIA助力CoreWeave平台性能升级

    AI 变革正在重塑数据中心格局,亟需能够提供更灵活、高性价比的计算和数据能力的平台。为了满足这些需求,作为推动 AI 变革的超大规模服务提供商,CoreWeave 致力于开发一种用于
    的头像 发表于 07-23 10:49 1490次阅读
    <b class='flag-5'>NVIDIA</b>助力CoreWeave<b class='flag-5'>云</b><b class='flag-5'>平台</b><b class='flag-5'>性能</b>升级

    信而泰×DeepSeek:AI推理引擎驱动网络智能诊断迈向 “自愈”时代

    、资源分配的最优策略建议,减少资源浪费,提升整体网络效率。 客户实证:AI推理引擎的精准力量某大型政务平台遭遇核心业务运行缓慢问题,初步
    发表于 07-16 15:29

    AI网络管理新范式:精要解读超以太网联盟(UEC)1.0 规范(2025Q2)

    随着AI与高性能计算(HPC)集群对网络带宽、时延和拥塞管理的要求日益严苛,传统以太网在超大规模场景下面临瓶颈。为此,超以太网联盟(UEC)
    的头像 发表于 07-11 18:41 2518次阅读
    <b class='flag-5'>AI</b><b class='flag-5'>网络</b>管理新范式:精要解读超<b class='flag-5'>以太网</b>联盟(UEC)1.0 规范(2025Q2)

    全球各大品牌利用NVIDIA AI技术提升运营效率

    欧莱雅、LVMH 集团和雀巢利用 NVIDIA 加速的智能体 AI 和物理 AI大幅提升产品设计、营销及物流等方面的运营效率。
    的头像 发表于 06-19 14:36 1358次阅读

    NVIDIA计划打造全球首个工业AI平台

    NVIDIA 宣布,其正在为欧洲制造商构建全球首个工业 AI 。这家总部位于德国的 AI 工厂将配备 1 万个 GPU,包括通过 NVIDIA
    的头像 发表于 06-16 14:17 1618次阅读

    NVIDIA携手合作伙伴提升AI智能体的交互能力

    NVIDIA Enterprise AI Factory 的经验证设计和全新NVIDIA AI Blueprint 可帮助企业部署具有沟
    的头像 发表于 05-22 09:52 1225次阅读