0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

什么是 BlueField SuperNIC?

NVIDIA英伟达 来源:未知 2023-11-21 21:50 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

BlueField SuperNIC 是面向 AI 云数据中心的一种网络加速器,可在 GPU 服务器之间提供可靠、无缝的连接。

wKgaomVctrmAU3JlAADoI3vg6BQ608.jpg

生成式 AI 是快速变化的数字领域的新转折。在此领域的一个突破性创新技术是一个新术语:BlueField SuperNIC

什么是 BlueField SuperNIC?

BlueField SuperNIC 是一类新型网络加速器,旨在为基于以太网的 AI 云上运行的超大规模 AI 工作负载提供强效助力。它为 GPU 到 GPU 通信提供快速的网络连接,使用基于以太网的远程直接内存访问(RoCE)技术实现 400Gb/s 的速度。

BlueField SuperNIC 结合了以下独特属性:

  • 高速数据包重排序可确保数据包的接收和处理顺序与源端发送的顺序相同。这可保持数据流的顺序完整性。

  • 使用实时遥测数据和网络感知算法进行高级拥塞控制,以管理和预防 AI 网络中的拥塞。

  • 输入/输出 (I/O) 路径上的可编程计算,可实现 AI 云数据中心网络基础设施的自定义和可扩展性。

  • 节能高效的半高设计,可在有限的功率预算范围内高效适应 AI 工作负载。

  • 全栈 AI 优化,包括计算、网络、存储、系统软件、通信库和应用框架。

NVIDIA 最近推出了全球首款专为 AI 计算定制的 BlueField SuperNIC,基于 BlueField-3 网络平台。它是 NVIDIA Spectrum-X 平台的一部分,与 Spectrum-4 以太网交换机系统无缝集成。

NVIDIA BlueField-3 SuperNIC 和 Spectrum-4 交换机系统共同构成专为优化 AI 工作负载而设计的加速计算架构。Spectrum-X 始终如一地提供极高网络效率水平,远超传统的以太网环境。

NVIDIA DPU 和网卡产品副总裁 Yael Shenhav 表示:“AI 正在推动新一波的技术创新,BlueField-3 SuperNIC 是其中至关重要的一个齿轮。BlueField SuperNIC 可确保您的 AI 工作负载得到高效和快速的执行,必将成为实现 AI 计算未来的基础组件。”

不断发展的 AI 和网络格局

AI 领域正在经历一场地震级转变,这要归功于生成式 AI 和大语言模型,这些强大的技术释放了新的可能性,使计算机能够处理新任务。

AI 的成功很大程度上依赖于 GPU 加速计算来处理海量数据、训练大型 AI 模型并实现实时推理。这种新的计算能力开辟了新的可能性,但也对以太网云网络提出了挑战。

传统以太网是互联网基础设施的基础技术,旨在提供广泛的兼容性和连接松耦合的应用程序。它的设计并不是为了满足现代 AI 工作负载的苛刻计算需求,这些工作负载涉及紧耦合的并行处理、快速数据传输和独特的通信模式,所有这些都需要优化的网络连接。

传统网络接口卡(NIC)为通用计算、通用数据传输和互操作性而设计,并没有为 AI 工作负载计算强度带来的独特挑战进行优化设计。

标准网卡(NIC)缺乏必要的特性和功能来实现高效的数据传输、低延迟和对 AI 任务至关重要的确定性能。而 BlueField SuperNIC 则专为现代 AI 工作负载而构建。

AI 计算环境中的 BlueField SuperNIC 优势

数据处理器(DPU)提供丰富的高级功能,可提供高吞吐量、低延迟的网络连接等。自 2020 年推出以来,DPU 在云计算领域越来越受欢迎,主要是因为其能够卸载、加速和隔离数据中心基础设施处理。

尽管 DPU 和 BlueField SuperNIC 具有一系列相同的特性和功能,但 BlueField SuperNIC 针对 AI 加速网络进行了独特的优化。下图显示了它们的对比情况:

wKgaomVctrmAXQeYAADCs1figRI395.png

分布式 AI 训练和推理通信流很大程度上取决于网络带宽的可用性。BlueField SuperNIC 以其独特的设计而引人注目,其扩展比 DPU 更有效,每个 GPU 可提供惊人的 400Gb/s 网络带宽。

系统内 GPU 与 BlueField SuperNIC 的 1:1 配比可以显著提高 AI 工作负载效率,从而提高企业的生产力和卓越成果。

BlueField SuperNIC 的唯一目的是加速 AI 云计算的网络。因此,它比 DPU 消耗更少的计算能力,而 DPU 需要大量计算资源来卸载主机 CPU 中的应用程序。

计算需求的降低也转化为功耗的降低,这在包含多达 8 个 BlueField SuperNIC 的系统中尤为重要。

BlueField SuperNIC 的其他显著特性包括其专用的 AI 网络功能。当与为 AI 优化的 NVIDIA Spectrum-4 交换机紧密集成时,它提供了自适应路由、乱序数据包处理和优化的拥塞控制。这些高级功能有助于加速以太网 AI 云环境。

革新 AI 云计算

NVIDIA BlueField-3 SuperNIC 具有多项优势,是 AI 基础设施就绪的关键:

  • AI 工作负载峰值效率:BlueField-3 SuperNIC 专为网络密集型大规模并行计算而构建,是 AI 工作负载的理想选择。它可确保 AI 任务高效运行,消除通信瓶颈。

  • 一致且可预测的性能:在同时处理大量任务的多租户数据中心,BlueField-3 SuperNIC 可确保每个作业和租户的性能都是隔离的、可预测的,并且不受其他网络活动的影响。

  • 安全的多租户云基础设施:安全是重中之重,尤其是在处理敏感信息的数据中心。BlueField-3 SuperNIC 保持极高的安全级别,使多个租户能够共存,同时保持数据和处理隔离。

  • 可扩展的网络基础设施:BlueField-3 SuperNIC 的范围并不受限,它高度灵活,可适应各种其他网络基础设施需求。

  • 广泛的服务器制造商支持:BlueField-3 SuperNIC 无缝适用于大多数企业级服务器,无需额外供电,为数据中心实现高效节能。

扫描下方二维码,阅读白皮书,详细了解 NVIDIA BlueField-3 SuperNIC,包括它们如何跨 NVIDIA 数据中心平台进行集成:新一代网络,迎接新一波 AI 浪潮。

wKgaomVctrmADY7dAAAEHsvLcnE104.png


wKgaomVctrmAQRirAABAFFJlyZc132.gif  

更多精彩内容 利用 NVIDIA DOCA Flow 实现 DPU 加速数据包转向逻辑
使用 NVIDIA BlueField DPU 加速 Suricata IDS / IPS
使用 NVIDIA BlueField-3 DPU 驱动下一波应用程序 wKgaomVctrmABbd7AABAFFJlyZc485.gif    

GTC 2024 将于 2024 年 3 月 18 至 21 日在美国加州圣何塞会议中心举行,线上大会也将同期开放。扫描下方海报二维码,立即注册 GTC 大会


原文标题:什么是 BlueField SuperNIC?

文章出处:【微信公众号:NVIDIA英伟达】欢迎添加关注!文章转载请注明出处。


声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 英伟达
    +关注

    关注

    23

    文章

    4115

    浏览量

    99624

原文标题:什么是 BlueField SuperNIC?

文章出处:【微信号:NVIDIA_China,微信公众号:NVIDIA英伟达】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    Vera rubin平台即将交付,英伟达800VDC电源方案进展如何?

    ,Vera Rubin POD通过将负责计算、网络和存储功能的七种芯片(包括Rubin GPU、Vera CPU、NVLink 6 Switch、ConnectX-9 SuperNIC
    的头像 发表于 03-23 00:44 7762次阅读
    Vera rubin平台即将交付,英伟达800VDC电源方案进展如何?

    东芝TC58NVG0S3HTA00:1G位NAND E2PROM的深度解析

    东芝TC58NVG0S3HTA00:1G位NAND E2PROM的深度解析 在电子设备开发领域,存储芯片是至关重要的组件,它直接影响着设备的数据存储能力和性能。今天,我们要深入探讨的是东芝的TC58NVG0S3HTA00,一款1G位的NAND E2PROM,看看它有哪些独特之处和应用潜力。 文件下载: TC58NVG0S3HTA00.pdf 芯片概述 TC58NVG0S3HTA00是一款采用3.3V单电源供电的1G位(1,140,850,688位)NAND电可擦除可编程只读存储器(NAND E2PROM)。它的存储结构为(2048 + 128)字节 × 64页 × 1024块,拥有2176字节的静态寄存
    的头像 发表于 04-26 13:40 13次阅读

    探索XCL206评估板:内置电感的降压DC/DC转换器

    探索XCL206评估板:内置电感的降压DC/DC转换器 在电子设计领域,高效稳定的电源供应至关重要。今天,我们来深入了解一下TOIREX的XCL206评估板,这是一款内置电感的降压DC/DC转换器,具有诸多出色的特性。 文件下载: XCL206B123-EVB.pdf 一、产品概述 XCL206系列是一款同步降压DC/DC转换器,它将电感和控制IC集成在一个2.5mm x 2.0mm、高度仅为1.0mm的微小封装中。只需外部连接两个电容器,就能配置出输出电流为600mA的稳定电源。其工作电压范围为2.0V至6.0V,输出电
    的头像 发表于 04-26 13:40 9次阅读

    2026年SAP转型7大关键趋势:Bluefield、AI 驱动与 RISE 私有云主流化

    2026年SAP转型技术升级重点:Bluefield替代Greenfield、非SAP系统整合、AI贯穿转型全流程、零停机策略落地。拆解技术核心要点,助力开发者适配SAP现代化转型需求,提升实操效率。
    的头像 发表于 04-14 08:44 91次阅读

    Supermicro率先发布NVIDIA BlueField-4 STX存储服务器,提升AI推理性能

    Vera CPU和NVIDIA ConnectX-9 SuperNIC。 Supermicro的这款存储服务器基于去年推出的、采用NVIDIA BlueField-3的Petascale JBOF全
    的头像 发表于 03-19 15:46 180次阅读
    Supermicro率先发布NVIDIA <b class='flag-5'>BlueField</b>-4 STX存储服务器,提升AI推理性能

    NVIDIA推出BlueField-4 STX存储架构

    NVIDIA 今日宣布推出 NVIDIA BlueField-4® STX 模块化参考架构,该架构可助力企业、云计算及 AI 服务商轻松部署加速存储基础设施,以满足代理式 AI 所需的长上下文推理能力。
    的头像 发表于 03-18 14:40 274次阅读

    每块GPU对应16TB SSD,英伟达KV缓存虹吸高性能TLC SSD

    作者:黄晶晶   不久前,英伟达宣布其Vera Rubin平台将采用搭载BlueField-4芯片的ICMS架构,通过卸载KV Cache突破内存瓶颈、提升AI推理性能。该架构单台服务器每个GPU需
    的头像 发表于 02-10 11:12 1.4w次阅读

    NVIDIA BlueField-4为推理上下文记忆存储平台提供强大支持

    随着代理式 AI 工作流将上下文窗口扩展到数百万个 token,并将模型规模扩展到数百万亿个参数,AI 原生企业正面临着越来越多的扩展挑战。这些系统目前依赖于智能体长期记忆来存储跨多轮、工具和会话持续保存的上下文,以便智能体能够基于先前的推理进行构建,而不是每次请求都从头开始。
    的头像 发表于 02-02 10:29 1296次阅读
    NVIDIA <b class='flag-5'>BlueField</b>-4为推理上下文记忆存储平台提供强大支持

    NVIDIA BlueField-4数据处理器重塑新型AI原生存储基础设施

    NVIDIA 宣布,NVIDIA BlueField®-4 数据处理器作为全栈 NVIDIA BlueField 平台的一部分,为 NVIDIA 推理上下文记忆存储平台提供支持,这是一种新型 AI 原生存储基础设施,专为 AI 新前沿而打造。
    的头像 发表于 01-09 10:33 643次阅读

    NVIDIA在CES 2026发布新一代Rubin AI平台

    通过跨 NVIDIA Vera CPU、Rubin GPU、NVLink 6 交换机、ConnectX-9 SuperNICBlueField-4 DPU 和 Spectrum-6 以太网交换机的极致协同设计,大幅缩短训练时间,降低推理 token 生成成本。
    的头像 发表于 01-09 10:23 807次阅读

    NVIDIA在ISC 2025分享最新超级计算进展

    从 NVIDIA DGX Spark 到 NVIDIA BlueField-4 DPU,新一代网络和量子技术实现了飞跃。在 SC25 上展示的加速系统突显了全球超级计算和 AI 的进展。
    的头像 发表于 11-25 10:59 1100次阅读
    NVIDIA在ISC 2025分享最新超级计算进展

    NVIDIA推出全新BlueField-4 DPU

    全新 NVIDIA BlueField DPU 具有 800Gb/s 的吞吐量,其集成的 NVIDIA ConnectX-9 SuperNIC 和 NVIDIA DOCA 微服务为 AI 数据存储、网络和安全带来突破性的加速。
    的头像 发表于 11-03 14:48 1219次阅读

    基于NVIDIA BlueField DPU的5G UPF数据面加速方案

    在第三届 NVIDIA DPU 黑客松竞赛中,我们见证了开发者与 NVIDIA 网络技术的深度碰撞。在 23 支参赛队伍中,有 5 支队伍脱颖而出,展现了在 AI 网络、存储和安全等领域的创新突破。
    的头像 发表于 09-04 11:26 1393次阅读

    NVIDIA DOCA 3.0版本的亮点解析

    NVIDIA DOCA 框架已发展成为新一代 AI 基础设施的重要组成部分。从初始版本到备受期待的 NVIDIA DOCA 3.0 发布,每个版本都扩展了 NVIDIA BlueField DPU 和 ConnectX SuperNIC 的功能,从而实现了前所未有的 AI
    的头像 发表于 07-04 14:27 1391次阅读
    NVIDIA DOCA 3.0版本的亮点解析

    第三届NVIDIA DPU黑客松开启报名

    碰撞的绝佳机会。本次竞赛采用开放式主题,参与者将通过 NVIDIA DOCA 软件框架构建创新的加速应用程序,充分挖掘 NVIDIA BlueField DPU 在 AI、网络、存储和安全等领域的强大潜能。
    的头像 发表于 05-27 10:16 1013次阅读