0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

NVLink的演进:从内部互联到超级网络

汽车电子设计 来源:芝能智芯出品 2024-04-13 11:22 次阅读

随着人工智能AI)技术的迅猛发展,对于高效、快速的数据传输和处理变得越来越迫切。英伟达的NVLink技术一直处于技术前沿,不断推动着GPU之间和GPU与其他组件之间的互联效率。

本文将介绍NVLink的演进历程,从最初的内部互联到如今的超级网络,探索其在AI芯片架构中的重要作用。

4916d020-f939-11ee-a297-92fbcf53809c.png

Part 1

NVLink的起源

NVLink是NVIDIA开发的一种高速、低延迟的互联技术,旨在连接多个GPU以实现高性能并行计算。与传统的PCIe总线相比,NVLink提供了更高的带宽和更低的延迟,使得GPU之间可以更加高效地共享数据和通信

49289116-f939-11ee-a297-92fbcf53809c.png

NVLink最初的目标是解决GPU之间的互联问题。早期的GPU一定需要保留与CPU互联的PCIe接口,因此NVLink自然而然地继承了这一技术。

NVLink利用了Ethernet生态的成熟互联技术,但并未完全遵循Ethernet的规范,采用了不同的调制方式以降低时延。这使得NVLink在速率和时延上都具有优势,逐渐成为了PCIe的竞争对手。

NVLink采用了基于差分信号线的高速串行通信技术,通过将多个Sub-Link(子链接)组合成Port(端口),实现GPU之间的快速数据传输。每个Port由多个Sub-Link组成,每个Sub-Link都由一对差分信号线构成,可以实现高达几百Gbps的传输速率。NVLink还支持内存一致性和直接内存访问(DMA),进一步提高了数据传输效率和计算性能。

Part 2

NVLink的发展

NVLink 首次作为与 NVIDIA P100 GPU 的 GPU 互连推出,并与每个新的 NVIDIA GPU 架构保持同步发展。随着技术的不断发展,NVLink逐渐走出了盒子和机框,成为了一个独立的网络设备,对标InfiniBand和Ethernet网络。

每一代NVLink的速率都会是上一代的1.5到2倍,未来NVLink5.0预计将采用更高的速率,如200G每通道。同时,NVLink在带宽指标上对PCIe形成了碾压式的竞争优势,不断拓展着其应用领域。

494aabc0-f939-11ee-a297-92fbcf53809c.png

NVLink的发展经历了多个版本,每一代都在带宽、延迟和能效方面有所提升。新的NVLink带宽比上一代提高了两倍,这意味着数据传输更快,GPU之间的协作更加高效。第五代NVLink还在总带宽和性能方面有所提升。

NVSwitch3芯片集成了SHARP功能,对多个GPU单元的计算结果进行聚合和更新,减少网络数据包并提高计算性能。这些改进使得第五代NVLink在多GPU系统中的应用更加高效和灵活。

NVLink将继续发挥重要作用,随着AI芯片架构的不断演进,NVLink将进一步优化其性能和效率。NVLink的未来发展方向可能包括更高速率的互联技术以及更广泛的应用场景,从而满足不断增长的数据处理需求。

小结

NVLink是一种由NVIDIA开发并推出的高速连接技术,作为Nvidia的核心技术之一,在AI芯片领域扮演着至关重要的角色。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • gpu
    gpu
    +关注

    关注

    27

    文章

    4424

    浏览量

    126724
  • PCIe
    +关注

    关注

    13

    文章

    1083

    浏览量

    80882
  • 英伟达
    +关注

    关注

    22

    文章

    3332

    浏览量

    87804

原文标题:NVLink的演进:从内部互联到超级网络

文章出处:【微信号:QCDZSJ,微信公众号:汽车电子设计】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    全面解读英伟达NVLink技术

    NVLink是一种解决服务器内GPU之间通信限制的协议。与传统的PCIe交换机不同,NVLink带宽有限,可以在服务器内的GPU之间实现高速直接互连。第四代NVLink提供更高的带宽,每条通道达到112Gbps,比PCIe Ge
    发表于 04-22 11:01 91次阅读
    全面解读英伟达<b class='flag-5'>NVLink</b>技术

    什么是NVIDIA?InfiniBand网络VSNVLink网络

    NVSwitch物理交换机将多个NVLink GPU服务器连接成一个大型Fabric网络,即NVLink网络,解决了GPU之间的高速通信带宽和效率问题。
    发表于 04-16 09:56 162次阅读
    什么是NVIDIA?InfiniBand<b class='flag-5'>网络</b>VSNVLink<b class='flag-5'>网络</b>

    光纤网络向全IP传送网演进过程

    电子发烧友网站提供《光纤网络向全IP传送网演进过程.pdf》资料免费下载
    发表于 11-10 14:53 0次下载
    光纤<b class='flag-5'>网络</b>向全IP传送网<b class='flag-5'>演进</b>过程

    什么是 NVLink?

    什么是 NVLink?
    的头像 发表于 10-27 16:10 349次阅读
    什么是 <b class='flag-5'>NVLink</b>?

    详解PCIe和NVLink两种互联技术

    计算机网络通信中两个重要的衡量指标是带宽和延迟,AI 网络也是如此。在向百亿级及以上规模的发展过程中,影响AI计算集群性能的关键并不只在于单个芯片的处理速度,每个芯片之间的通信速度也尤为重要。
    的头像 发表于 10-17 11:25 1w次阅读
    详解PCIe和<b class='flag-5'>NVLink</b>两种<b class='flag-5'>互联</b>技术

    NVLink演进

    2014年,NVLink 1.0发布,并应用在P100芯片上,如下图所示。两颗GPU之间有4条NVlink, 每个link中包含8个lane, 每条lane的速率是20Gb/s, 因此整个系统的双向带宽为160GB/s,是PCIe3 x16带宽的5倍。
    的头像 发表于 10-11 15:32 1309次阅读
    <b class='flag-5'>NVLink</b>的<b class='flag-5'>演进</b>

    AI引擎编程:卡恩进程网络演进

    电子发烧友网站提供《AI引擎编程:卡恩进程网络演进.pdf》资料免费下载
    发表于 09-13 17:24 0次下载
    AI引擎编程:卡恩进程<b class='flag-5'>网络</b><b class='flag-5'>演进</b>

    黄仁勋有望公布DGX-GH200 AI超级计算机更多消息

    英伟达于2023年5月发布的dgx-gh200 ai超级计算机使用nvlink技术,拥有256个gh200超级芯片,运算速度为1 exaplop(100亿次),内存为144兆字节。
    的头像 发表于 08-08 11:37 454次阅读

    5G-A通感融合网络架构及演进研究

    5G-A通感融合网络架构是当前业界的研究热点,未来多样化的新业务需求和技术挑战将对网络提出更高的要求,推动5G-A通感融合网络架构持续演进。首先介绍了目前5G-A阶段业内主流的3种通感
    的头像 发表于 07-10 14:25 1831次阅读
    5G-A通感融合<b class='flag-5'>网络</b>架构及<b class='flag-5'>演进</b>研究

    一文解析Nvlink的诞生和技术演进历程

    Nvlink-C2C是个错误的技术路径。 我仿佛记得Nvlink-C2C的主架构师Wei wei是我大学同学 ?有这么个模糊印象。 如果单纯从技术的角度,Nvlink-C2C真的是一个恰到好处的设计,挺佩服的。增之一分则太长,减
    发表于 07-03 11:50 3543次阅读
    一文解析<b class='flag-5'>Nvlink</b>的诞生和技术<b class='flag-5'>演进</b>历程

    互联移动互联网(下)(3)#计算机网络

    计算机网络
    未来加油dz
    发布于 :2023年06月06日 11:30:35

    NVIDIA推出DGX GH200 AI超级计算机

    ——2023年5月29日—— NVIDIA今天宣布推出一款新型大内存AI超级计算机——由NVIDIA® GH200 Grace Hopper超级芯片和NVIDIA NVLink® Switch System
    发表于 05-30 14:15 450次阅读
    NVIDIA推出DGX GH200 AI<b class='flag-5'>超级</b>计算机

    COMPUTEX2023 | NVIDIA 推出 DGX GH200 AI 超级计算机

    —2023 年 5 月 29 日— NVIDIA 今天宣布推出一款新型大内存 AI 超级计算机——由 NVIDIA GH200 Grace Hopper 超级芯片和 NVIDIA NVLink
    的头像 发表于 05-30 01:40 1517次阅读
    COMPUTEX2023 | NVIDIA 推出 DGX GH200 AI <b class='flag-5'>超级</b>计算机

    如何S32G上的GMAC0以太网端口共享互联其他以太网端口?

    我已经刷新了 SJA1110 固件,但无法 GMAC0 端口共享互联连接到 S32G 以太网端口的其他设备
    发表于 05-24 07:40

    如何通过wifiC329相机获取图像用户的屏幕,是直接wifi链接,还是通过互联网?

    我想知道如何通过 wifi C329 相机获取图像用户的屏幕,是直接 wifi 链接,还是通过互联网? IMAGE 命令要求是:“图像文件应使用文件管理器上传到设备”,因此不是动态的。 是否有
    发表于 05-10 09:44