0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

NVLink的演进:从内部互联到超级网络

汽车电子设计 来源:芝能智芯出品 2024-04-13 11:22 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

随着人工智能AI)技术的迅猛发展,对于高效、快速的数据传输和处理变得越来越迫切。英伟达的NVLink技术一直处于技术前沿,不断推动着GPU之间和GPU与其他组件之间的互联效率。

本文将介绍NVLink的演进历程,从最初的内部互联到如今的超级网络,探索其在AI芯片架构中的重要作用。

4916d020-f939-11ee-a297-92fbcf53809c.png

Part 1

NVLink的起源

NVLink是NVIDIA开发的一种高速、低延迟的互联技术,旨在连接多个GPU以实现高性能并行计算。与传统的PCIe总线相比,NVLink提供了更高的带宽和更低的延迟,使得GPU之间可以更加高效地共享数据和通信

49289116-f939-11ee-a297-92fbcf53809c.png

NVLink最初的目标是解决GPU之间的互联问题。早期的GPU一定需要保留与CPU互联的PCIe接口,因此NVLink自然而然地继承了这一技术。

NVLink利用了Ethernet生态的成熟互联技术,但并未完全遵循Ethernet的规范,采用了不同的调制方式以降低时延。这使得NVLink在速率和时延上都具有优势,逐渐成为了PCIe的竞争对手。

NVLink采用了基于差分信号线的高速串行通信技术,通过将多个Sub-Link(子链接)组合成Port(端口),实现GPU之间的快速数据传输。每个Port由多个Sub-Link组成,每个Sub-Link都由一对差分信号线构成,可以实现高达几百Gbps的传输速率。NVLink还支持内存一致性和直接内存访问(DMA),进一步提高了数据传输效率和计算性能。

Part 2

NVLink的发展

NVLink 首次作为与 NVIDIA P100 GPU 的 GPU 互连推出,并与每个新的 NVIDIA GPU 架构保持同步发展。随着技术的不断发展,NVLink逐渐走出了盒子和机框,成为了一个独立的网络设备,对标InfiniBand和Ethernet网络。

每一代NVLink的速率都会是上一代的1.5到2倍,未来NVLink5.0预计将采用更高的速率,如200G每通道。同时,NVLink在带宽指标上对PCIe形成了碾压式的竞争优势,不断拓展着其应用领域。

494aabc0-f939-11ee-a297-92fbcf53809c.png

NVLink的发展经历了多个版本,每一代都在带宽、延迟和能效方面有所提升。新的NVLink带宽比上一代提高了两倍,这意味着数据传输更快,GPU之间的协作更加高效。第五代NVLink还在总带宽和性能方面有所提升。

NVSwitch3芯片集成了SHARP功能,对多个GPU单元的计算结果进行聚合和更新,减少网络数据包并提高计算性能。这些改进使得第五代NVLink在多GPU系统中的应用更加高效和灵活。

NVLink将继续发挥重要作用,随着AI芯片架构的不断演进,NVLink将进一步优化其性能和效率。NVLink的未来发展方向可能包括更高速率的互联技术以及更广泛的应用场景,从而满足不断增长的数据处理需求。

小结

NVLink是一种由NVIDIA开发并推出的高速连接技术,作为Nvidia的核心技术之一,在AI芯片领域扮演着至关重要的角色。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • gpu
    gpu
    +关注

    关注

    28

    文章

    5271

    浏览量

    136068
  • PCIe
    +关注

    关注

    16

    文章

    1479

    浏览量

    88917
  • 英伟达
    +关注

    关注

    23

    文章

    4115

    浏览量

    99613

原文标题:NVLink的演进:从内部互联到超级网络

文章出处:【微信号:QCDZSJ,微信公众号:汽车电子设计】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    800V DC 架构革命: Blackwell Rubin 的电力底座演进

    800V DC 架构革命: Blackwell Rubin 的电力底座演进 核心摘要与产业背景 人工智能技术的全球性爆发,特别是参数量呈指数级增长的大型语言模型(LLM)与多模态生成式 AI
    的头像 发表于 04-13 11:48 233次阅读
    800V DC 架构革命:<b class='flag-5'>从</b> Blackwell <b class='flag-5'>到</b> Rubin 的电力底座<b class='flag-5'>演进</b>

    BNCSMP:射频连接器小型化演进,如何满足卫星互联网终端需求?

    频率方向演进。相比传统接口,SMP连接器在尺寸、频率性能以及模块化连接能力方面具有明显优势,特别适合应用在卫星通信终端及高频射频模块中。随着低轨卫星网络建设持续推进
    的头像 发表于 03-27 08:47 192次阅读
    <b class='flag-5'>从</b>BNC<b class='flag-5'>到</b>SMP:射频连接器小型化<b class='flag-5'>演进</b>,如何满足卫星<b class='flag-5'>互联</b>网终端需求?

    网络技术的演进与革新:虚拟化全栈智能互联

    前言在传统IT架构中,网络核心是物理设备集群,服务器通信依赖网线、光纤连接,流量管控与访问控制完全依托路由器、交换机实现。随着云计算技术的兴起,网络形态发生根本性变革——云网络不仅涵盖传统物理硬件
    的头像 发表于 01-16 14:06 674次阅读
    云<b class='flag-5'>网络</b>技术的<b class='flag-5'>演进</b>与革新:<b class='flag-5'>从</b>虚拟化<b class='flag-5'>到</b>全栈智能<b class='flag-5'>互联</b>

    Wi-Fi几乎渗透所有需要无线连接的场景中,是构建本地无线网络的首选技术。

    高速数据交换与互联网访问,已成为现代生活中不可或缺的无线连接方式。 二、Wi-Fi的核心特点 高速率,宽带宽 支持几十Mbps数Gbps的传输速率,满足高清视频、在线游戏等高带宽应用需求。 2.
    发表于 12-08 17:23

    企业网络架构全景:全球化互联云边协同的演进之路

    前言在全球化与数字化转型的双重浪潮下,企业网络架构已不仅是支撑业务运营的基石,更是驱动企业出海、实现全球资源整合与业务协同的核心引擎。面对全球业务布局、应用云化与安全威胁等趋势,企业需构建一张具备
    的头像 发表于 11-24 13:37 1474次阅读
    企业<b class='flag-5'>网络</b>架构全景:<b class='flag-5'>从</b>全球化<b class='flag-5'>互联</b><b class='flag-5'>到</b>云边协同的<b class='flag-5'>演进</b>之路

    5G与6G:“万物互联“智能无界“的跨越

    传感器将实现对环境的实时监测,为气候变化研究提供精准数据。 5G6G,通信技术的进化之路 5G与6G的差异,不仅仅是数字上的变化,更是通信理念的升级。5G为我们打开了\"万物互联
    发表于 10-10 13:59

    丝杆模组结构应用,有哪些核心类型?

    数控机床机器人关节,3D打印到医疗设备,丝杆模组的技术演进始终与产业升级同频共振。
    的头像 发表于 10-09 17:48 793次阅读
    丝杆模组<b class='flag-5'>从</b>结构<b class='flag-5'>到</b>应用,有哪些核心类型?

    智能家居:设备互联智慧感知的技术演进

    的背后,是智能家居技术的飞速发展与深度融合。其核心,已从最初的简单互联演进为以人工智能、大数据和物联网为驱动的智慧感知新阶段。 技术基石:物联网与互联生态 智能家居的根基是物联网技术。通过内置的Wi-Fi、蓝牙或Zigbee等
    的头像 发表于 09-28 16:37 723次阅读

    使用NVIDIA NVLink Fusion技术提升AI推理性能

    本文详细阐述了 NVIDIA NVLink Fusion 如何借助高效可扩展的 NVIDIA NVLink scale-up 架构技术,满足日益复杂的 AI 模型不断增长的需求。
    的头像 发表于 09-23 14:45 1111次阅读
    使用NVIDIA <b class='flag-5'>NVLink</b> Fusion技术提升AI推理性能

    RFID系统:静态标识智能互联的产业跃迁

    当每一台设备、每一件商品都拥有“数字基因”,实体资产与数字世界的对话便悄然开启——RFID系统正以无声之势重构企业管理底层逻辑,传统的识别工具演进为驱动智能决策的核心引擎。 一、技术演进
    的头像 发表于 09-09 11:16 499次阅读

    2D 3.5D 封装演进中焊材的应用与发展

    2D 3.5D 封装的演进过程中,锡膏、助焊剂、银胶、烧结银等焊材不断创新和发展,以适应日益复杂的封装结构和更高的性能要求。作为焊材生产企业,紧跟封装技术发展趋势,持续投入研发,开发出更高效、更可靠、更环保的焊材产品,将
    的头像 发表于 08-11 15:45 1903次阅读
    <b class='flag-5'>从</b> 2D <b class='flag-5'>到</b> 3.5D 封装<b class='flag-5'>演进</b>中焊材的应用与发展

    【「算力芯片 | 高性能 CPU/GPU/NPU 微架构分析」阅读体验】+NVlink技术应用到原理

    自家GPU 提出的多卡算力互连技术,是早期为了应对深度学习对超高算力需求而单卡算力不足的局面的解决方案,当然这都是官方用来吹牛的话术。我自己在2019年左右第一次接触到多卡交火的GIY玩法(学生
    发表于 06-18 19:31

    NVIDIA推出NVLink Fusion技术

    NVIDIA 发布 NVIDIA NVLink Fusion,这款全新芯片将助力行业用户通过全球领先且广泛采用的计算互连架构 —— NVIDIA NVLink 打造的强健合作伙伴生态系统,构建半定制 AI 基础设施。
    的头像 发表于 05-22 09:59 1014次阅读

    动态IP技术演进网络基石智能连接时代的创新引擎

    在万物互联的智能时代,IP地址早已突破"网络身份证"的单一属性,成为支撑数字化变革的核心基础设施。动态IP技术作为网络资源分配的底层逻辑,正经历着工具性功能向智能化服务的深刻转型。本
    的头像 发表于 05-20 16:16 840次阅读

    NVIDIA NVLink 深度解析

    引言 NVIDIA NVLink 是一种关键的高速互连技术,专为加速计算而设计,尤其是在多 GPU 系统以及 GPU 和支持 CPU 之间 ^1^。NVLink 的出现标志着传统互连瓶颈的突破,凸显
    的头像 发表于 05-06 18:14 5748次阅读