0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

NVLink的演进:从内部互联到超级网络

汽车电子设计 来源:芝能智芯出品 2024-04-13 11:22 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

随着人工智能AI)技术的迅猛发展,对于高效、快速的数据传输和处理变得越来越迫切。英伟达的NVLink技术一直处于技术前沿,不断推动着GPU之间和GPU与其他组件之间的互联效率。

本文将介绍NVLink的演进历程,从最初的内部互联到如今的超级网络,探索其在AI芯片架构中的重要作用。

4916d020-f939-11ee-a297-92fbcf53809c.png

Part 1

NVLink的起源

NVLink是NVIDIA开发的一种高速、低延迟的互联技术,旨在连接多个GPU以实现高性能并行计算。与传统的PCIe总线相比,NVLink提供了更高的带宽和更低的延迟,使得GPU之间可以更加高效地共享数据和通信

49289116-f939-11ee-a297-92fbcf53809c.png

NVLink最初的目标是解决GPU之间的互联问题。早期的GPU一定需要保留与CPU互联的PCIe接口,因此NVLink自然而然地继承了这一技术。

NVLink利用了Ethernet生态的成熟互联技术,但并未完全遵循Ethernet的规范,采用了不同的调制方式以降低时延。这使得NVLink在速率和时延上都具有优势,逐渐成为了PCIe的竞争对手。

NVLink采用了基于差分信号线的高速串行通信技术,通过将多个Sub-Link(子链接)组合成Port(端口),实现GPU之间的快速数据传输。每个Port由多个Sub-Link组成,每个Sub-Link都由一对差分信号线构成,可以实现高达几百Gbps的传输速率。NVLink还支持内存一致性和直接内存访问(DMA),进一步提高了数据传输效率和计算性能。

Part 2

NVLink的发展

NVLink 首次作为与 NVIDIA P100 GPU 的 GPU 互连推出,并与每个新的 NVIDIA GPU 架构保持同步发展。随着技术的不断发展,NVLink逐渐走出了盒子和机框,成为了一个独立的网络设备,对标InfiniBand和Ethernet网络。

每一代NVLink的速率都会是上一代的1.5到2倍,未来NVLink5.0预计将采用更高的速率,如200G每通道。同时,NVLink在带宽指标上对PCIe形成了碾压式的竞争优势,不断拓展着其应用领域。

494aabc0-f939-11ee-a297-92fbcf53809c.png

NVLink的发展经历了多个版本,每一代都在带宽、延迟和能效方面有所提升。新的NVLink带宽比上一代提高了两倍,这意味着数据传输更快,GPU之间的协作更加高效。第五代NVLink还在总带宽和性能方面有所提升。

NVSwitch3芯片集成了SHARP功能,对多个GPU单元的计算结果进行聚合和更新,减少网络数据包并提高计算性能。这些改进使得第五代NVLink在多GPU系统中的应用更加高效和灵活。

NVLink将继续发挥重要作用,随着AI芯片架构的不断演进,NVLink将进一步优化其性能和效率。NVLink的未来发展方向可能包括更高速率的互联技术以及更广泛的应用场景,从而满足不断增长的数据处理需求。

小结

NVLink是一种由NVIDIA开发并推出的高速连接技术,作为Nvidia的核心技术之一,在AI芯片领域扮演着至关重要的角色。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • gpu
    gpu
    +关注

    关注

    28

    文章

    5102

    浏览量

    134481
  • PCIe
    +关注

    关注

    16

    文章

    1423

    浏览量

    87569
  • 英伟达
    +关注

    关注

    23

    文章

    4044

    浏览量

    97700

原文标题:NVLink的演进:从内部互联到超级网络

文章出处:【微信号:QCDZSJ,微信公众号:汽车电子设计】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    Wi-Fi几乎渗透所有需要无线连接的场景中,是构建本地无线网络的首选技术。

    高速数据交换与互联网访问,已成为现代生活中不可或缺的无线连接方式。 二、Wi-Fi的核心特点 高速率,宽带宽 支持几十Mbps数Gbps的传输速率,满足高清视频、在线游戏等高带宽应用需求。 2.
    发表于 12-08 17:23

    企业网络架构全景:全球化互联云边协同的演进之路

    前言在全球化与数字化转型的双重浪潮下,企业网络架构已不仅是支撑业务运营的基石,更是驱动企业出海、实现全球资源整合与业务协同的核心引擎。面对全球业务布局、应用云化与安全威胁等趋势,企业需构建一张具备
    的头像 发表于 11-24 13:37 891次阅读
    企业<b class='flag-5'>网络</b>架构全景:<b class='flag-5'>从</b>全球化<b class='flag-5'>互联</b><b class='flag-5'>到</b>云边协同的<b class='flag-5'>演进</b>之路

    5G与6G:“万物互联“智能无界“的跨越

    传感器将实现对环境的实时监测,为气候变化研究提供精准数据。 5G6G,通信技术的进化之路 5G与6G的差异,不仅仅是数字上的变化,更是通信理念的升级。5G为我们打开了\"万物互联
    发表于 10-10 13:59

    丝杆模组结构应用,有哪些核心类型?

    数控机床机器人关节,3D打印到医疗设备,丝杆模组的技术演进始终与产业升级同频共振。
    的头像 发表于 10-09 17:48 446次阅读
    丝杆模组<b class='flag-5'>从</b>结构<b class='flag-5'>到</b>应用,有哪些核心类型?

    智能家居:设备互联智慧感知的技术演进

    的背后,是智能家居技术的飞速发展与深度融合。其核心,已从最初的简单互联演进为以人工智能、大数据和物联网为驱动的智慧感知新阶段。 技术基石:物联网与互联生态 智能家居的根基是物联网技术。通过内置的Wi-Fi、蓝牙或Zigbee等
    的头像 发表于 09-28 16:37 520次阅读

    使用NVIDIA NVLink Fusion技术提升AI推理性能

    本文详细阐述了 NVIDIA NVLink Fusion 如何借助高效可扩展的 NVIDIA NVLink scale-up 架构技术,满足日益复杂的 AI 模型不断增长的需求。
    的头像 发表于 09-23 14:45 599次阅读
    使用NVIDIA <b class='flag-5'>NVLink</b> Fusion技术提升AI推理性能

    RFID系统:静态标识智能互联的产业跃迁

    当每一台设备、每一件商品都拥有“数字基因”,实体资产与数字世界的对话便悄然开启——RFID系统正以无声之势重构企业管理底层逻辑,传统的识别工具演进为驱动智能决策的核心引擎。 一、技术演进
    的头像 发表于 09-09 11:16 239次阅读

    2D 3.5D 封装演进中焊材的应用与发展

    2D 3.5D 封装的演进过程中,锡膏、助焊剂、银胶、烧结银等焊材不断创新和发展,以适应日益复杂的封装结构和更高的性能要求。作为焊材生产企业,紧跟封装技术发展趋势,持续投入研发,开发出更高效、更可靠、更环保的焊材产品,将
    的头像 发表于 08-11 15:45 1254次阅读
    <b class='flag-5'>从</b> 2D <b class='flag-5'>到</b> 3.5D 封装<b class='flag-5'>演进</b>中焊材的应用与发展

    【「算力芯片 | 高性能 CPU/GPU/NPU 微架构分析」阅读体验】+NVlink技术应用到原理

    自家GPU 提出的多卡算力互连技术,是早期为了应对深度学习对超高算力需求而单卡算力不足的局面的解决方案,当然这都是官方用来吹牛的话术。我自己在2019年左右第一次接触到多卡交火的GIY玩法(学生
    发表于 06-18 19:31

    聚徽智控——嵌入式边缘计算:平板工控电脑的技术进化论

    在工业数字化转型的浪潮中,平板工控电脑作为核心终端设备,正经历嵌入式系统边缘计算架构的范式革命。这一进化不仅重塑了设备的技术形态,更推动了工业互联“数据采集”向“智能决策”的跨越
    的头像 发表于 06-13 13:48 604次阅读

    NVIDIA特供芯片B30曝光,没有HBM,没有NVLink

    中取消了NVLink支持,因此B30是否支持NVLink目前还不能确定。有消息称B30芯片的多GPU互联功能可
    的头像 发表于 06-04 00:13 4356次阅读

    NVIDIA推出NVLink Fusion技术

    NVIDIA 发布 NVIDIA NVLink Fusion,这款全新芯片将助力行业用户通过全球领先且广泛采用的计算互连架构 —— NVIDIA NVLink 打造的强健合作伙伴生态系统,构建半定制 AI 基础设施。
    的头像 发表于 05-22 09:59 716次阅读

    动态IP技术演进网络基石智能连接时代的创新引擎

    在万物互联的智能时代,IP地址早已突破"网络身份证"的单一属性,成为支撑数字化变革的核心基础设施。动态IP技术作为网络资源分配的底层逻辑,正经历着工具性功能向智能化服务的深刻转型。本
    的头像 发表于 05-20 16:16 451次阅读

    NVIDIA NVLink 深度解析

    引言 NVIDIA NVLink 是一种关键的高速互连技术,专为加速计算而设计,尤其是在多 GPU 系统以及 GPU 和支持 CPU 之间 ^1^。NVLink 的出现标志着传统互连瓶颈的突破,凸显
    的头像 发表于 05-06 18:14 4134次阅读

    CPUGPU:渲染技术的演进和趋势

    渲染技术是计算机图形学的核心内容之一,它是将三维场景转换为二维图像的过程。渲染技术一直在不断演进最初的CPU渲染后来的GPU渲染,性能和质量都有了显著提升。一、CPU
    的头像 发表于 02-21 11:11 1382次阅读
    <b class='flag-5'>从</b>CPU<b class='flag-5'>到</b>GPU:渲染技术的<b class='flag-5'>演进</b>和趋势