0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

PCIe 6.0元年,AI与HPC迎来新速度

E4Life 来源:电子发烧友网 作者:周凯扬 2024-01-31 09:02 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

电子发烧友网报道(文/周凯扬)2022年1月,PCI-SIG发布了PCIe 6.0规范,正式拉开了接口带宽大幅升级的序幕。然而,在规范公布的两年时间里,也已经更新了6.0.1和6.1版本,PCIe 6.0似乎在设计层面上已经完善了。但我们这期间并没有看到PCIe 6.0产品的实际落地,甚至PCIe 5.0产品只是在消费级产品小批量落地而已。而在今年三月,根据PCI-SGI的预测,PCIe 6.0的硬件终于快要面世。

AI/ML、HPC和云端图形负载渴求的翻倍带宽

作为从服务器与PC起家的接口,PCIe近几年已经开始辐射到以数据为核心的应用中去,比如IoT、汽车和医疗电子等。从PCIe 3.0开始,每一代接口标准规范都会为速率带来翻倍的提升,PCIe 6.0更是将速率提升至64GT/s,x16单向带宽拔高至256GB/s。

这样的速率或许在IoT应用中显得有些多余,但在时下大热的AI/ML应用中,可以说是大幅提高计算效率的杀手锏。要知道目前爆火的生成式AI应用ChatGPT等,可谓受尽了大量同时访问与需求的困扰,即便H100的带宽再高,在PCIe 5.0下依然计算效率受限,得靠NVLink才能突破限制。

目前的数据中心,尤其是其中的AI服务器,已经成了带宽无底洞。何况对于处理AI/ML训练模型来说,以快制胜可以说是一条市场铁则。更快的带宽意味着生成式AI的并发响应更快,给到更短的文本、图形生成时间,从而进一步提升用户体验。而对于大部分托管/租用服务器的应用开发者来说,这也意味着运营成本大幅降低。

HPC也不例外,在长时间运转的HPC服务器中,带宽就意味着计算效率,尤其是量子力学、分子动力学所用到的软件,所需内存带宽更高。如果没有足够的带宽,就只能分节点来减小不同进程之间的带宽竞争。最后一大痛点是云游戏带来的,对于这种需要多并发高图形负载的运用而言,带宽就决定了云游戏的并发数以及图形质量。

AI/ML会加速PCIe 6.0的落地吗

从PCIe的发展历史来看,平均3到4年就会正式推出新的规范,只有从3.0到4.0经历了7年的漫长的时间,这也是因为彼时的PCIe 3.0已经算是超前的标准,直到2015年后,全球数据流量进入爆发期。此后从4.0演进至5.0花了2年时间,从5.0演进至6.0花了三年时间。据推测,PCIe 7.0规范将在2025年正式推出。

然而我们也发现,基于新标准的PCIe产品在落地速度上并没有那么快。往往最先落地的是AI加速器、SSD等设备,毕竟本地处理速度再快也要网络速度跟上才行。就拿还未实现的800G以太网为例,其所需要的单向带宽也就是100GB/s,正好在PCIe 6.0的带宽覆盖范围内。

所以即便有着AI/ML的推进,今年应该只会有少数PCIe 6.0产品能够落地,且落地场景还是集中在数据中心领域,且先一步用于AI服务器上,这点从PCIe 6.0控制器IP、服务器CPU IP厂商的动向上也可以看出。

写在最后

PCIe 6.0作为目前最先进的接口标准之一,注定会为下一轮计算、存储技术的创新带来设计便利。但我们也应该实时关注市场需求,过去的PCIe能够维持主流接口的地位,正是靠的联合硬件厂商稳步推进市场需求,这个策略在AI时代依旧通用。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 接口
    +关注

    关注

    33

    文章

    9588

    浏览量

    157591
  • AI
    AI
    +关注

    关注

    91

    文章

    40932

    浏览量

    302512
  • PCIe
    +关注

    关注

    16

    文章

    1474

    浏览量

    88895
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    PCIe 7.0发布:16通道双向512GB/s,拥抱光纤未来

    电子发烧友网报道(文 / 吴子鹏)日前,PCI-SIG 宣布正式推出 PCIe 7.0 规范。PCIe 7.0 继续沿用自 PCIe 6.0 引入的 PAM4(四电平脉冲幅度调制)信号
    的头像 发表于 06-13 00:07 7671次阅读
    <b class='flag-5'>PCIe</b> 7.0发布:16通道双向512GB/s,拥抱光纤未来

    PCIe 6.0 连载 · 中篇】从设计到实现:高速信号如何做到又快又稳?

    读懂了PCIe6.0的行业价值,接下来更关键的是:64GT/s的高速信号,如何做到稳定传输?上篇我们讲了“为什么需要PCIe6.0”,本篇作为系列中篇,聚焦工程实现核心,拆解PAM4信号的“脆弱性
    的头像 发表于 04-15 17:34 50次阅读
    【<b class='flag-5'>PCIe</b> <b class='flag-5'>6.0</b> 连载 · 中篇】从设计到实现:高速信号如何做到又快又稳?

    PCIe 6.0 连载 · 上篇】64GT/s 时代来临:AI与算力爆发下的高速互联新基石

    随着AI大模型训练、云计算、高性能存储和异构计算的快速发展,硬件之间的数据传输速度,已经成为制约整体性能的关键瓶颈。无论是数据中心里的服务器、加速卡,还是高端存储、工控设备,总线带宽够不够快,直接
    的头像 发表于 04-08 17:34 262次阅读
    【<b class='flag-5'>PCIe</b> <b class='flag-5'>6.0</b> 连载 · 上篇】64GT/s 时代来临:<b class='flag-5'>AI</b>与算力爆发下的高速互联新基石

    PCIE702-2】PCIe 开发板- XCKU115 FPGA开发板- 高性能数据预处理板

    PCIE702-2 是一款基于 PCIE 总线架构的 XCKU115 FPGA 高性 能数据预处理 平台,该平台具有 1 个 FMC+(HPC)接口,1 路 PCIe x8 主机接口、
    的头像 发表于 03-02 14:20 237次阅读
    【<b class='flag-5'>PCIE</b>702-2】<b class='flag-5'>PCIe</b> 开发板- XCKU115 FPGA开发板- 高性能数据预处理板

    如何突破AI存储墙?深度解析ONFI 6.0高速接口与Chiplet解耦架构

    1. 行业核心痛点:AI“存储墙”危机在大模型训练与推理场景中,算力演进速度远超存储带宽,计算与存储之间的性能鸿沟(存储墙)已成为限制系统能效的关键瓶颈。• Scale-up需求:单节点内需要极高
    发表于 01-29 17:32

    AI眼镜:从“元年”爆发到迈向主流‌

    2025被誉为“AI眼镜元年”,市场迎来爆发式增长。这与近期CES展上智能眼镜的火热相呼应,数据显示,2025Q3中国智能眼镜出货量同比
    的头像 发表于 01-26 11:09 492次阅读
    <b class='flag-5'>AI</b>眼镜:从“<b class='flag-5'>元年</b>”爆发到迈向主流‌

    解码边缘智能元年:四大核心要素引领人工智能进化新方向

    在以人工智能(AI)和机器学习(ML)技术为核心动力的第四次工业革命快速推进之际,诸多新技术、新应用将在2026进入我们生活和工作,为此北京华兴万邦管理咨询有限公司将推出“26元年系列观察”报告
    的头像 发表于 01-22 17:24 1070次阅读
    解码边缘智能<b class='flag-5'>元年</b>:四大核心要素引领人工智能进化新方向

    PCIe协议分析仪的核心功能与工作原理

    AI 数据中心的算力需求呈指数级爆发,PCIe 6.0 已然成为那条不可或缺的“高速公路”。但你是否想过,当双向带宽狂飙至 512 GB/s(PCIe 7.0 规范),信号传输的每
    的头像 发表于 12-10 09:40 3955次阅读
    <b class='flag-5'>PCIe</b>协议分析仪的核心功能与工作原理

    AI眼镜元年杀疯了!4家芯片大厂SoC大战,谁是狠角色?

    2025是智能眼镜市场的爆发元年,全球出货量将突破1400万台,中国市场增速超120%。AI+拍摄眼镜成为主流,运动拍摄类AI眼镜成为新热点,AI
    的头像 发表于 10-31 00:17 1.9w次阅读
    <b class='flag-5'>AI</b>眼镜<b class='flag-5'>元年</b>杀疯了!4家芯片大厂SoC大战,谁是狠角色?

    Microchip推出下一代Switchtec Gen 6 PCIe交换芯片

    随着人工智能(AI)工作负载和高性能计算(HPC)应用对数据传输速度与低延迟的需求持续激增,Microchip Technology Inc.(微芯科技公司)宣布推出下一代Switchtec Gen 6
    的头像 发表于 10-18 11:12 2011次阅读

    PCIe 6.0 SSD主控芯片狂飙!PCIe 7.0规范到来!

      电子发烧友网综合报道,早在20221月,PCI-SIG 组织正式发布了 PCIe 6.0 标准,与 PCIe 5.0 相比带宽再次翻倍,达到64 GT / s。  
    的头像 发表于 09-07 05:41 8565次阅读
    <b class='flag-5'>PCIe</b> <b class='flag-5'>6.0</b> SSD主控芯片狂飙!<b class='flag-5'>PCIe</b> 7.0规范到来!

    PCIe 7.0 Samtec已为您准备好N种互连解决方案

    摘要前言 今年4月,PCIe 7.0 0.9 版本已向 PCI-SIG成员 开放。 PCIe 7.0相比PCIe 6.0 带宽提升一倍 ,原始比特率达到 128 GT/s 。
    的头像 发表于 09-04 11:38 1912次阅读
    <b class='flag-5'>PCIe</b> 7.0   Samtec已为您准备好N种互连解决方案

    曙光存储超级隧道技术助力应对PCIe 6.0时代

    8月29日,聚焦“智存·智算·智能”的第二届CCF中国存储大会在武汉隆重召开。会上,曙光存储副总裁郭照斌宣布,“超级隧道”技术能更好的应对PCIe 6.0时代,为下一代国产芯片效能释放提供加速引擎。
    的头像 发表于 09-03 14:01 673次阅读

    PCIe协议分析仪能测试哪些设备?

    场景:监测GPU与主机之间的PCIe通信,分析数据传输效率、延迟和带宽利用率。 应用价值:优化大规模AI训练任务的数据加载和模型参数同步,例如在多GPU系统中测试PCIe交换机的性能和稳定性。 FPGA
    发表于 07-25 14:09

    携手Synopsys与Keysight C位出道 | Samtec PCIe 6.0 Demo

    新思科技的高级应用工程师雷天语(图中),与Samtec资深FAE胡亚捷(图右),一同参与了本次PCIe 6.0 连接性能的Demo演示。 他
    发表于 05-08 14:07 4290次阅读