0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

PCIe 6.0元年,AI与HPC迎来新速度

E4Life 来源:电子发烧友网 作者:周凯扬 2024-01-31 09:02 次阅读

电子发烧友网报道(文/周凯扬)2022年1月,PCI-SIG发布了PCIe 6.0规范,正式拉开了接口带宽大幅升级的序幕。然而,在规范公布的两年时间里,也已经更新了6.0.1和6.1版本,PCIe 6.0似乎在设计层面上已经完善了。但我们这期间并没有看到PCIe 6.0产品的实际落地,甚至PCIe 5.0产品只是在消费级产品小批量落地而已。而在今年三月,根据PCI-SGI的预测,PCIe 6.0的硬件终于快要面世。

AI/ML、HPC和云端图形负载渴求的翻倍带宽

作为从服务器与PC起家的接口,PCIe近几年已经开始辐射到以数据为核心的应用中去,比如IoT、汽车和医疗电子等。从PCIe 3.0开始,每一代接口标准规范都会为速率带来翻倍的提升,PCIe 6.0更是将速率提升至64GT/s,x16单向带宽拔高至256GB/s。

这样的速率或许在IoT应用中显得有些多余,但在时下大热的AI/ML应用中,可以说是大幅提高计算效率的杀手锏。要知道目前爆火的生成式AI应用ChatGPT等,可谓受尽了大量同时访问与需求的困扰,即便H100的带宽再高,在PCIe 5.0下依然计算效率受限,得靠NVLink才能突破限制。

目前的数据中心,尤其是其中的AI服务器,已经成了带宽无底洞。何况对于处理AI/ML训练模型来说,以快制胜可以说是一条市场铁则。更快的带宽意味着生成式AI的并发响应更快,给到更短的文本、图形生成时间,从而进一步提升用户体验。而对于大部分托管/租用服务器的应用开发者来说,这也意味着运营成本大幅降低。

HPC也不例外,在长时间运转的HPC服务器中,带宽就意味着计算效率,尤其是量子力学、分子动力学所用到的软件,所需内存带宽更高。如果没有足够的带宽,就只能分节点来减小不同进程之间的带宽竞争。最后一大痛点是云游戏带来的,对于这种需要多并发高图形负载的运用而言,带宽就决定了云游戏的并发数以及图形质量。

AI/ML会加速PCIe 6.0的落地吗

从PCIe的发展历史来看,平均3到4年就会正式推出新的规范,只有从3.0到4.0经历了7年的漫长的时间,这也是因为彼时的PCIe 3.0已经算是超前的标准,直到2015年后,全球数据流量进入爆发期。此后从4.0演进至5.0花了2年时间,从5.0演进至6.0花了三年时间。据推测,PCIe 7.0规范将在2025年正式推出。

然而我们也发现,基于新标准的PCIe产品在落地速度上并没有那么快。往往最先落地的是AI加速器、SSD等设备,毕竟本地处理速度再快也要网络速度跟上才行。就拿还未实现的800G以太网为例,其所需要的单向带宽也就是100GB/s,正好在PCIe 6.0的带宽覆盖范围内。

所以即便有着AI/ML的推进,今年应该只会有少数PCIe 6.0产品能够落地,且落地场景还是集中在数据中心领域,且先一步用于AI服务器上,这点从PCIe 6.0控制器IP、服务器CPU IP厂商的动向上也可以看出。

写在最后

PCIe 6.0作为目前最先进的接口标准之一,注定会为下一轮计算、存储技术的创新带来设计便利。但我们也应该实时关注市场需求,过去的PCIe能够维持主流接口的地位,正是靠的联合硬件厂商稳步推进市场需求,这个策略在AI时代依旧通用。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 接口
    +关注

    关注

    33

    文章

    7640

    浏览量

    148510
  • AI
    AI
    +关注

    关注

    87

    文章

    26459

    浏览量

    264080
  • PCIe
    +关注

    关注

    13

    文章

    1083

    浏览量

    80856
收藏 人收藏

    评论

    相关推荐

    下一代PCIe5.0 /6.0技术热潮趋势与测试挑战

    大模型时代已经到来,AI大模型技术快速成熟,进入万亿参数时代,对于AI算力性能要求越来越高,表现为计算系统的节点内卡间互联与节点间的网络互联,高速互联的底层是PCIe,对于PCIe的技
    的头像 发表于 03-06 10:35 280次阅读
    下一代<b class='flag-5'>PCIe</b>5.0 /<b class='flag-5'>6.0</b>技术热潮趋势与测试挑战

    重读AI大模型元年:“百模赶考,文心夺魁”

    AI大模型爆发元年,留给我们的行业思考与未来洞察
    的头像 发表于 02-12 19:01 2410次阅读
    重读<b class='flag-5'>AI</b>大模型<b class='flag-5'>元年</b>:“百模赶考,文心夺魁”

    研扬最新COM-HPC模块让您获得源源不断的强劲性能

    PCIe设备,全面的高速I/O和基于SSD的可扩展存储,使其成为IC测试设备,边缘AI服务器和高级路侧设备等高性能应用的精英解决方案。应用与特点/Application
    的头像 发表于 11-18 08:05 221次阅读
    研扬最新COM-<b class='flag-5'>HPC</b>模块让您获得源源不断的强劲性能

    11月24日|泰克云上大讲堂—PCIe测试面面观

    点击上方 “泰克科技” 关注我们! PCIe技术随着数据中心计算能力诉求不断的提升,其迭代更新速度也在不断加快。去年初发布的PCIe 6.0是数据中心、人工智能/机器学习(
    的头像 发表于 11-16 16:30 198次阅读
    11月24日|泰克云上大讲堂—<b class='flag-5'>PCIe</b>测试面面观

    HPCAI:完美融合

    HPC早于AI问世,因此这两个领域在软件和基础设施方面存在显著差异。要将它们有机地融合在一起,需要对工作负载管理和工具进行必要的调整。以下是HPC如何逐步发展以迎合AI挑战的一些方法。
    的头像 发表于 10-22 14:59 875次阅读

    新思科技成功实现与英特尔PCIe 6.0测试芯片的互操作性

    新思科技PCIe 6.0 IP与英特尔 PCIe 6.0测试芯片实现互操作 在64GT/s 高速连接下成功验证互操作性,降低高性能计算SoC的集成风险 新思科技近日宣布,新思科技PCI
    的头像 发表于 10-16 09:22 489次阅读

    新思科技PCIe 6.0 IP与英特尔PCIe 6.0测试芯片实现互操作

    :SNPS)近日宣布,新思科技PCI Express(PCIe6.0 IP在端到端64GT/s的连接下,成功实现与英特尔PCIe 6.0测试芯片的互操作性。这一全新里程碑也将保证,在
    发表于 10-12 15:11 162次阅读

    中国HPC的高潜力与AI融合的未来

    云端HPC部署方面,根据数据显示,2020-2022年,用户上公有云的速度和应用速度加快,促使HPC云上支出增速大大高于HPC线下本地部署规
    的头像 发表于 09-10 10:53 788次阅读
    中国<b class='flag-5'>HPC</b>的高潜力与<b class='flag-5'>AI</b>融合的未来

    PCIe 6.0的优化设计方案探讨分析

    为了实现64GT/s的链路速度PCIe 6.0采用脉冲幅度调制4级 (PAM4) 信号,在与32GT/s PCIe相同的单元间隔(UI)中提供4个幅度级别(2 位)。图1显示了三眼眼
    发表于 08-05 09:33 603次阅读
    <b class='flag-5'>PCIe</b> <b class='flag-5'>6.0</b>的优化设计方案探讨分析

    AI和数据中心:PCIe 6.0,你是懂加速的

    6.0AIHPC和数据中心中越来越受欢迎。PCIe 6.0运行速度极快,达到64GT/s,
    的头像 发表于 07-12 17:50 1262次阅读

    PCIe的基础知识整理

    PCIe 7.0规范的数据传输速率将再次倍增,达到128 GT/s,大幅度高于PCIe 6.0的64 GT/s和PCIe 5.0的32 GT/s。一个
    发表于 06-25 10:48 563次阅读
    <b class='flag-5'>PCIe</b>的基础知识整理

    PCI Express突飞猛进:与PCIe 6.0实现高带宽互连

    PCIe 6.0 的带宽比 PCIe 5.0 翻了一番,这是通过摆脱差分信号并使用成熟的 PAM4 调制和灰度编码技术来实现的。此外,智能前向纠错和重放技术可在链路伙伴之间提供低延迟传输。
    的头像 发表于 05-25 16:24 577次阅读
    PCI Express突飞猛进:与<b class='flag-5'>PCIe</b> <b class='flag-5'>6.0</b>实现高带宽互连

    PCIe 6.0入门之什么是 PCIe 6.0

    PCI Express® 6.0 (PCIe® 6.0) 规范由 PCI-SIG® 于 2022 年 1 月发布。最新一代的 PCIe 标准带来了许多激动人心的新功能,旨在提高计算密集
    的头像 发表于 05-22 17:27 5122次阅读
    <b class='flag-5'>PCIe</b> <b class='flag-5'>6.0</b>入门之什么是 <b class='flag-5'>PCIe</b> <b class='flag-5'>6.0</b>

    Samtec技术前沿 | 多重原因促使PCIe® 6.0采用了PAM4

    PCIe® 6.0规范的一个新功能。   PCIe® 6.0 全新规范      2022年初, PCI-SIG®发布了完整版本的PCI Express®(
    发表于 05-11 10:30 663次阅读
    Samtec技术前沿 | 多重原因促使<b class='flag-5'>PCIe</b>® <b class='flag-5'>6.0</b>采用了PAM4

    多重原因促使PCIe®6.0采用了PAM4

    Samtec成为PCI-SIG社区的成员已经有很多年了,我们非常自豪。Samtec的高级系统架构师Jignesh Shah与PCI-SIG的伙伴们一起,讨论了PAM4编码,这是PCIe 6.0规范的一个新功能。
    的头像 发表于 05-10 11:25 1309次阅读
    多重原因促使<b class='flag-5'>PCIe</b>®<b class='flag-5'>6.0</b>采用了PAM4