0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

简单认识全调度以太网技术

中兴文档 来源:中兴文档 2025-01-15 14:31 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

今日和文档君一起学习技术名词:

全调度以太网技术(Global Scheduling Ethernet,GSE)——基于报文容器PKTC转发和负载均衡,并实现全局调度。

什么是全调度以太网GSE?

GSE(Global Scheduling Ethernet),即全调度以太网技术。GSE是由中国移动联合产业合作伙伴共同提出的一种以太网技术架构,是在现有以太网的基础上进行了优化和创新,以满足智算中心高性能网络技术,旨在突破传统以太网的技术瓶颈,打造无阻塞、高带宽、低时延的新型智算中心网络。

为什么需要GSE?

AI训练中,我们常用RDMA协议来高速传输数据。但RDMA对丢包非常敏感,哪怕只丢了一点点数据包,网络的有效传输速度就会大幅下降。

而AI大模型训练需要多个计算设备一起工作,它们之间需要频繁通信和同步,这对网络的要求就特别高。现在AI模型越来越大,智算中心的网络性能就得更强才行,需要无阻塞、“0”丢包、低延迟。

传统的以太网在大规模、高速度的数据传输时,容易出现网络拥塞等问题。这就像是一条高速公路,车一多就容易堵。

智算中心的网络中数据流虽然不多,但每个流的数据量都很大,传统的负载均衡方式就容易出问题,导致数据包丢失,动态时延增大等问题,从而影响AI训练的效率。

GSE技术就像是给去往某个目的地的多条高速公路装上了智能导航系统,它能主动控制车流选择最优路径,避免堵车,更高效地转发数据包。这样一来,丢包就少了,网络延迟也低了,整体传输速度就更高了,AI训练效率也就提升了。

GSE技术特点

1. 从“流”分发转变为“报文”分发。传统ECMP 负载均衡会导致链路负载不均以及哈希极化,可能引起拥塞和丢包。

GSE设备会将数据包进行逻辑分组,组装成长度较长的“定长”容器,并基于报文容器转发和动态负载均衡,实现单条流在多路径上均匀地负载分担,提升有效带宽。

如果把报文当作货物,报文容器就好像载货能力一样的货车,每辆货车拉着同样重量的货物(数量可以不一样),大量货车被均匀地调度到去往同个目的地的多条高速路上,可以最大程度利用道路资源。

490495f8-d2dd-11ef-9310-92fbcf53809c.png

2. 从被动拥塞控制到主动流控,引入“授权请求”和“全局调度机制”,通过构建基于全局动态调度队列(DGSQ)的拥塞控制机制,本设备发送流量速率由最终的设备出口、途经的设备统一进行全网端到端授权,确保了流量负载不超过网络的承载能力,有效避免了网络拥塞而丢包。

这就好像货车在出发前先询问了目的地的库房是否具备接收能力,根据目的地的收货能力以及沿途路况来决定发出多少货物,确保货物能准确送达并接收。

4910fe74-d2dd-11ef-9310-92fbcf53809c.png

由于AI大模型训练时任意一轮计算的结束均依赖最后一个结果的返回,降低网络长尾时延可有效提升训练完成时间。

交换网络整体转发时延和转发路径上中间节点的拥塞情况正相关,消除中间节点的拥塞就可消除长尾时延。GSE技术实现了精细化调度和和高负载均衡,可有效降低长尾时延,提升训练效率。

GSE支持GSE-N2N和GSE-E2E两大技术场景,GSE-N2N通过网络设备实现全部GSE功能,支持计算与网络设备的解耦;GSE-E2E将部分GSE能力延伸至服务器网卡,借助端网协同实现高性能集群互联。QGSE vs RoCEv2 vs InfiniBand

GSE RoCEv2 InfiniBand
网络设备 GSE交换机 以太交换机 IB交换机
性能 组网性能相较传统RoCEv2可提升40%已上 经过调优可接近IB
兼容性 优,基于以太网改造,有开放标准 优,增强以太网 封闭,不兼容以太网
产业生态 中国移动携手国内智算生态企业共同发布产品及标准。 多种芯片方案,大量网络设备厂家 Nvidia为主等少量海外厂商
易用性 无需复杂的网络参数配置 需要调节各种网络参数,较复杂,自动化部署正在完善中 集中式管理机制,由子网管理器负责整个网络转发表的计算与分发等工作
成熟度 新技术,持续完善中 成熟,还在持续演进完善 成熟

注:RoCEv2(RDMA over Converged Ethernet,融合以太网承载RDMA)

GSE有哪些应用场景?

GSE主要面向无损、高带宽、低时延等高性能网络需求业务场景,如AI大模型训练的智算中心网络。

GSE业界应用进展

在2023年9月的中国网络大会上,中国移动研究院携手合作伙伴发布业界首款“全调度以太网(GSE)”样机。

在2023年11月21日的开放数据中心委员会(ODCC)冬季全会会议上,正式成立全调度以太网(GSE)技术特设组并召开第一次工作组会议。

在2024年9月27日的中国算力大会上,中国移动携手国内智算生态企业共同发布了全调度以太网(GSE)全套技术标准及首套商用产品。

2024.11,中国移动联合云豹智能共同研发首颗GSE DPU芯片--“智算琢光”。

2024.12,中国移动联合中兴共同研发首颗可完整支持GSE功能的大容量高性能交换芯片

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 以太网
    +关注

    关注

    41

    文章

    5926

    浏览量

    179564
  • AI
    AI
    +关注

    关注

    89

    文章

    38153

    浏览量

    296811
  • 容器
    +关注

    关注

    0

    文章

    521

    浏览量

    22818
  • 负载均衡
    +关注

    关注

    0

    文章

    128

    浏览量

    12814

原文标题:【秒懂承载】热点技术名词 -“全调度以太网GSE”

文章出处:【微信号:ztedoc,微信公众号:中兴文档】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    工业以太网技术说明

    工业以太网技术说明工业以太网技术上它与IEEE802.3 及IEEE802.3U 兼容, 但在产品设计制造充分考虑到并满足工业网络应用的需求。工业现场对工业以太网产品的要求如下:n
    发表于 10-20 08:57

    以太网技术基本原理

    通常我们所说的以太网主要是指以下三种不同的局域网技术以太网/IEEE 802.3:采用同轴电缆作为网络媒体,传输速率达到10Mbps; 100Mbps以太网:又称为快速
    发表于 12-03 19:07

    探讨工业以太网技术(一)

    所谓工业以太网就是在以太网技术和TCP/IP技术的基础上开发出来的一种现场总线。作为现场总线的工业以太网与一般的商用以太网有很大不同。 必须
    发表于 12-15 14:28

    探讨工业以太网技术~(二)

    所谓工业以太网就是在以太网技术和TCP/IP技术的基础上开发出来的一种现场总线。作为现场总线的工业以太网与一般的商用以太网有很大不同。 必须
    发表于 12-15 14:29

    以太网技术开发资料精选》

    的数据,因此工业自动化组件供应商越来越多的把以太网协议作为他们产品的标准规范,许多厂商也直接把以太网技术作为新产品的网络连接手段。由于这些供应商的推动,这也就需要机械制造商和终端客户将观念从旧的现场总线
    发表于 01-24 15:09

    如何看待当下的工业以太网技术

    之前我们提到了以太网在工业领域被广泛应用的驱动力,并简单描述了网络通讯协议的多层模型。 然而,既然已经将以太网技术引入了工业领域,为什么大家还要煞费苦心的搞出好多专用的工业以太网协议,
    发表于 10-25 10:27

    工业以太网技术手册

    工业以太网技术说明,工业以太网技术上它与IEEE802.3 及IEEE802.3U 兼容, 但在产品设计制造充分考虑到并满足工业网络应用的需求。工业现场对工业以太网产品的要求如下:n
    发表于 10-20 08:55 20次下载

    工业以太网技术及其发展

    工业以太网技术及其发展:本文介绍了以太网进人工业控制领域的必然性及其优势;分析了工业以太网在控制领域应用中存在的问题及其改进措施;阐述了工业以太网的应用方式和
    发表于 01-12 17:12 20次下载

    以太网技术基本原理

    以太网技术基本原理 通常我们所说的以太网主要是指以下三种不同的局域网技术:  
    发表于 07-24 08:10 5943次阅读
    <b class='flag-5'>以太网技术</b>基本原理

    以太网(Etherner).以太网技术标准有哪些?

    以太网(Etherner).以太网技术标准有哪些? 以太网(Ethernet)指的是由Xerox公司创建并由Xerox,Intel和DEC公司联合开发的基带局域网规范。是
    发表于 03-22 09:52 1w次阅读

    以太网技术联盟发布了800千兆位以太网的规范

    以太网技术联盟(EthernetTechnologyConsortium)提出了800千兆位以太网的规范,该行业联盟包括Arista、Broadcom、Cisco、Dell、Google、Mellanox和Microsoft。
    的头像 发表于 05-18 16:03 3985次阅读

    工业以太网技术优势

    工业以太网技术源于以太网技术,但其本身却不同于一般以太网技术。工业以太网技术本身在适应性上进行了调整,同时根据工业生产安全稳定的需要,增加了相应的控制应用功能,提出了满足特定工业应用场
    发表于 08-30 18:16 1931次阅读

    工业以太网技术特点

    通信速率高,随着企业信息系统规模的扩大和复杂程度的提高,对信息量的需求也越来越大,有时甚至需要音频、视频数据的传输,当前以太网的通信速率为10M、100M的快速以太网开始广泛应用,千兆以太网技术也逐渐成熟,10G
    发表于 05-17 16:12 1378次阅读

    单对以太网技术的介绍 单对以太网技术的优势 单对以太网技术的应用

    单对以太网技术的介绍 单对以太网技术的优势 单对以太网技术的应用  以太网技术是一种局域网传输协议,通常用于连接局域网内的多台计算机和网络设备。它是最常用的局域
    的头像 发表于 11-28 15:45 1491次阅读

    简单认识以太网技术

    以太网(Ethernet)是一种常见的局域网(LAN)技术,它使用多种协议来实现数据通信。Ethernet的协议分为多层,其中二层协议主要涉及数据链路层。在Ethernet中,数据链路层使用帧(frame)来传输数据,而帧的结构由多个字段组成。
    的头像 发表于 01-07 09:52 1588次阅读