0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

认识一下AI算力应用中的光模块产品

易飞扬通信 来源:易飞扬通信 2023-12-29 16:14 次阅读

以ChatGPT为代表的AI大模型应用普及将推动算力需求快速增长,服务器产业链是其中重要的受益环节之一,AI计算的普及将推动服务器产业链光模块向800G升级提速。

算力网络驱动下光模块市场需求预测

光模块是数据中心内部互连和数据中心相互连接的核心部件。100G和400G是主流产品,800G过去主要用在超算等领域。据LightCounting预计,2023年800G全球普及率仅0.62%。而以ChatGPT为代表的AI大模型,对数据中心内外的数据流量都提出了新要求,有望推动光模块加速向800G升级。800G光模块将从2025年底开始主导光模块市场。

2adbcdbe-a622-11ee-8b88-92fbcf53809c.png

根据LightCounting的数据,2016年至2020年,全球光模块市场规模从58.6亿美元增长到66.7亿美元,预测2025年全球光模块市场将达到113亿美元,为2020年的1.7倍。从结构上看数通市场占60%,电信市场占40%左右。

2ae89026-a622-11ee-8b88-92fbcf53809c.png

AI算力场景光模块应用情况

首先我们以英伟达的SuperPOD为例测算单颗GPU与光模块的比例。测算仅考虑IB网络对应的光模块需求。以140个节点的集群为例,每台举例服务器需要8颗GPU芯片,共需140×8=1120颗芯片;集群中每20台服务器组成一个SU(scalable units,可扩展单元),共7个SU。IB网络架构下实现了完整的胖树(Fat-Tree)拓扑结构,胖树架构在训练场景中最优的配置是上下行端口数一样,即无阻塞的网络,具体来看:

第一层:每个SU 中配置8台叶交换机,共有56台叶交换机;

第二层:每10台脊交换机组成一个交换机组Spine Group( SG),每个SU 的第一个叶交换机连接到SG1中的每个交换机,每个SU的第二个叶交换机连接到SG2中的每个交换机,共有80个脊交换机;

第三层:每14台核心交换机组成一个交换机组Core Group(CG),对应共28个核心交换机。

使用系统的对应计算侧和存储侧线缆全部采用AOC有源光缆,因此每个端口对应一个光模块,即每条光缆对应2个光模块,因此计算侧和存储侧共需要(1120+1124+1120)×2+(280+92+288)×2=8048个光模块,即单颗GPU对应所需200G光模块数量约为1:7.2

DGX GH200超级计算机搭载256个超级芯片,每个超级芯片可视为一个服务器,通过交换机进行互联。从结构上来看,超级计算机采用两层的胖树拓扑结构,第一、二层分别使用96个、36个交换机,每台交换机拥有32个速率为800G的端口;此外超级计算机还配备了24个IB交换机用于IB网络。按照端口进行估算,L1层距离较近因此假定使用铜缆进行连接不涉及光模块,L2层36个交换机在无收敛胖树架构下,第二层交换机端口向下与L1层交换机上行端口互联,因此共需要36×32×2=1152个800G光模块;IB网络架构下,24台交换机需要24×32=768个800G光模块;则DGX GH200超级计算机共需要1152+768=1920个800G光模块,对应每颗芯片12个800G光模块。则GPT-3单日完成训练需要8万颗以上200G光模块,如果考虑到FLOPS的利用率约为20%-30%,则需要光模块的数量将约为35万颗。

易飞扬应用于算力场景的光模块

AI发展促进了海量光模块需求,易飞扬则已于2023年完成800G/400G AI应用光模块产线建设任务,新建成的生产线主要用于4×100G PAM4和8×100G PAM4光模块和有源光缆的生产。

2b17d886-a622-11ee-8b88-92fbcf53809c.png

2b297ae6-a622-11ee-8b88-92fbcf53809c.png

得益于供应链的支持,易飞扬的系列AI光模块量产顺利,公司本身的产品多样化设计能力、订单能力和供应链能力形成了较好的匹配关系。可以为中小客户提供灵活有效的需求交付和样品测试。







审核编辑:刘清

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 交换机
    +关注

    关注

    19

    文章

    2437

    浏览量

    95657
  • 光模块
    +关注

    关注

    71

    文章

    1134

    浏览量

    58100
  • GPU芯片
    +关注

    关注

    1

    文章

    289

    浏览量

    5688
  • ChatGPT
    +关注

    关注

    27

    文章

    1408

    浏览量

    4741

原文标题:AI算力应用中的光模块产品

文章出处:【微信号:gigalight_yifeiyang,微信公众号:易飞扬通信】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    认识一下NI SWITCH模块的组成和特点

    许多自动化测试应用都需要通过部署一个开关网络来实现仪器仪表和DUT之间的信号路由。而开关不仅可用于路由信号,也是增加昂贵仪器仪表的通道数以及提高测量灵活性和可重复性的一种低成本方法。
    的头像 发表于 03-22 13:41 460次阅读
    <b class='flag-5'>认识一下</b>NI SWITCH<b class='flag-5'>模块</b>的组成和特点

    iBeLink KS MAX 10.5T大领跑KAS新领域

    —KHeavyHash。在市场上,有款挖掘机可以满足这个要求,那就是iBeLink ks max 10.5T。 iBeLink ks max 10.5T是款专为Kaspa挖掘而设计的挖掘机,它的
    发表于 02-20 16:11

    请问用强大的SOC来控制汽车是不是能够大幅减少MCU的使用数量?

    来自位用户的咨询,麻烦帮忙解答,越详细越好,有图有真相,可以适当提供些英飞凌解决方案和产品推荐。 用强大的SOC来控制汽车是不是能够
    发表于 02-02 07:16

    大茉莉X16-P,5800M大称王称霸

    Rykj365
    发布于 :2024年01月25日 14:54:52

    AI算力应用中的光模块产品

    预测 光模块是数据中心内部互连和数据中心相互连接的核心部件。100G和400G是主流产品,800G过去主要用在超算等领域。据LightCounting预计,2023年800G全球普及率仅0.62%。而以ChatGPT为代表的AI
    的头像 发表于 01-02 15:32 206次阅读
    <b class='flag-5'>AI</b>算力应用中的光<b class='flag-5'>模块</b><b class='flag-5'>产品</b>

    【先楫HPM5361EVK开发板试用体验】认识和了解先楫HPM5361EVK开发板

    近日,收到了先楫HPM5361EVK开发板开发板,带大家了解和认识一下先楫HPM5361EVK开发板。 已是开发板官网介绍; HPM5300系列MCU是上海先楫半导体推出的款高性能RISC-V
    发表于 12-24 22:39

    强劲的AI边缘计算盒子# 边缘计算

    AI边缘计算
    成都华江信息
    发布于 :2023年11月24日 16:31:06

    认识一下几个常用的门级电路

    标准单元库是数字集成电路的积木,是复杂电路和系统的基础。今天我们来认识一下其中的几个常用门级电路。
    的头像 发表于 10-09 15:49 552次阅读
    <b class='flag-5'>认识一下</b>几个常用的门级电路

    英码科技精彩亮相火爆的IOTE 2023,多面赋能AIoT产业发展!

    地结合业务需求生成算法,并结合国产AI边缘计算算设备进行移植优化,是解决AI产品国产化,并
    发表于 09-25 10:03

    模块问题第篇:模块不兼容怎么办?# 模块# 数据中心# 综合布线

    模块
    一只冷包子
    发布于 :2023年09月12日 10:00:58

    绍兴有没有做STM的同行,认识

    我在绍兴新昌,想学习STM32,有没有同行指导一下。感谢。可以认识
    发表于 09-07 10:35

    认识一下低压电缆分支箱

    电路嵌入式电网物联网
    学习电子知识
    发布于 :2023年08月02日 13:12:00

    认识一下只有driver的验证平台

    对于一个验证平台而言,最重要的角色是激励的产生,最开始,driver是集合了数据的产生、发送于一体这么一个重要的角色(后面到进入真正UVM会将功能分离)。
    的头像 发表于 06-15 18:09 501次阅读
    <b class='flag-5'>认识一下</b>只有driver的验证平台

    简单认识一下EMC中共模和差模的区别

    电压电流的变化通过导线传输时有两种形态, 即共模和差模。下面带大家简单认识一下共模和差模的区别。
    发表于 06-08 14:58 3011次阅读
    简单<b class='flag-5'>认识一下</b>EMC中共模和差模的区别

    认识电力调整器

    今天合泉带大家一起来认识一下 电力调整器! 合泉电力调整器客户案例 电力调整器又称功率调节器,或简称调功器,英文缩写为SCR 电力调整器是一种通过触发控制板对可控硅进行移相或零位控制,达到对负载功率
    的头像 发表于 05-19 10:35 1238次阅读
    <b class='flag-5'>认识</b>电力调整器