0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

光学器件在人工智能集群中不断演变的作用

易天小讲堂 来源:易天小讲堂 作者:易天小讲堂 2024-07-16 14:00 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

近期,市场研究机构LightCounting (以下简称LC)发布了主题为“人工智能光学”的新报告。报告指出人工智能在眨眼之间就已崭露头角。LC 的首份《人工智能光学》报告强调了人工智能如何改变计算机架构和网络,而光学在其中发挥着关键作用。LC的人工智能预测侧重于光学。但是,该机构称如果再加上一条预测,那就是:光学不仅将在人工智能系统的发展中发挥重要作用,而且人工智能将越来越多地在晶体管、芯片和系统层面为这些系统的设计做出贡献。

整个行业的创新速度各不相同。新应用的开发速度很快。其中大多数会失败,但也有一些会成功,似乎一夜之间就能改变世界。软件和人工智能算法的创新速度之快超出了我们的想象。至少在外部观察者看来是这样,但专家们可能不这么认为。

硬件领域的创新则是一个更为渐进却又无情的过程。光连接也不例外,对此有可靠的数据参考。硅光子技术的应用花了十年时间,都在等待这项技术带来真正颠覆性的解决方案,如可靠的协同封装光学技术。毫无疑问,这种情况将在本十年末出现,但本报告的预测重点是部署在人工智能集群中的可插拔光模块--这是当前和未来五年光连接的主要解决方案。

目前,90% 以上部署在人工智能集群中的光模块用于 InfiniBand 和以太网连接。如下图所示,NVLink 连接到 GPU 所需的带宽是以太网和 InfiniBand 的 4 倍。人工智能集群设计的另一个瓶颈是 GPU 可用的高带宽内存(HBM)有限,这也是带宽提高 3 倍的另一个因素。

wKgZomaWDGCAeIMyAAA8_R3ubL8730.png

事实证明,光交换机可以用来扩展和重新配置其人工智能集群并以此提高集群性能,同时最大限度地降低成本和功耗。该研究机构预计,在未来 3-5 年内,将有更多公司采用这项技术。

人工智能集群中应用的光学需求规模是 2023 年的一个惊喜,同时ChatGTP 在 2022 年底成为头条新闻的时机尤为重要。对即将到来的经济衰退的担忧和收入增长下降的初步迹象迫使所有领先的云计算公司削减开支,包括对数据中心的投资和光模块的采购。2024-2025 年的强劲增长毋庸置疑。

大型网络设备制造商业务的增长是影响 2023-2025 年光模块销量的主要因素。人工智能集群的新设计需要更多的光模块。以前的所有系统都只使用 InfiniBand 网络进行光连接,而且这些系统大多是 AOC。基于 NDR(400G)InfiniBand 的最新系统使用可插拔的 400/800G SR4/SR8 和 DR4/DR8 光模块,而不是 AOC。该公司还于 2022 年 3 月发布了专为 800G 光连接设计的 NVLink 机箱交换机。该公司目前正在内部测试光纤 NVLink,但这些解决方案应在 2024 年底前提供给最终用户。如果需要更长的时间,LC称将不得不降低对 2025-2029 年的预测。

wKgaomaWDGGAX9HSAALw1B4R5WI70.jpeg

本报告首次对大型网络设备制造商提供的光模块进行了预测,并将其与 AI 集群中使用的其他光模块进行了比较。该制造商设计的光模块具有更严格的误码率规范,以最大限度地减少传输误差。这并不妨碍客户使用第三方光学器件,但不能保证系统性能。LC预计,终端用户最终将过渡到使用第三方光学器件,以节省成本,但这将是一个逐步过渡的过程。

审核编辑 黄宇

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 人工智能
    +关注

    关注

    1813

    文章

    49746

    浏览量

    261605
  • 光模块
    +关注

    关注

    82

    文章

    1584

    浏览量

    61936
  • 光学器件
    +关注

    关注

    1

    文章

    151

    浏览量

    12384
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    激光焊锡技术光学组件封装的应用

    智能化浪潮的推动下,光学元件作为光子与电子能量转换的核心载体,已成为消费电子、5G通信、人工智能、自动驾驶、生物医疗等领域的的核心要素,光学
    的头像 发表于 09-26 16:36 870次阅读

    利用超微型 Neuton ML 模型解锁 SoC 边缘人工智能

    nRF52805),只占用几千字节的非易失性存储器(NVM)。这使得以前被认为不可能的应用也能增加 ML 功能。例如,您现在可以广泛的传感器网络的每个节点上进行人工智能处理,而在这种网络,传感器的尺寸和成本
    发表于 08-31 20:54

    挖到宝了!人工智能综合实验箱,高校新工科的宝藏神器

    ,技术自主可控 如今这个科技竞争激烈的时代,国产化硬件的重要性不言而喻。比邻星人工智能综合实验箱就做到了这一点,采用国产化硬件,积极推进全行业产业链上下游环节的国产化进程,把国产自主可控的软硬件平台
    发表于 08-07 14:30

    挖到宝了!比邻星人工智能综合实验箱,高校新工科的宝藏神器!

    ,技术自主可控 如今这个科技竞争激烈的时代,国产化硬件的重要性不言而喻。比邻星人工智能综合实验箱就做到了这一点,采用国产化硬件,积极推进全行业产业链上下游环节的国产化进程,把国产自主可控的软硬件平台
    发表于 08-07 14:23

    关于人工智能处理器的11个误解

    应用,以及哪些是真实情况而哪些只是炒作,仍存在诸多误解。GPU是最佳的人工智能处理器尽管GPU人工智能的实现过程中发挥了关键作用,而且如今它们的应用也极为广泛,但将其推
    的头像 发表于 08-07 13:21 881次阅读
    关于<b class='flag-5'>人工智能</b>处理器的11个误解

    是德示波器DSOX6002A人工智能芯片测试的应用

    功能,AI芯片的研发、验证和量产测试扮演着关键角色。本文将从信号完整性、电源完整性、时序分析、调试优化及一致性测试等方面深入探讨其应用。 一、AI芯片测试的核心挑战与示波器的关键作用 人工
    的头像 发表于 07-31 17:30 672次阅读
    是德示波器DSOX6002A<b class='flag-5'>在</b><b class='flag-5'>人工智能</b>芯片测试<b class='flag-5'>中</b>的应用

    超小型Neuton机器学习模型, 在任何系统级芯片(SoC)上解锁边缘人工智能应用.

    可以广泛的传感器网络的每个节点上进行人工智能处理,而在这种网络,传感器的尺寸和成本是关键,空间也非常宝贵。
    发表于 07-31 11:38

    人工智能在汽车行业的应用

    人工智能(AI)是许多行业和应用领域的热门话题。但对于汽车行业而言,这并非一个新概念。人工智能,尤其是机器学习——即通过数据让机器学习并随着时间推移不断改进的过程——早已被广泛应用,最初主要用于提升开发过程
    的头像 发表于 07-31 11:07 1739次阅读

    CES Asia 2025蓄势待发,聚焦低空经济与AI,引领未来产业新变革

    、机器学习等技术不断取得新的突破,应用场景也日益丰富。智能家居领域,人工智能让家居设备更加智能、便捷,实现了设备之间的互联互通和
    发表于 07-09 10:29

    最新人工智能硬件培训AI 基础入门学习课程参考2025版(大模型篇)

    人工智能大模型重塑教育与社会发展的当下,无论是探索未来职业方向,还是更新技术储备,掌握大模型知识都已成为新时代的必修课。从职场上辅助工作的智能助手,到课堂用于学术研究的智能工具,大模
    发表于 07-04 11:10

    如何构建边缘人工智能基础设施

    随着人工智能不断发展,其争议性也越来越大;而在企业和消费者的眼中,人工智能价值显著。如同许多新兴科技一样,目前人工智能的应用主要聚焦于大规模、基础设施密集且高功耗的领域。然而,随着
    的头像 发表于 06-09 09:48 857次阅读

    开售RK3576 高性能人工智能主板

    ,HDMI-4K 输出,支 持千兆以太网,WiFi,USB 扩展/重力感应/RS232/RS485/IO 扩展/I2C 扩展/MIPI 摄像头/红外遥控 器等功能,丰富的接口,一个全新八核拥有超强性能的人工智能
    发表于 04-23 10:55

    探究人工智能发展前沿:智能体的演进及其社会影响

    导语:2024年12月,世界经济论坛发布了《探索人工智能前沿:人工智能体的演变及其影响》白皮书,不仅探讨了人工智能体的发展轨迹,还分析了其
    的头像 发表于 02-10 09:44 1339次阅读
    探究<b class='flag-5'>人工智能</b>发展前沿:<b class='flag-5'>智能</b>体的演进及其社会影响

    北京将打造最大人工智能社区

    2024通明湖论坛开幕式上,北京经开区宣布将打造“模数世界”人工智能新质生态社区。       据悉“模数世界”人工智能新质生态社区将以国家信创园7号楼为核心,以周边50万平方米现代化办公楼宇为
    的头像 发表于 12-26 16:26 988次阅读

    【「具身智能机器人系统」阅读体验】+数据具身人工智能的价值

    嵌入式人工智能(EAI)将人工智能集成到机器人等物理实体,使它们能够感知、学习环境并与之动态交互。这种能力使此类机器人能够人类社会中有效地提供商品及服务。 数据是一种货币化工具 数
    发表于 12-24 00:33