0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

指数级增长的AI计算量,给光子计算带来了新的机遇

E4Life 来源:电子发烧友网 作者:周凯扬 2023-07-04 01:06 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

电子发烧友网报道(文/周凯扬)在生成式AI爆发和计算量指数增长的当下,不少传统的AI加速器以及网络芯片公司都因此受益,纷纷在已有的架构上针对AI或HPC进行优化。但与此同时,也有不少企业将希望寄托于创新的硅光计算架构上,指望光子能带来全新的计算与互联方案。

Lightmatter

2021年,Lightmatter推出了Envise这一通用光子AI加速器方案,可以完成各种先进AI模型(GPT-3、Megatron)以及主要神经网络(BERT-Large、DLRM、ResNet-50)的高性能推理。与之一同推出的还有Lightmatter针对AI应用专门打造的软件栈,Idiom,用于在Envise上编译和执行神经网络模型,并提供查错、分析和优化的工具。

最有野心的自然还是一同公布的晶圆级光子互联方案,Passage。该方案基于硅光和共封装光学(CPO)方案,将Chiplet处理器互联在一起。就像是我们在英伟达HGX A100上看到的PCB/电路方案一样,只不过这次NVSwitch这样的互联方案换成了光子通路,芯片与芯片之间的互联带宽最高可达100Tbps。根据Lightmatter提供的示意图,他们直接跳过了2.5D CPO和3D CPO的方案,转为集成激光器件的3D CPO方案。

为了应对这股AI潮,并成功在未来将更多光子产品交付给客户,比如大型云服务厂商、半导体公司等,Lightmatter在今年5月底开启了C轮融资,最终成功从SIP Global、谷歌、HPE等企业获得了1.54亿美元的融资,为公司迄今以来最大的一笔融资。为了进一步提高其设计实力,Lightmatter还在去年招募了谷歌Tensor项目主导人以及英特尔数据中心封装的主导人。

曦智科技

曦智科技作为光子计算的领头厂商之一,于2021年底发布了其第二代光子计算处理器PACE。PACE采用了64x64的光学矩阵乘法器作为核心,整个处理器由一块集成硅光芯片和一块CMOS微电子芯片3D封装堆叠而成。该结构下的PACE单个光子芯片中集成了10000多个光子器件,加上1GHz的时钟频率,据曦智科技的说法,PACE运行某些神经网络算法的速度可达彼时高端GPU的数百倍。

而这仅仅是曦智科技在光子矩阵计算(oMAC)上的应用,为了进一步打破内存墙,他们需要在互联技术上有所突破。近日,曦智科技发布了全新的大数据互联解决方案,Hummingbird。Hummingbird是全球首个光子片上网络(oNOC)处理器,专为特定领域的AI负载所设计。

wKgaomSineOACtf-AADWbReBwos103.jpg
Hummingbird PCIe板卡 / 曦智科技


在Hummingbird上,曦智科技为64个核心打造了一个低延迟的全通广播网络,加上64个发射器与512个接收器,Hummingbird提供了一个灵活配置的高密度光学拓扑结构。此外,Hummingbird采用了光学IC与电子IC共封装进PCIe卡的方式,因此可以直接用于标准服务器中。曦智科技表示他们将在今年第三季度推出Hummingbird PCIe卡和SDK,并在今年的闪存峰会和HotChips上展示Demo和更多情报。

写在最后

其实追求光子计算的原因并不仅仅只有突破计算或互联瓶颈而已,在AI把计算量进一步拔高的当下,在维持性能扩张速度的同时控制功耗和碳排放已经变得越来越难了。要想解决这个问题,就不得不换一种出路,利用光子计算的结构来抵消晶体管的能耗。

固然光子计算芯片对于大部分半导体公司,还属于和量子计算一样够不着的概念。但现在看来,随着晶圆厂在硅光工艺上的成熟,EDA厂商逐渐完善的光电设计工具,光子计算依然是值得深入探索的新兴技术领域。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 光子计算
    +关注

    关注

    0

    文章

    18

    浏览量

    3264
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    南芯科技助力AI PC CPU/GPU提高效能

    的数字执行者。在这场由端侧 AI Agent 驱动的交互变革中,AI PC 被普遍视为最先落地的核心场景之一。当 AI PC 深度调用 Agent 能力时,计算功耗面临
    的头像 发表于 04-22 16:54 3078次阅读

    新发现带来光量子计算的进步

    发表在《科学进展》(Science Advances)上的工作代表了光量子计算领域的显著进步,为更多可扩展的量子技术铺平了道路。 光子之间的干涉是量子光学的基本现象,是光量子计算的基石。它涉及利用光的特性(如光的波粒二象性)来诱
    的头像 发表于 12-01 07:38 394次阅读
    新发现<b class='flag-5'>带来</b>光量子<b class='flag-5'>计算</b>的进步

    陀螺形体材料,突破光子芯片瓶颈

    电子发烧友网综合报道 在人工智能、物联网与大数据技术驱动下,全球数据正以指数速度增长。传统电子芯片受限于电子传输的物理瓶颈,已难以满足未来计算
    的头像 发表于 11-23 07:14 1w次阅读
    陀螺形体材料,突破<b class='flag-5'>光子</b>芯片瓶颈

    一文了解ai计算盒子(边缘计算盒子)是到底是什么产品?

    在物联网与人工智能深度融合的当下,数据处理的效率和实时性成为各行业数字化转型的关键。ai计算盒子(又称边缘计算盒子、ai边缘计算盒子)作为连
    的头像 发表于 11-10 14:48 1408次阅读
    一文了解<b class='flag-5'>ai</b><b class='flag-5'>计算</b>盒子(边缘<b class='flag-5'>计算</b>盒子)是到底是什么产品?

    浙江大学杨建义团队:集成光电计算芯片,引领大规模计算硬件 “范式跃迁”

    当人工智能大模型参数规模突破万亿、算力需求呈指数增长,传统基于电子器件的计算硬件正面临 “功耗墙” 与 “延迟墙” 的双重瓶颈。在此背景下,浙江大学杨建义院士领衔的团队历经十余年攻关
    的头像 发表于 09-25 16:56 1829次阅读
    浙江大学杨建义团队:集成光电<b class='flag-5'>计算</b>芯片,引领大规模<b class='flag-5'>计算</b>硬件 “范式跃迁”

    【「AI芯片:科技探索与AGI愿景」阅读体验】+第二章 实现深度学习AI芯片的创新方法与架构

    的同时,能够利用更小、更快的数字格式,提升模型的整体性能。 1.3Transformer 模型中的矩阵乘法计算 2、存内计算AI芯片 存内计算已经成为应对大模型不断增加的
    发表于 09-12 17:30

    边缘计算与嵌入式系统:物联网发展的新动力

    引言 随着物联网设备数量的持续增长,数据处理需求呈现指数上升。传统的云计算模式在面对实时性、带宽与安全性要求时逐渐显得不足。在这种背景下, 边缘
    的头像 发表于 09-05 16:32 1255次阅读

    边缘计算与智能硬件:电子行业的新增长

    硬件有了更多“算力下沉”的需求,这为电子产业带来了新的增长点。本文将从边缘计算的技术逻辑、对电子行业的影响、典型应用场景以及未来发展趋势几个维度,深入探讨这一前沿话题。 一、边缘计算
    的头像 发表于 09-02 21:53 1061次阅读

    AI 边缘计算网关:开启智能新时代的钥匙​—龙兴物联

    流量动态分析、违章行为智能识别;在智慧城市建设里,可检测周界入侵、消防通道占用等安全隐患。 AI 边缘计算网关正以其独特的魅力,为各行业带来前所未有的变革与机遇,引领我们大步迈向智能新
    发表于 08-09 16:40

    重新思考 AI 时代的分布式计算

    层次的关注点在于这一效率突破揭示了传统分布式计算范式与AI工作负载独特需求之间的根本不匹配。AI技术浪潮对基础设施选型带来了深层挑战:当前广泛部署的分布式
    的头像 发表于 07-31 14:25 1438次阅读
    重新思考 <b class='flag-5'>AI</b> 时代的分布式<b class='flag-5'>计算</b>

    EastWave应用:自动计算光子晶体透反率

    本案例使用“自动计算透反率模式”研究光子晶体的透反率,将建立简单二维光子晶体结构以说明透反率的计算方法。   模型示意图:   预览网格划分效果如下:   观察到下面的实时场:   记
    的头像 发表于 07-16 11:26 543次阅读
    EastWave应用:自动<b class='flag-5'>计算</b><b class='flag-5'>光子</b>晶体透反率

    大模型推理显存和计算估计方法研究

    随着人工智能技术的飞速发展,深度学习大模型在各个领域得到了广泛应用。然而,大模型的推理过程对显存和计算资源的需求较高,实际应用带来了挑战。为了解决这一问题,本文将探讨大模型推理显存和计算
    发表于 07-03 19:43

    电商API的五大应用场景:解锁增长机遇

    新的商业机会。本文将深入探讨电商API的五大应用场景,展示它们如何解锁增长机遇。每个场景均结合实际案例和关键指标,确保内容实用且可操作。 1. 支付集成:确保安全高效的交易处理 支付API是电商平台
    发表于 06-24 14:29

    NVIDIA MGX变革AI工厂设计与部署

    生成式 AI、大语言模型和高性能计算指数增长,这对数据中心基础设施提出了前所未有的要求。传统服务器架构难以满足现代加速
    的头像 发表于 06-06 15:07 1452次阅读

    量子计算最新突破!“量子+AI”开启颠覆未来的指数革命

    量子比特可同时处于0和1的叠加态,使量子计算机在处理并行问题时具备指数加速潜力。量子纠缠,即多个量子比特间形成强关联,即使物理隔离,状态变化也能瞬时同步,这一特性为高效信息处理和量子通信提供了理论基础。   技术突
    的头像 发表于 05-28 00:40 1.3w次阅读
    量子<b class='flag-5'>计算</b>最新突破!“量子+<b class='flag-5'>AI</b>”开启颠覆未来的<b class='flag-5'>指数</b><b class='flag-5'>级</b>革命