0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

指数级增长的AI计算量,给光子计算带来了新的机遇

E4Life 来源:电子发烧友网 作者:周凯扬 2023-07-04 01:06 次阅读

电子发烧友网报道(文/周凯扬)在生成式AI爆发和计算量指数增长的当下,不少传统的AI加速器以及网络芯片公司都因此受益,纷纷在已有的架构上针对AI或HPC进行优化。但与此同时,也有不少企业将希望寄托于创新的硅光计算架构上,指望光子能带来全新的计算与互联方案。

Lightmatter

2021年,Lightmatter推出了Envise这一通用光子AI加速器方案,可以完成各种先进AI模型(GPT-3、Megatron)以及主要神经网络(BERT-Large、DLRM、ResNet-50)的高性能推理。与之一同推出的还有Lightmatter针对AI应用专门打造的软件栈,Idiom,用于在Envise上编译和执行神经网络模型,并提供查错、分析和优化的工具。

最有野心的自然还是一同公布的晶圆级光子互联方案,Passage。该方案基于硅光和共封装光学(CPO)方案,将Chiplet处理器互联在一起。就像是我们在英伟达HGX A100上看到的PCB/电路方案一样,只不过这次NVSwitch这样的互联方案换成了光子通路,芯片与芯片之间的互联带宽最高可达100Tbps。根据Lightmatter提供的示意图,他们直接跳过了2.5D CPO和3D CPO的方案,转为集成激光器件的3D CPO方案。

为了应对这股AI潮,并成功在未来将更多光子产品交付给客户,比如大型云服务厂商半导体公司等,Lightmatter在今年5月底开启了C轮融资,最终成功从SIP Global、谷歌、HPE等企业获得了1.54亿美元的融资,为公司迄今以来最大的一笔融资。为了进一步提高其设计实力,Lightmatter还在去年招募了谷歌Tensor项目主导人以及英特尔数据中心封装的主导人。

曦智科技

曦智科技作为光子计算的领头厂商之一,于2021年底发布了其第二代光子计算处理器PACE。PACE采用了64x64的光学矩阵乘法器作为核心,整个处理器由一块集成硅光芯片和一块CMOS微电子芯片3D封装堆叠而成。该结构下的PACE单个光子芯片中集成了10000多个光子器件,加上1GHz的时钟频率,据曦智科技的说法,PACE运行某些神经网络算法的速度可达彼时高端GPU的数百倍。

而这仅仅是曦智科技在光子矩阵计算(oMAC)上的应用,为了进一步打破内存墙,他们需要在互联技术上有所突破。近日,曦智科技发布了全新的大数据互联解决方案,Hummingbird。Hummingbird是全球首个光子片上网络(oNOC)处理器,专为特定领域的AI负载所设计。

wKgaomSineOACtf-AADWbReBwos103.jpg
Hummingbird PCIe板卡 / 曦智科技


在Hummingbird上,曦智科技为64个核心打造了一个低延迟的全通广播网络,加上64个发射器与512个接收器,Hummingbird提供了一个灵活配置的高密度光学拓扑结构。此外,Hummingbird采用了光学IC与电子IC共封装进PCIe卡的方式,因此可以直接用于标准服务器中。曦智科技表示他们将在今年第三季度推出Hummingbird PCIe卡和SDK,并在今年的闪存峰会和HotChips上展示Demo和更多情报。

写在最后

其实追求光子计算的原因并不仅仅只有突破计算或互联瓶颈而已,在AI把计算量进一步拔高的当下,在维持性能扩张速度的同时控制功耗和碳排放已经变得越来越难了。要想解决这个问题,就不得不换一种出路,利用光子计算的结构来抵消晶体管的能耗。

固然光子计算芯片对于大部分半导体公司,还属于和量子计算一样够不着的概念。但现在看来,随着晶圆厂在硅光工艺上的成熟,EDA厂商逐渐完善的光电设计工具,光子计算依然是值得深入探索的新兴技术领域。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 光子计算
    +关注

    关注

    0

    文章

    12

    浏览量

    3060
收藏 人收藏

    评论

    相关推荐

    AI时代如何确保计算安全?

    正如其他技术革新一样,人工智能 (AI) 为人们的数字体验带来了机遇,但同时也伴随着诸多挑战。
    的头像 发表于 04-09 17:07 167次阅读

    【量子计算机重构未来 | 阅读体验】 跟我一起漫步量子计算

    计算机在加密和密码破解领域也具有巨大的潜力。传统的加密算法在量子计算机面前可能不再安全,这将促使我们发展更加安全的加密技术。虽然这带来了挑战,但同时也为信息安全领域提供了新的发展机遇
    发表于 03-13 19:28

    FPGA的力量:2024年AI计算领域的黑马?

    随着人工智能(AI)的快速发展,其对计算能力的需求也在持续增长。传统的中央处理器(CPU)和图形处理器(GPU)虽然在AI计算中占据主导地位
    的头像 发表于 03-07 09:37 421次阅读
    FPGA的力量:2024年<b class='flag-5'>AI</b><b class='flag-5'>计算</b>领域的黑马?

    什么是AI边缘计算AI边缘计算的特点和优势介绍

    随着人工智能的迅猛发展,AI边缘计算成为了热门话题。那么什么是AI边缘计算呢?简单来说,它是将人工智能技术引入边缘计算的新兴领域,旨在将
    的头像 发表于 02-01 11:42 331次阅读

    墨芯人工智能CEO王维:需要重新定义和设计AI计算

    AI时代,我们需要重新定义和设计AI计算机。仅依靠硅基的摩尔定律,2年翻一倍的线性增长的算力供给远不能满足指数
    的头像 发表于 01-12 11:12 647次阅读

    什么是光电量子计算芯片?

    什么是光电量子计算芯片? 光电量子计算芯片,也被称为光子量子计算芯片,是一种新型的计算芯片,利用光子
    的头像 发表于 01-09 14:42 352次阅读

    可以计算光最佳形状的光子芯片?

    就在最近,一个由多个大学的研究人员组成的国际团队突破了这一难题,让光学无线系统的数据传输不再有障碍,该研究团队制造出的新型光子芯片可计算出光的最佳形状,从而让光以最佳的效率穿过任何环境,相关研究成果发表在《自然-光子学》杂志上。
    的头像 发表于 12-06 16:03 323次阅读

    曦智科技提出计算新原理—光子矩阵计算(oMAC)

    人工智能的飞跃式发展使得人类社会对算力的需求呈指数增长,为计算硬件发展带来了全新的挑战与机遇。光具有高并行度、低延迟、低功耗的优势,意味着
    的头像 发表于 08-25 11:00 1119次阅读

    边缘计算ai技术是什么?

    边缘计算ai技术是什么? 边缘计算AI技术是指将人工智能技术应用于边缘计算中的一种新兴技术。边缘计算
    的头像 发表于 08-24 15:49 741次阅读

    什么叫AI计算AI计算力是什么?

    什么叫AI计算AI计算力是什么? 随着科技的不断发展,人工智能(AI)已经成为当今最热门的技术之一。而在人工智能中,
    的头像 发表于 08-24 15:49 3938次阅读

    AI边缘计算是什么意思?边缘ai是什么?AI边缘计算应用

    AI边缘计算是什么意思?边缘ai是什么?AI边缘计算应用  随着人工智能技术的不断发展,边缘计算
    的头像 发表于 08-24 15:18 1492次阅读

    AI和大语言模型给云计算和DevOps带来了哪些影响?

    通过降低认知负载和为即时管理、工单系统和代码生成等任务提供支持,人工智能(AI)和大型语言模型(LLMs)可能在云计算和 DevOps 领域发挥重要作用。主要的云计算供应商,如微软、谷歌和亚马逊云科技等,已经将
    的头像 发表于 08-03 15:26 866次阅读
    <b class='flag-5'>AI</b>和大语言模型给云<b class='flag-5'>计算</b>和DevOps<b class='flag-5'>带来了</b>哪些影响?

    智能网卡简介及其在高性能计算中的作用

    的 IP 模块都经过闭合时序预验证,以加快设计速度。结合部分重新配置(在IP设计中动态更改模块功能的能力),可以在现场无缝修改解决方案。随着对高速数据处理的需求继续呈指数增长,SmartNIC 技术
    发表于 07-28 10:10

    面向超快机器视觉的空时域光计算

    光子替代电子作为智能计算载体有望对当前视觉计算带来革命性的突破。
    发表于 06-15 15:28 146次阅读
    面向超快机器视觉的空时域光<b class='flag-5'>计算</b>

    边缘计算AI 的结合将带来怎样的变革?

    边缘计算与人工智能(AI)的结合将带来许多变革和创新。边缘计算指的是将计算和数据存储能力移动到接近数据源的边缘设备,例如
    的头像 发表于 05-26 11:19 403次阅读
    边缘<b class='flag-5'>计算</b>与 <b class='flag-5'>AI</b> 的结合将<b class='flag-5'>带来</b>怎样的变革?