斯坦福大学研究人员已经证明,在光学芯片上直接训练人工神经网络是可能的。这一重大突破表明,光学电路可以执行基于电子技术的人工神经网络的关键功能,并且可以更便宜、更快和更节能的方式来执行诸如语音或图像识别等复杂任务。
研究人员已经证明,神经网络可以使用光学电路(图中的蓝色矩形)进行训练。在整个网络中,会有几个连接在一起。激光输入(绿色)信息,通过光学(黑色)芯片。该芯片使用非均匀波束执行对人工神经网络至关重要的操作,它是由曲线段表示的。这些部分将两个相邻的部分连接在一起,并通过调整光学相位(红色和蓝色物体)的设置来调谐,它们的作用就像可以在训练期间调整以执行给定任务的“转轨”。这一研究结果由斯坦福大学研究组的Tyler W. Hughes所证明。
“使用光学芯片比数字计算机更有效地执行神经网络,可以解决更复杂的问题。”斯坦福大学研究小组的Shanhui Fan说。“例如,这将增强人工神经网络执行自动驾驶汽车所需任务的能力,或者对口头问题作出适当的反应。它还能以我们现在无法想象的方式改善我们的生活。”
尽管光学人工神经网络最近被实验证明,但训练步骤是在传统的数字计算机上使用一个模型进行的,然后将最后的设置输入到光学电路中。在光学学会的拥有很高影响力的研究杂志上,斯坦福大学报告了一种直接在设备中训练这些网络的方法,这种方法是通过实现“光学模拟”算法来实现的,这是训练常规神经网络的标准方法。
“使用物理设备而不是计算机模型进行训练可以使训练过程更加精确。”Hughes说。“此外,由于训练步骤是神经网络实现过程中非常昂贵的部分,因此执行这一步骤对于提高人工网络的计算效率、速度和功耗至关重要。”
基于光的网络
虽然神经网络处理通常使用传统计算机执行,但仍有大量工作要设计专门为神经网络计算而优化的硬件。基于光学的设备有很大的兴趣,因为它们可以并行执行,同时使用比电子设备更少的能量。
在这项新的工作中,研究人员通过设计一种传统计算机训练神经网络的方法设计了一种光学芯片,这对实现全光神经网络提出了重大挑战。
一个人工神经网络可以被认为是一个黑匣子,有大量的人工神经网络。在训练过程中,每个训练单元都会有一些变化,然后对系统进行测试,看看算法的性能是否有所提高。
“我们的方法不仅可以帮助你预测转向哪个方向,而且还可以帮助你预测你应该把每一种方法都转化成更接近预期的性能。”Hughes说。“我们的方法大大加快了训练的速度,特别是对于大型网络,因为我们并行地获得了关于每种方法的信息。”
片上训练
新的训练协议工作在光路上,通过改变光学相位的设置来调整光路。将待处理的激光束编码信息发射到光路中,通过光束进行光路传输,并对其进行调整,以训练神经网络算法。
在新的训练协议中,激光器首先通过光路输入。在设备上,计算与预期结果的差异。然后,该信息被用来产生一个新的光信号,该光信号通过光网络以相反的方向发送回来。在这个过程中,研究人员通过测量每个光束周围的光强度,展示了如何并行地检测神经网络性能将如何随着光束的设置而变化。根据这些信息可以改变相位设置,并且过程可以重复,直到神经网络产生期望的结果。
研究人员通过教授一种执行复杂功能的算法,例如在一组点内提取复杂的特征,用光学模拟测试了他们的训练技术。他们发现,光学实现功能与传统计算机相似。
“我们的工作证明,你可以利用物理定律来实现计算机科学算法,”Fan说。“通过在光领域对这些网络进行训练,它表明光神经网络系统可以单独使用光学来实现某些更高的性能。”
目前,研究人员正计划进一步优化该系统,并希望利用它实现神经网络任务的实际应用。他们设计的一般方法可用于各种神经网络体系结构和其他应用,如光学。
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。
举报投诉
-
人工神经网络
+关注
关注
1文章
120浏览量
15148 -
光学芯片
+关注
关注
0文章
17浏览量
4753
发布评论请先 登录
相关推荐
热点推荐
为什么 VisionFive V1 板上的 JH7100 中并存 NVDLA 引擎和神经网络引擎?
我想知道为什么 VisionFive V1 板上的 JH7100 中并存 NVDLA 引擎和神经网络引擎,请问?您能否举一些关于他们的用例的例子?
发表于 03-25 06:01
CNN卷积神经网络设计原理及在MCU200T上仿真测试
数的提出很大程度的解决了BP算法在优化深层神经网络时的梯度耗散问题。当x>0 时,梯度恒为1,无梯度耗散问题,收敛快;当x<0 时,该层的输出为0。
CNN
发表于 10-29 07:49
NMSIS神经网络库使用介绍
()
riscv_fully_connected_q7()
在NS上跑时和arm的神经网络库一致,可在github上下载CMSIS的库,然后加入到自己库所在的路径下即可。
发表于 10-29 06:08
在Ubuntu20.04系统中训练神经网络模型的一些经验
本帖欲分享在Ubuntu20.04系统中训练神经网络模型的一些经验。我们采用jupyter notebook作为开发IDE,以TensorFlow2为训练框架,目标是
发表于 10-22 07:03
CICC2033神经网络部署相关操作
在完成神经网络量化后,需要将神经网络部署到硬件加速器上。首先需要将所有权重数据以及输入数据导入到存储器内。
在仿真环境下,可将其存于一个文件
发表于 10-20 08:00
中国芯片研制获重大突破 全球首款亚埃米级快照光谱成像芯片
“玉衡”,相关研究成果发表在《自然》。这是我国在智能光子领域的重大突破,标志着我国智能光子技术在高精度成像测量领域迈上新台阶。 此外我们还看
液态神经网络(LNN):时间连续性与动态适应性的神经网络
1.算法简介液态神经网络(LiquidNeuralNetworks,LNN)是一种新型的神经网络架构,其设计理念借鉴自生物神经系统,特别是秀丽隐杆线虫的神经结构,尽管这种微生物的
【「AI芯片:科技探索与AGI愿景」阅读体验】+神经形态计算、类脑芯片
AI芯片不仅包括深度学细AI加速器,还有另外一个主要列别:类脑芯片。类脑芯片是模拟人脑神经网络架构的芯片。它结合微电子技术和新型
发表于 09-17 16:43
无刷电机小波神经网络转子位置检测方法的研究
摘要:论文通过对无刷电机数学模型的推导,得出转角:与三相相电压之间存在映射关系,因此构建了一个以三相相电压为输人,转角为输出的小波神经网络来实现转角预测,并采用改进遗传算法来训练网络结构与参数,借助
发表于 06-25 13:06
神经网络专家系统在电机故障诊断中的应用
的诊断误差。仿真结果验证了该算法的有效性。
纯分享帖,需要者可点击附件免费获取完整资料~~~*附件:神经网络专家系统在电机故障诊断中的应用.pdf【免责声明】本文系网络转载,版权归原作者所有。本文所用视频、图片、文字如涉及作品版
发表于 06-16 22:09
神经网络RAS在异步电机转速估计中的仿真研究
,在一定程度上扩展了转速估计范围。
纯分享帖,需要者可点击附件免费获取完整资料~~~*附件:神经网络RAS在异步电机转速估计中的仿真研究.pdf【免责声明】本文系网络转载,版权归原作者所有。本文所用视频、图片、文字如涉及作品版权
发表于 06-16 21:54
中软国际在大型银行AI项目领域实现重大突破
近日,中软国际成功中标某全国性股份制银行2025年大模型算力扩容项目,标志着中软国际在大型银行AI项目领域实现重大突破,进一步巩固了其在金融科技领域的领先地位。
重大突破!在光学芯片上直接训练人工神经网络
评论