0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

重大突破!在光学芯片上直接训练人工神经网络

坚白 来源:电子发烧友网 作者:坚白 2019-03-05 13:26 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

斯坦福大学研究人员已经证明,在光学芯片上直接训练人工神经网络是可能的。这一重大突破表明,光学电路可以执行基于电子技术的人工神经网络的关键功能,并且可以更便宜、更快和更节能的方式来执行诸如语音或图像识别等复杂任务。
研究人员已经证明,神经网络可以使用光学电路(图中的蓝色矩形)进行训练。在整个网络中,会有几个连接在一起。激光输入(绿色)信息,通过光学(黑色)芯片。该芯片使用非均匀波束执行对人工神经网络至关重要的操作,它是由曲线段表示的。这些部分将两个相邻的部分连接在一起,并通过调整光学相位(红色和蓝色物体)的设置来调谐,它们的作用就像可以在训练期间调整以执行给定任务的“转轨”。这一研究结果由斯坦福大学研究组的Tyler W. Hughes所证明。
“使用光学芯片比数字计算机更有效地执行神经网络,可以解决更复杂的问题。”斯坦福大学研究小组的Shanhui Fan说。“例如,这将增强人工神经网络执行自动驾驶汽车所需任务的能力,或者对口头问题作出适当的反应。它还能以我们现在无法想象的方式改善我们的生活。”
人工神经网络是一种人工智能,它使用连接的单元以类似于大脑处理信息的方式处理信息。使用这些网络来执行一个复杂的任务,例如语音识别,需要对算法进行关键步骤的训练,以适应不同的输入,如不同的单词。
尽管光学人工神经网络最近被实验证明,但训练步骤是在传统的数字计算机上使用一个模型进行的,然后将最后的设置输入到光学电路中。在光学学会的拥有很高影响力的研究杂志上,斯坦福大学报告了一种直接在设备中训练这些网络的方法,这种方法是通过实现“光学模拟”算法来实现的,这是训练常规神经网络的标准方法。
“使用物理设备而不是计算机模型进行训练可以使训练过程更加精确。”Hughes说。“此外,由于训练步骤是神经网络实现过程中非常昂贵的部分,因此执行这一步骤对于提高人工网络的计算效率、速度和功耗至关重要。”
基于光的网络
虽然神经网络处理通常使用传统计算机执行,但仍有大量工作要设计专门为神经网络计算而优化的硬件。基于光学的设备有很大的兴趣,因为它们可以并行执行,同时使用比电子设备更少的能量。
在这项新的工作中,研究人员通过设计一种传统计算机训练神经网络的方法设计了一种光学芯片,这对实现全光神经网络提出了重大挑战。
一个人工神经网络可以被认为是一个黑匣子,有大量的人工神经网络。在训练过程中,每个训练单元都会有一些变化,然后对系统进行测试,看看算法的性能是否有所提高。
“我们的方法不仅可以帮助你预测转向哪个方向,而且还可以帮助你预测你应该把每一种方法都转化成更接近预期的性能。”Hughes说。“我们的方法大大加快了训练的速度,特别是对于大型网络,因为我们并行地获得了关于每种方法的信息。”
片上训练
新的训练协议工作在光路上,通过改变光学相位的设置来调整光路。将待处理的激光束编码信息发射到光路中,通过光束进行光路传输,并对其进行调整,以训练神经网络算法。
在新的训练协议中,激光器首先通过光路输入。在设备上,计算与预期结果的差异。然后,该信息被用来产生一个新的光信号,该光信号通过光网络以相反的方向发送回来。在这个过程中,研究人员通过测量每个光束周围的光强度,展示了如何并行地检测神经网络性能将如何随着光束的设置而变化。根据这些信息可以改变相位设置,并且过程可以重复,直到神经网络产生期望的结果。
研究人员通过教授一种执行复杂功能的算法,例如在一组点内提取复杂的特征,用光学模拟测试了他们的训练技术。他们发现,光学实现功能与传统计算机相似。
“我们的工作证明,你可以利用物理定律来实现计算机科学算法,”Fan说。“通过在光领域对这些网络进行训练,它表明光神经网络系统可以单独使用光学来实现某些更高的性能。”
目前,研究人员正计划进一步优化该系统,并希望利用它实现神经网络任务的实际应用。他们设计的一般方法可用于各种神经网络体系结构和其他应用,如光学。
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 人工神经网络

    关注

    1

    文章

    120

    浏览量

    15148
  • 光学芯片
    +关注

    关注

    0

    文章

    17

    浏览量

    4753
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    为什么 VisionFive V1 板的 JH7100 中并存 NVDLA 引擎和神经网络引擎?

    我想知道为什么 VisionFive V1 板的 JH7100 中并存 NVDLA 引擎和神经网络引擎,请问?您能否举一些关于他们的用例的例子?
    发表于 03-25 06:01

    神经网络的初步认识

    日常生活中的智能应用都离不开深度学习,而深度学习则依赖于神经网络的实现。什么是神经网络神经网络的核心思想是模仿生物神经系统的结构,特别是大脑中神经
    的头像 发表于 12-17 15:05 449次阅读
    <b class='flag-5'>神经网络</b>的初步认识

    CNN卷积神经网络设计原理及MCU200T仿真测试

    数的提出很大程度的解决了BP算法优化深层神经网络时的梯度耗散问题。当x&gt;0 时,梯度恒为1,无梯度耗散问题,收敛快;当x&lt;0 时,该层的输出为0。 CNN
    发表于 10-29 07:49

    NMSIS神经网络库使用介绍

    () riscv_fully_connected_q7()   NS跑时和arm的神经网络库一致,可在github上下载CMSIS的库,然后加入到自己库所在的路径下即可。
    发表于 10-29 06:08

    Ubuntu20.04系统中训练神经网络模型的一些经验

    本帖欲分享Ubuntu20.04系统中训练神经网络模型的一些经验。我们采用jupyter notebook作为开发IDE,以TensorFlow2为训练框架,目标是
    发表于 10-22 07:03

    CICC2033神经网络部署相关操作

    完成神经网络量化后,需要将神经网络部署到硬件加速器。首先需要将所有权重数据以及输入数据导入到存储器内。 仿真环境下,可将其存于一个文件
    发表于 10-20 08:00

    中国芯片研制获重大突破 全球首款亚埃米级快照光谱成像芯片

    “玉衡”,相关研究成果发表《自然》。这是我国智能光子领域的重大突破,标志着我国智能光子技术高精度成像测量领域迈新台阶。 此外我们还看
    的头像 发表于 10-16 17:58 2776次阅读

    液态神经网络(LNN):时间连续性与动态适应性的神经网络

    1.算法简介液态神经网络(LiquidNeuralNetworks,LNN)是一种新型的神经网络架构,其设计理念借鉴自生物神经系统,特别是秀丽隐杆线虫的神经结构,尽管这种微生物的
    的头像 发表于 09-28 10:03 1524次阅读
    液态<b class='flag-5'>神经网络</b>(LNN):时间连续性与动态适应性的<b class='flag-5'>神经网络</b>

    【「AI芯片:科技探索与AGI愿景」阅读体验】+神经形态计算、类脑芯片

    AI芯片不仅包括深度学细AI加速器,还有另外一个主要列别:类脑芯片。类脑芯片是模拟人脑神经网络架构的芯片。它结合微电子技术和新型
    发表于 09-17 16:43

    神经网络的并行计算与加速技术

    随着人工智能技术的飞速发展,神经网络众多领域展现出了巨大的潜力和广泛的应用前景。然而,神经网络模型的复杂度和规模也不断增加,这使得传统的
    的头像 发表于 09-17 13:31 1280次阅读
    <b class='flag-5'>神经网络</b>的并行计算与加速技术

    无刷电机小波神经网络转子位置检测方法的研究

    摘要:论文通过对无刷电机数学模型的推导,得出转角:与三相相电压之间存在映射关系,因此构建了一个以三相相电压为输人,转角为输出的小波神经网络来实现转角预测,并采用改进遗传算法来训练网络结构与参数,借助
    发表于 06-25 13:06

    神经网络专家系统电机故障诊断中的应用

    的诊断误差。仿真结果验证了该算法的有效性。 纯分享帖,需要者可点击附件免费获取完整资料~~~*附件:神经网络专家系统电机故障诊断中的应用.pdf【免责声明】本文系网络转载,版权归原作者所有。本文所用视频、图片、文字如涉及作品版
    发表于 06-16 22:09

    神经网络RAS异步电机转速估计中的仿真研究

    ,在一定程度上扩展了转速估计范围。 纯分享帖,需要者可点击附件免费获取完整资料~~~*附件:神经网络RAS异步电机转速估计中的仿真研究.pdf【免责声明】本文系网络转载,版权归原作者所有。本文所用视频、图片、文字如涉及作品版权
    发表于 06-16 21:54

    基于FPGA搭建神经网络的步骤解析

    本文的目的是一个神经网络已经通过python或者MATLAB训练好的神经网络模型,将训练好的模型的权重和偏置文件以TXT文件格式导出,然后
    的头像 发表于 06-03 15:51 1487次阅读
    基于FPGA搭建<b class='flag-5'>神经网络</b>的步骤解析

    中软国际大型银行AI项目领域实现重大突破

    近日,中软国际成功中标某全国性股份制银行2025年大模型算力扩容项目,标志着中软国际大型银行AI项目领域实现重大突破,进一步巩固了其金融科技领域的领先地位。
    的头像 发表于 05-06 11:46 1154次阅读
    中软国际<b class='flag-5'>在</b>大型银行AI项目领域实现<b class='flag-5'>重大突破</b>