0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

视网膜形态芯片及其不同的图像信息处理方式

ExMh_zhishexues 来源:知社学术圈 作者:知社学术圈 2020-07-01 16:22 次阅读

在人脑处理的信息中,超过80%都是通过眼睛获得的。人眼不仅可以进行信息的探测和同步处理,而且整体功耗极小(远小于20瓦)。相比而言,传统的机器视觉系统需要先探测再处理,使用的图像传感器在探测目标图像的同时会产生大量冗余信息,此类信息通过有限的带宽传输给所连接的计算机进行处理和分析,从而导致较大的时间延迟和较高的功耗。因此,构建一个可以媲美人眼、具备同步进行信息探测和处理功能的类脑视觉传感器是人们一直追求的梦想,对于智能工业自动驾驶、智能安防等应用的发展也至关重要。近日,南京大学物理学院缪峰教授团队基于二维材料异质结,在可重构类脑视觉传感器领域取得重要进展。

二维材料有望成为后摩尔时代重要的基础电子材料,该领域的发展也让人们可以对原子层材料进行乐高式的堆叠和集成。近年来,南京大学缪峰团队(https://nano.nju.edu.cn)利用“原子乐高”分别在耐高温忆阻器(Nature Electronics 2018)、弹道雪崩探测器件(Nature Nanotechnology 2019)、室温高灵敏红外探测器(Science Advances 2017)等方向取得突破。

在此基础上,该团队近日提出,利用二维材料范德华异质结器件的结构特点和可调的光响应特性,能够实现对人眼视网膜的层状结构和感光细胞、双极细胞的生物特性模拟,基于这种类视网膜形态器件,团队进一步构建了能够对感知的图片信息进行同步处理的类脑视觉器件阵列。该工作有望为未来开发基于范德华异质结的新型类脑视觉芯片提供物理和技术基础。相关研究成果以《Gate tunable van der Waals heterostructure for reconfigurable neural network vision sensor》(基于栅极可调范德华异质结的可重构神经网络视觉传感器)为题于 2020年6月24日发表在Science Advances上。南京大学物理学院博士生王晨宇和梁世军副研究员为共同第一作者,缪峰教授和美国麻省大学的杨建华教授为该工作的共同通讯作者,该工作同时得到了王振林教授课题组、陈坤基教授课题组和王肖沐教授课题组的实验协助,和国家杰出青年科学基金、国家自然科学基金等项目的资助,以及微结构科学与技术协同创新中心的支持。

研究成果

人类视觉系统强大的信息处理能力很大程度上依赖于视网膜的结构和功能。视网膜中的主要细胞包括感光细胞、双极细胞等,这些细胞之间是垂直分层分布的结构。光透过瞳孔入射到视网膜上后,感光细胞将入射光转换为电学信号,流经双极性细胞,利用双极性细胞的生物特性对电学信息进行一定的加工和处理,加工后的图像信息仅仅保留其主要的特征,再传输至大脑皮层进行进一步的图像处理和理解。通过这种方式,视网膜在一定程度上实现了信息探测和处理的同步进行。为了实现对视网膜结构和功能的逼真模拟,在该工作中,缪峰团队提出可以通过“原子乐高”的方式搭建基于二维材料垂直异质结的类脑视觉传感器,这些垂直结构不仅能够自然地模仿视网膜的垂直分层结构,而且异质结中包含的不同二维材料可被用来模拟视网膜中不同细胞的功能。

在实验中,缪峰团队首先将机械剥离的薄层硒化钨和氮化硼以及氧化铝制备成垂直异质结器件。该异质结器件在无背栅或者正背栅电压作用下,呈现出正的光电导行为,类似于双极细胞的正的光响应;当所加背栅电压为负的时候,器件展现出了负光电响应特征与双极细胞的负响应类似。研究团队通过一系列的对比实验结果,指出器件的负光学响应来源于光诱发带电杂质产生的电场屏蔽效应。通过控制垂直异质结器件的栅压,团队首次实现了对感光细胞和双极细胞的生物功能的模拟,器件的响应时间和功耗均接近人类视网膜的水平(图1)。

图 1. 视网膜和视网膜形态器件。(a)视网膜的垂直分层结构包括了视锥细胞和双极性细胞以及视神经节细胞;(b)双极性细胞在不同刺激条件下所具有的生物光学响应特征;(c)类视网膜形态器件的光学图;(d)垂直异质结器件在不同栅压作用下展现出不同的光学响应,类似于视网膜结构中双极性细胞的生物特征。

进一步,研究团队将垂直异质结器件组装成 3×3 的一个阵列,利用异质结器件栅压可调的光电响应特征,将图像处理中常用的数学卷积核映射到3×3 的器件阵列中,实现了可重构的图像信息处理功能(图2),包括边缘增强、图像风格化、图像强度校正等。研究发现这些实验结果与采用相同卷积核处理后的模拟结果一致,这表明基于垂直异质结阵列能够被用于在硬件上直接进行图片信息的处理。

图 2. 可重构的视网膜形态芯片及其不同的图像信息处理方式。(a)背栅独立控制的可重构视觉传感器阵列示意图;利用传感器阵列对南京大学校徽图片进行(b)图像风格化(c)边缘增强(d)强度校正处理,所处理后的图片信息和采用相同卷积核的模拟结果一致。

基于范德华异质结器件的功能应用除了同步的探测和信息的处理之外,研究团队发现器件阵列还可以用于图片的分类任务。通过将器件电导作为神经网络的权值,背栅的调节变化作为更新神经网络权值的一种手段,范德华异质结器件阵列可以执行神经网络的功能。研究团队在实验中采用软件辅助硬件的训练方法实现了对输入图像“N”,” J”, “U”字母的快速识别(图3)。这一项工作从原理上证明,利用范德华异质结的特性模拟人类视网膜结构和功能的研究思路有望将来被用来实现新型的类脑视觉芯片。

图 3. 基于范德华异质结视觉形态的传感器神经网络及训练示意图和识别结果。(a)待识别的图片字母信息;(b)异质结视觉形态传感器神经网络训练示意图;(c)N”,” J”, “U”三类字母平均识别结果与训练次数的关系;(d)N”,” J”, “U”三类字母的分类情况与训练次数的关系。
责任编辑:pj

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 图像传感器
    +关注

    关注

    68

    文章

    1735

    浏览量

    128849
  • 机器视觉
    +关注

    关注

    161

    文章

    4043

    浏览量

    118354
  • 自动驾驶
    +关注

    关注

    773

    文章

    13032

    浏览量

    163203
收藏 人收藏

    评论

    相关推荐

    滤波器在信息处理中的关键作用和应用!

    在当今数字化时代,信息处理已经成为了各行各业的核心任务。无论是音频、视频、图像还是传感器信号,这些信号往往包含着各种干扰和噪声。 为了提取有效信息并去除干扰和噪声,滤波器成为了一项不可或缺
    的头像 发表于 03-18 10:40 230次阅读
    滤波器在<b class='flag-5'>信息处理</b>中的关键作用和应用!

    智慧医疗之医院智慧信息处理系统

    智慧医疗之医院智慧信息处理系统是一种基于物联网和人工智能技术的创新解决方案,旨在提升医院的信息处理效率和医疗服务质量。该系统通过将各种医疗设备、传感器和信息系统连接起来,实现医院内部各个环节的智能化
    的头像 发表于 01-11 11:14 251次阅读
    智慧医疗之医院智慧<b class='flag-5'>信息处理</b>系统

    使用相序识别仪时,常见故障原因以及处理方式概述

    使用相序识别仪时,常见故障原因以及处理方式概述  相序识别仪(Phase Sequence Relay)是一种用于工业和家庭电气系统中的设备,主要用于检测和纠正电源的相序错误。然而,相序识别
    的头像 发表于 12-19 15:04 518次阅读

    信息处理四个过程之采集

    信息处理
    橙群微电子
    发布于 :2023年11月20日 15:45:45

    按键消抖都有哪些处理方式

    按键消抖都有哪些处理方式除了硬件消抖电路用软件怎么实现
    发表于 11-01 07:06

    基于Hadoop云计算智能家居信息处理平台

    电子发烧友网站提供《基于Hadoop云计算智能家居信息处理平台.doc》资料免费下载
    发表于 10-30 11:06 0次下载
    基于Hadoop云计算智能家居<b class='flag-5'>信息处理</b>平台

    2023数字视网膜技术创新大讲堂:深开鸿探索智慧城市应用实践之路

    10月25日,2023数字视网膜技术创新大讲堂在深圳拉开帷幕。活动分为上午的“数字视网膜技术创新大讲堂
    的头像 发表于 10-26 08:34 564次阅读
    2023数字<b class='flag-5'>视网膜</b>技术创新大讲堂:深开鸿探索智慧城市应用实践之路

    机器视觉之图像增强和图像处理

    对原始获取图像进行一系列的运算处理,称为图像处理图像处理是机器视觉技术的方法基础,包括
    发表于 10-23 10:43 227次阅读
    机器视觉之<b class='flag-5'>图像</b>增强和<b class='flag-5'>图像</b><b class='flag-5'>处理</b>

    电主轴使用时出现异响的处理方式

    任何产品都无法保证不会出现故障,电主轴当然也做不到这一点,而且事实上如果操作不好的话,电主轴的故障还是很多的,而且会呈现出不同的表现,从声音这一点上就可以证明。那么电主轴使用时出现异响的处理方式?接下来就跟着深圳市恒兴隆机电有限公司小编一起来看下吧!
    的头像 发表于 09-18 11:43 589次阅读

    光学图像信息传递系统概述

    光学图像信息传递系统构成 图1.光学图像信息传递系统实例 □ 一个完整的图像信息处理链是光学工程
    的头像 发表于 08-09 06:55 271次阅读
    光学<b class='flag-5'>图像</b><b class='flag-5'>信息</b>传递系统概述

    嵌入式系统C语言编程中主要的错误处理方式

    本文主要总结嵌入式系统C语言编程中,主要的错误处理方式
    发表于 07-24 16:40 537次阅读
    嵌入式系统C语言编程中主要的错误<b class='flag-5'>处理方式</b>

    微型神经形态器件模拟人类视觉和记忆

    人眼只有一个视网膜,可以捕捉整个图像,然后由大脑进行处理,以识别物体、颜色和其他视觉特征。研究团队从人眼中汲取灵感,创造出具有类似功能的“相机”。该器件通过使用单一元素图像传感器来模拟
    的头像 发表于 06-21 10:28 372次阅读

    图像处理与机器视觉

    常用的图像增强处理方式包括灰度变换、直方图修正、图像锐化、噪声去除、几何畸变校正、频域滤波和彩色增强等。由于图像增强与感兴趣的物体特性、观察者的习惯和
    发表于 06-20 15:41 3次下载

    光学图像信息传递系统概述

    一个完整的图像信息处理链是光学工程、电子工程和软件工程的综合。
    的头像 发表于 06-08 16:24 415次阅读
    光学<b class='flag-5'>图像</b><b class='flag-5'>信息</b>传递系统概述

    形态学运算与仿真:图像处理形态学操作的简单解释

    形态学是图像处理领域的一个分支,主要用于描述和处理图像中的形状和结构。形态学可以用于提取
    的头像 发表于 05-23 15:52 766次阅读
    <b class='flag-5'>形态</b>学运算与仿真:<b class='flag-5'>图像</b><b class='flag-5'>处理</b>中<b class='flag-5'>形态</b>学操作的简单解释