0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

或将取代光学防抖,一种新型视觉传感器引入手机,高通相中的这项技术是什么来头?

晶芯观察 来源:电子发烧友网 作者:黄晶晶 2022-12-06 10:29 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

电子发烧友网报道(文/黄晶晶)在前不久举办的高通骁龙8 Gen2新品发布会上高通介绍了一款事件视觉传感器。这款传感器由神经视觉技术公司Prophesee研发的全球首个事件视觉传感器,能够实现亚毫秒级别时标时间,相当于每秒能捕获10000fps的数据,并且比标准方式少处理10至1000倍数据。同时,在这个事件驱动传感器的加持下,Spectra ISP能够在被极端光线隐藏的情境下实现大于120dB的宽动态范围,而能效水平可以小于10mW。Prophesee正是事件视觉技术的发明者和全球市场的领导者,电子发烧友网在近期的一次展会上采访了Prophesee副总裁兼大中华区总经理杨雪飞,了解这项技术和应用的最新进展。

已有多家手机厂商关切事件视觉传感器


“传统上由于曝光时间的存在手机拍摄运动物体会有模糊的现象。事件视觉传感器,由于数据量小、数据传输速度快,在曝光的时间过程中运动物体的轮廓信息始终会是清晰的。”杨雪飞谈到事件视觉传感器的好处。

为了使拍摄画面更清晰,一些手机厂商创新地使用了光学防抖、微云台等技术。但也存在搭载这类技术的成本高,以及精密机械装置掉落易损坏等问题。杨雪飞表示,如果能用普通RGB摄像头加上事件视觉传感器,再搭配软件算法的方式进行去模糊处理将是很大的技术进步。并可望替代光学防抖,显著降低零组件成本。

据了解,目前已经有几家手机厂商在开发事件视觉传感器的方案。

杨雪飞分析,一般来说图像采集后通过ISP解析,例如与某手机厂商合作时后端接高通的芯片组,通过ISP芯片进行图像处理,用软件算法调整画质。未来后端也可以直接接AI芯片,通过神经网络的系统做算法抽取,能够更快的识别物体。

类似的方案不仅可用于智能手机,还可以结合基于AI、机器学习的各类应用场景,例如XRVR应用做眼球追踪,可实时追踪眼球的运动方向,在测试当中测试人员可远距离操控电脑的音量大小等。

事件视觉传感器是怎样的


事件视觉传感器同样是采用CMOS工艺,但又与现有CMOS图像传感器所不同。

杨雪飞解析,我们核心的模拟电路和数字电路的设计方案和现有CMOS图像传感器的方案不同。我们可以实现全异步的输出,而现有的图像传感器都是以帧为单位的同步输出。异步输出是我们最核心的一个不同点。

虽然都是通过像素技术来传递影像,但我们的方案可以让每一个像素独立工作,不需要和周围的像素相关联。独立工作的优点是可以随时输出信号,并且数据量大幅度减少。它可以屏蔽掉静态的场景信息,只输出动态场景。而动态的信息才是机器最关心的。因为电脑要判断的是快速变化对它可能产生的影响,或者需要抓取的这些动态变化的场景。

未来在解析度上,一个方向是技术升级走向越高清晰度,从HD、720P到full HD,1080P。另一方面正如前述的眼球追踪等技术,它可以不需要太高的解析度,但需要更低功耗和更小尺寸。在高端和低成本低功耗两大路线上Prophesee都将推进发展。

仿生学技术逐渐商用化


事件视觉传感器技术来自于仿生源。Prophesee这家法国公司在成立最初也是为了推动欧盟的帮忙盲人复明的项目。

杨雪飞分析,在人眼的视网膜上面有两种感光的细胞,一种叫视锥细胞,一种叫视杆细胞。我们看色彩用的是视锥细胞,在视网膜上面大概只有几百万个。而在我们视网膜上有上亿个视杆细胞,视杆细胞才使得我们大脑皮层真正形成图像。因为视锥细胞给大脑皮层一个静态图像,但是我们之所以能够看到很迅速的变化,比如有一个东西经过,通过眼角的余光能感觉到。这个眼角的余光其实更多用的是视杆细胞,它告诉大脑亮度、运动变化,大脑就会形成一个影像。

欧盟的一个项目希望通过仿生学的技术帮助一些因视杆细胞问题而失明的人。而这一技术也逐渐拓展到工业应用,Prophesee的前几代视觉传感器产品已在欧洲、日本等地有多个落地项目。

在现场展示的一个应用于港口吊运货物的项目中,Prophesee基于事件视觉传感器的方案能够建立三维建模的场景,传统上这种三维建模需要拍大量的图像和大量的数据进行分析,而Prophesee的方案搭配6个不同闪烁频率的LED灯,相机通过精确地捕捉LED灯的闪烁频率区别每个灯来进行建模,从而获取货物运动的状态画面。

图源:电子发烧友网拍摄


Prophesee从2015年量产第一代传感器开始,基本保持两年一代的迭代速度,已陆续发布四代传感器,2023年将发布第五代传感器,会在消费类、工业类等领域推出满足不同需求的解决方案。

Prophesee作为一家神经拟态视觉传感器初创企业也得到了行业的关注和投资。索尼不仅投资了Prophesee,成为其股东,也与其进行合作开发。例如Prophesee第四代传感器就是和索尼合作开发,还有索尼已经有两个传感器型号用到Prophesee的技术,是将索尼的CMOS图像传感器技术与Prophesee独特的基于事件的Metavision视觉传感器技术相结合而实现的。

2021年国内投资机构韦豪创芯(依托于韦尔股份投资和支持)也投资了Prophesee。不难看出,CMOS图像传感器厂商都对Prophesee给予了密切的关注和认可。在最新与高通进行联合开发之后,这一事件视觉传感器又将给智能手机市场的创新带来浓墨重彩的风景。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • AI
    AI
    +关注

    关注

    91

    文章

    41080

    浏览量

    302576
  • 视觉传感器
    +关注

    关注

    3

    文章

    277

    浏览量

    23910
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    数字式环境光传感器一种环境光强度转换为‌数字信号‌的光电转换器件

    数字式环境光传感器(Digital Ambient Light Sensor, ALS)是一种环境光强度转换为‌数字信号‌的光电转换器件,广泛应用于手机、笔记本、智能家居等设备的自动
    的头像 发表于 04-15 09:18 109次阅读
    数字式环境光<b class='flag-5'>传感器</b>是<b class='flag-5'>一种</b><b class='flag-5'>将</b>环境光强度转换为‌数字信号‌的光电转换器件

    经典 PLC 程序(6) - 信号

    在PLC程序中,信号个非常重要的概念,用于处理由于机械开关触点抖动而产生的虚假信号。本文介绍下用梯形图、AWBlock和ST语言三
    的头像 发表于 01-20 11:47 678次阅读
    经典 PLC 程序(6) - 信号<b class='flag-5'>防</b><b class='flag-5'>抖</b>

    高端光学突破!南芯发布全链路闭环控制VCM驱动芯片

    电子发烧友网综合报道 近日,南芯科技正式发布SC29111 光学 (OIS) 音圈马达驱动芯片,该产品实现完整闭环控制,支持三轴补偿
    发表于 01-17 00:27 3095次阅读

    新型图像传感器突破光学极限

      Guoan Zheng教授的实验室开发了一种无需镜头即可实现光学超分辨率的新型图像传感器。该设备受捕捉首张黑洞图像的望远镜阵列启发,利用多个传感
    的头像 发表于 01-12 14:35 191次阅读
    <b class='flag-5'>新型</b>图像<b class='flag-5'>传感器</b>突破<b class='flag-5'>光学</b>极限

    南芯科技正式发布光学音圈马达驱动芯片SC29111

    补偿,为智能手机、平板电脑及可穿戴设备的摄像头模组,提供从感知到执行的全链路、高精度解决方案,标志着南芯科技在光学
    的头像 发表于 01-10 17:06 2518次阅读

    解析光学心率传感器

    全面解析光学心率传感器:工作原理、分类、应用场景与技术细节 、引言 光学心率传感器,特别是基于
    的头像 发表于 10-23 09:44 2070次阅读

    基于改进滑模观测的PMSM无位置传感器控制

    为解决传统基于滑模观测永磁同步电机无位置传感器控制系统存在的振问题,本文提出了一种基于非线性能量函数参考模型的新型改进滑模观测
    发表于 08-06 14:38

    解锁美新半导体光学驱动芯片奥秘

    在近期举办的“芯品星期三”线上演讲活动中,美新半导体携其重磅产品 —— 光学驱动芯片 MSD4100WA 精彩亮相。
    的头像 发表于 08-05 15:14 1514次阅读

    一种带通滤波在无位置传感器转子检测中的应用

    摘 要:论文研究了一种直流无刷电机的无位置传感器的转子位置的硬件电路检测方法。结合传统“反电动势\"方法,分析并设计了一种新的带通滤波延时检测电路。该电路不仅可以抑制高频分量和消除直
    发表于 08-04 14:56

    新品发布 | 多维科技推出超小型 TMR 线性传感器TMR2531和TMR2539用于智能手机摄像头马达光学图像(OIS)

    2025年7月10日消息,多维科技(Dowaytech)推出用于智能手机摄像头马达光学图像(OIS)的超小尺寸TMR2531和TMR2539线性磁场
    的头像 发表于 07-10 20:04 1660次阅读
    新品发布 | 多维科技推出超小型 TMR 线性<b class='flag-5'>传感器</b>TMR2531和TMR2539用于智能<b class='flag-5'>手机</b>摄像头马达<b class='flag-5'>光学</b>图像<b class='flag-5'>防</b><b class='flag-5'>抖</b>(OIS)

    RGB+EVS视觉融合相机:事件相机的革命性突破​

    事件相机(EVS)是一种新型视觉传感器,其设计灵感来源于生物视觉系统。
    的头像 发表于 07-01 14:08 5633次阅读
    RGB+EVS<b class='flag-5'>视觉</b>融合相机:事件相机的革命性突破​

    新型传感器技术@Melexis

    Triaxis是一种新型传感器技术,通过单个传感器实现高精度三轴磁场测量。适用于种类繁多的线性、角度和三维应用。传统的霍尔效应
    的头像 发表于 07-01 12:02 1076次阅读
    <b class='flag-5'>新型</b>磁<b class='flag-5'>传感器</b><b class='flag-5'>技术</b>@Melexis

    常见的温湿度传感器类型?

    温湿度传感器一种用于测量环境温度和湿度的设备,广泛应用于工业、农业、气象等领域。以下是几种常见的温湿度传感器类型及其优缺点: 电容式湿度传感器 电容式湿度
    发表于 06-24 09:24

    VirtualLab:CMOS传感器仿真

    分析仪在CMOS示例中用于可视化整个组件中场传播的横截面。 微透镜阵列CMOS传感器分析 利用严格的FMM/RCWA,我们模拟了个像素尺寸等于小于2µm的CMOS传感器,并研究了
    发表于 06-16 08:49

    广东芯赛威首款SDC易重构™光学芯片重磅落地,重新定义光学驱动应用!

    全球APOIS光学芯片市场长期由海外企业的统占,由于传感器+SoC的复杂交叉领域和有限面积上增加功能的设计难度,其国产化率不足1%。由此折射出中国半导体产业链的隐痛——
    的头像 发表于 05-13 11:19 1340次阅读