0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

基于YOLOv2模型的监控系统丧失对人物的识别能力,从而实现在摄像头下顺利”隐身”的效果

电子工程师 来源:lq 2019-04-29 17:37 次阅读

近日,一个来自比利时鲁汶大学(KU Leuven)的科研团队发现,使用特殊设计的图案遮挡部分身体,就可以让基于 YOLOv2 模型的监控系统丧失对人物的识别能力,从而实现在摄像头下顺利”隐身”的效果。他们把这样的图案叫做”对抗图案”(Adversarial Patch)。

监控探头在如今的大小城市中随处可见。据报道,北京市在 2015 年就已建成了由 3 万余个监控探头组成的立体防控网络,覆盖了城市街道的所有重点部位。这些探头在交通管理、治安联防、环境保护等各个方面,都发挥着越来越重要的作用。

近年来,卷积神经网络(CNN)模型在学术界早已风生水起。其中许多技术的应用,特别是用于监控探头的对象识别,也已经进入了我们的日常生活。

图 |基于卷积神经网络 (CNN) 的街面对象识别(来源:Dayan Mendez/Ebenezer Technologies)

然而,CNN模型的缺点却也十分明显。

首先,我们目前无法彻底地解释它实现图像识别的机制。CNN 模型的结构通常十分复杂。在训练中,模型不断地识别不同类型的图片,自主调整上百万个参数的数值,最终就可以达到极高的识别准确率。

这就像是一个”黑箱子”,我们只知道放入一个图片,就能得到它的类别名称,但是我们看不到也弄不清箱子里的过程。更重要的是,由于训练数据中并不存在为了迷惑识别器而特意设计的图片(比如给衣服印上特制图案),识别器对不常见的变化就几乎完全不能宽容。

Ian Goodfellow 带领的团队曾经做过这样的实验,对图片中个别的像素点数值做一些人眼无法察觉的细微修改之后,CNN模型就彻底丧失了识别的准确率。正所谓即使数据只是”失之毫厘”,CNN 识别器的功效也会”谬以千里”。

由鲁汶大学副教授 Toon Goedemé带领的团队,便是利用了 CNN 模型的这些”弱点”。发明了一套严谨的方法,用来生成可以迷惑 CNN 的”对抗图案”。用图案挡住人体的某个部分,监控探头就无法检测到这个人的存在。

图 |使用”对抗图案”让识别器无法识别(来源:Simen Thys/KU Leuven)

实验中,被 Toon Goedemé 和他的团队”迷惑”的摄像头,使用著名的 YOLOv2 卷积神经网络。YOLOv2 属于实时对象识别模型,它的结构是由 9 个不同尺寸的卷积层连接而成。当一张图片从输入层进入 YOLOv2 后,在输出层会得到一系列的向量。向量里记录的是以原始图片上各个位置为中心,5 种不同尺寸的检测框中存在探测目标的概率,他们把这些概率中的最大值计作 L_obj。

图 |YOLOv2 工作流程示意图。中间上图表示不同尺寸和位置的检测框,中间下图表示按照概率划分出可能存在目标的区域。(来源:Simen Thys/KU Leuven)

要想生成可以迷惑 YOLOv2 的”对抗图案”,首先需要有一个可以准确识别人物的 YOLOv2 模型,并且随机生成一张初始的”对抗图案”。然后,使用 YOLOv2 模型将每张训练图片中的人体都框选出来。再用现有的”对抗图案”覆盖住已识别的一部分人体。最后把覆盖后的训练图片送回到模型中再次识别,并计算相应的优化目标值 L。然后使用反向传播法 (backpropagation) 和 Adam 算法,相应调整”对抗图案”上的像素数值。不断重复覆盖识别和调整像素值的过程,持续降低目标值 L,直至得到最优的”对抗图案”。

整个过程中,YOLOv2 模型的参数值没有任何的改变,它仅仅被用来改进”对抗图案”。

图 |”对抗图案”的生成工艺(来源:Simen Thys/KU Leuven)

为了生成效果最佳的”对抗图案”,研究人员对比了优化目标 L 的不同计算方法。其中最小化识别率(Minimising Objectness Score, OBJ)方法取得了最满意的效果。在 OBJ 方法下,L 被定义为 L_obj,L_nps 和 L_tv 的加权平均值。其中,L_obj 是检测框中存在探测目标的最大概率,L_nps 表示”对抗图案”的打印难度,L_tv 衡量的是它像素点间的变化程度(为了使图片看起来柔和)。

图 |优化目标 L 的不同计算方法比较,可见 OBJ 方法生成的”对抗图案”使模型查全率(Recall)和查准率 (Precision) 都下降最快。(来源:Simen Thys/KU Leuven)

在得到最佳的”对抗图案”之后,研究团队把它打印了出来。然后特意制作了一段演示视频,展示其在现实中”迷惑”YOLOv2 模型的能力。

图 | ”对抗图案”演示视频截图(来源:Simen Thys/KU Leuven)

不可否认,卷积神经网络(CNN)作为近几年人工智能AI)技术发展的主流和前沿,许多应用已经开始融入普通人的生活。然而,它所存在的局限性也一定不能被否认和忽视。恰恰因为这些”漏洞”的存在,人们将更加努力地探索和发展这项新技术。未来,越来越多的 CNN 模型将会被创造或者改造,并终将为人类带来更多的便利和价值。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 神经网络
    +关注

    关注

    42

    文章

    4539

    浏览量

    98442
  • 监控系统
    +关注

    关注

    21

    文章

    3565

    浏览量

    168548
  • 摄像头
    +关注

    关注

    59

    文章

    4558

    浏览量

    92671

原文标题:给T恤印上一个图案,就能在监控下实现“隐身”?

文章出处:【微信号:deeptechchina,微信公众号:deeptechchina】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    监控摄像头的选型方法

    使用地区的温度、湿度变化较大应加特别防护。由于国内监控摄像头交流电压适应范围一般是200~240V,抗电源电压变化能力较弱,在系统中使用时需添加稳压电源。相关连接:
    发表于 02-05 16:23

    网络摄像头监控系统优势

    及使用也非常易懂。在维护性方面,系统的接线十分简洁,而主要设备的可靠性很高,维护性能好,而且可实现远程维护;  网络摄像头扩展及延伸性:当需要增加监控点和
    发表于 03-25 15:26

    三种奇异的摄像头故障

    三种奇异的摄像头故障 一个客户刚买的摄像头安不上,驱动安装完毕重启系统后,接上摄像头,WINXP系统并没有
    发表于 03-16 09:56

    用PC摄像头 实现家庭安防远程监控

    用PC摄像头 实现家庭安防远程监控看到“监控”这个词,很多朋友可能觉得它是由昂贵而精密的仪器设备,加上复杂的施工部署形成的一套高端系统,使
    发表于 02-27 16:52

    STM32和ARM谁用来开发摄像头图像的远程传输的效果好点?

    STM32和ARM谁用来开发摄像头图像的远程传输的效果好点?为什么呢?我想实现摄像头的拍摄图像通过wifi远程传输给电脑的labview的界面上,
    发表于 08-04 22:03

    摄像头无线监控及远程控制

    想问的是,在室内的环镜,采用哪种实现无线的摄像头的的监控和控制更为现实和有价值;因为我需要多个摄像头的不同房间的
    发表于 08-06 16:20

    【OK210申请】简易摄像头监控系统

    ,之前用过一款,很喜欢。项目描述:项目就是做一个简易摄像头监控系统,其功能主要类似于小区摄像头监控系统
    发表于 07-26 09:55

    【TL6748 DSP申请】摄像头图像识别

    申请理由:学习阶段曾经尝试过用ARM cortexM系列的芯片做摄像头红点识别效果一般,现在工作了准备用空余时间重新选用高端一级的芯片实现
    发表于 09-10 11:09

    【NanoPi NEO申请】基于web摄像头的远程监控系统

    体验,即搭建开发板的运行环境,然后通过调试终端访问开发板;最后,我准备再写一篇基于此款开发板的具体项目介绍,即通过此款开发板完成我的项目。下面简单介绍一我的项目。项目简介:使用摄像头进行监控一直是安防
    发表于 10-25 16:16

    如何快速为 MCU 添加人脸识别摄像头

    :Omron)使用表 2 中所列的命令,STM32F469 和 B5T-007001 能够用作自主型安防监控系统。通过执行人脸识别命令,STM32F469 能够
    发表于 08-01 10:10

    监控摄像头如何正确的安装?

    不小于3.5m。 2)监控摄像头及其配套设备,如镜头、摄像头屏蔽、支架、雨刷等,应安装牢固,操作灵活,应注意防止损坏,并配合周围环境。 3)在强电磁干扰条件
    发表于 10-18 11:26

    监控摄像头LED开关控制请教

    循环。现在有搜索到一些结果1、红外摄像头是否是在光敏电阻前面加一个滤波器,滤除红外光照,使得感光效果更接近人眼?2、全彩的不知道是如何处理?
    发表于 02-13 10:58

    超级看看 摇头机 监控摄像头 故障

    超级看看摇头机监控摄像头故障 摄像头买回来后测试正常,由于不着急用就放置了一段时间。几周后,拿出来使用,在使用了2个小时左右(中间偶尔测试一
    发表于 02-02 16:27

    监控摄像头的种类

    监控摄像头的种类:监控摄像头有哪些类型?楼上资料很全了,我补充一些,1.从镜头来说,有固定和变焦摄像机之分;
    发表于 03-17 12:04

    【飞凌RK3568开发板试用体验】8-USB摄像头实时AI物品识别初体验

    识别的例子,但只是对一张图片进行识别,且需要单独使用图片查看工具查看识别结果。为了更直观的体验RK3568的AI算力,将AI识别例程与摄像头
    发表于 12-13 23:31