0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

CNN相比传统NN有什么优点?

汽车玩家 来源:CSDN 作者:一只tobey 2020-03-15 17:13 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

CNN组成:

1. Convolutional layer(卷积层--CONV)

作用:主要就是通过一个个的filter,不断地提取特征,从局部的特征到总体的特征,从而进行图像识别等等功能。

2. Pooling layer (池化层--POOL)

作用:是为了提取一定区域的主要特征,并减少参数数量,防止模型过拟合。扩大感受野。减少冗余,做窗口滑动卷积的时候,卷积值就代表了整个窗口的特征。因为滑动的窗口间有大量重叠区域,出来的卷积值有冗余,进行最大pooling或者平均pooling就是减少冗余。减少冗余的同时,pooling也丢掉了局部位置信息,所以局部有微小形变,结果也是一样的。

3. Fully Connected layer(全连接层--FC)

卷积取的是局部特征,全连接就是把以前的局部特征重新通过权值矩阵组装成完整的图,用到了所有的局部特征

相比传统神经网络(NN)的优点:

1. 参数共享机制(parameters sharing)

因为,对于不同的区域,我们都共享同一个filter,因此就共享这同一组参数。这也是有道理的,通过前面的讲解我们知道,filter是用来检测特征的,那一个特征一般情况下很可能在不止一个地方出现,比如“竖直边界”,就可能在一幅图中多出出现,那么 我们共享同一个filter不仅是合理的,而且是应该这么做的。

由此可见,参数共享机制,让我们的网络的参数数量大大地减少。这样,我们可以用较少的参数,训练出更加好的模型,典型的事半功倍,而且可以有效地 避免过拟合。同样,由于filter的参数共享,即使图片进行了一定的平移操作,我们照样可以识别出特征,这叫做 “平移不变性”。因此,模型就更加稳健了。

2. 连接的稀疏性(sparsity of connections)

由卷积的操作可知,输出图像中的任何一个单元,只跟输入图像的一部分有关系。而传统神经网络中,由于都是全连接,所以输出的任何一个单元,都要受输入的所有的单元的影响。这样无形中会对图像的识别效果大打折扣。比较,每一个区域都有自己的专属特征,我们不希望它受到其他区域的影响。

正是由于上面这两大优势,使得CNN超越了传统的NN,开启了神经网络的新时代。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 图像识别
    +关注

    关注

    9

    文章

    534

    浏览量

    40178
  • cnn
    cnn
    +关注

    关注

    3

    文章

    356

    浏览量

    23537
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    LAMBDA NN系列高可靠性线性电源:设计与应用的理想之选

    LAMBDA NN系列高可靠性线性电源:设计与应用的理想之选 在电子工程师的日常工作中,电源设计是至关重要的一环。一款性能优异、可靠性高的电源能够为整个系统的稳定运行提供坚实保障。今天,我们就来深入
    的头像 发表于 04-18 10:15 177次阅读

    同步DRAM相比传统异步DRAM哪些特点

    同步DRAM的存储单元结构采用1T1C(单晶体管-单电容)的电路形式。这个基本单元由一只晶体管和一个电容组成:电容负责存储电荷,电荷代表“1”,无电荷代表“0”;晶体管则充当开关,在处理器需要读取
    的头像 发表于 04-17 15:26 72次阅读

    FPGA实现CNN卷积层的高效窗口生成模块设计与验证

    卷积神经网络(CNN)可以分为卷积层、池化层、激活层、全链接层结构,本篇要实现的,就是CNN的卷积层中的window窗。
    的头像 发表于 04-15 10:35 148次阅读
    FPGA实现<b class='flag-5'>CNN</b>卷积层的高效窗口生成模块设计与验证

    【米尔全志T153开发板评测】kws语音关键字识别测试

    /MFCC/ -Ikws/Source/local_NN/ -Ikws/Source/NN/DNN/ -Ikws/Source/NN/DS_CNN/ -Ikws/Source/KWS/
    发表于 03-18 00:08

    UV三防漆什么优点

    建立起一道坚固的透明保护层,成为提升设备耐用性的关键材料。UV三防漆什么优点?UV三防漆的革新体现在“快、稳、绿”三大特点上,相比传统涂料需要数小时自然晾干或高
    的头像 发表于 12-30 16:51 634次阅读
    UV三防漆<b class='flag-5'>有</b>什么<b class='flag-5'>优点</b>?

    串联谐振产品优点什么?

    降低能耗。 便携易操作 :相比传统试验变压器,谐振系统的电抗器、励磁变压器等部件体积小、重量轻,便于运输和现场移动作业。 试验波形纯净 :输出的是正弦波电压,失真度低,能精准模拟设备的实际运行工况,试验
    发表于 12-12 14:07

    电化学气体传感器中,三电极与二电极相比哪些具体优点

    电化学气体传感器中,三电极与二电极相比哪些具体优点
    发表于 12-02 17:03

    大家好! 叠层工艺相比传统工艺,在响应速度上具体快在哪里?

    大家好!叠层固态电容工艺相比传统的电容工艺,在响应速度上具体快在哪里?
    发表于 11-15 10:03

    CNN卷积神经网络设计原理及在MCU200T上仿真测试

    CNN算法简介 我们硬件加速器的模型为Lenet-5的变型,网络粗略分共有7层,细分共有13层。包括卷积,最大池化层,激活层,扁平层,全连接层。下面是各层作用介绍: 卷积层:提取特征。“不全
    发表于 10-29 07:49

    构建CNN网络模型并优化的一般化建议

    通过实践,本文总结了构建CNN网络模型并优化的一般化建议,这些建议将会在构建高准确率轻量级CNN神经网络模型方面提供帮助。 1)避免单层神经网络:我们清楚神经网络本身是需要不断抽象出更高级别的纹理
    发表于 10-28 08:02

    十大北京软件开发公司推荐:哪些优点和缺点

    十大北京软件开发公司推荐:哪些优点和缺点
    的头像 发表于 10-04 09:44 4108次阅读
    十大北京软件开发公司推荐:<b class='flag-5'>有</b>哪些<b class='flag-5'>优点</b>和缺点

    五大电磁频谱管理监测系统软件:哪些优点和缺点

    五大电磁频谱管理监测系统软件:哪些优点和缺点
    的头像 发表于 09-28 16:50 971次阅读
    五大电磁频谱管理监测系统软件:<b class='flag-5'>有</b>哪些<b class='flag-5'>优点</b>和缺点

    五大海上安全事件应急处置系统:哪些优点和缺点

    五大海上安全事件应急处置系统:哪些优点和缺点
    的头像 发表于 09-04 17:09 1194次阅读
    五大海上安全事件应急处置系统:<b class='flag-5'>有</b>哪些<b class='flag-5'>优点</b>和缺点

    请问NICE协处理器与传统ocb外设相比的优势什么?

    使用扩展指令调用NICE协处理器完成预定操作,给出的优势通常为代替CPU处理数据,但其实使用片上总线挂一个外设,然后驱动外设完成操作也可以实现相同的功能,所以想问一下协处理器相比于外设实现还有没有其它方面的优势
    发表于 05-29 08:21

    NICE协处理器与传统ocb外设相比的优势什么?

    使用扩展指令调用NICE协处理器完成预定操作,给出的优势通常为代替CPU处理数据,但其实使用片上总线挂一个外设,然后驱动外设完成操作也可以实现相同的功能,所以想问一下协处理器相比于外设实现还有没有其它方面的优势
    发表于 05-28 08:31