0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

卷积网络和全连接网络的比较

jf_78858299 来源:算法与编程之美 作者:算法与编程之美 2023-03-24 14:49 次阅读

**1 **问题

我们在深度学习的过程中,开始对模型进行在测试集的精度进行预测时,最开始是全连接网络进行模型的精度预测,最后发现测试集的精度预测值不是很理想,就在想能不能换一种网络层提高测试集的精度?

**2 **方法

在后续的学习中,我们学习和了解了卷积网络,卷积神经网络也是通过一层一层的节点组织起来的。和全连接神经网络一样,卷积神经网络中的每一个节点就是一个神经元。在全连接神经网络中,每相邻两层之间的节点都有边相连,于是会将每一层的全连接层中的节点组织成一列,这样方便显示连接结构。而对于卷积神经网络,相邻两层之间只有部分节点相连,为了展示每一层神经元的维度,一般会将每一层卷积层的节点组织成一个三维矩阵。

全连接层的参数太多,对于MNIST数据,每一张图片的大小是28281,其中28*28代表的是图片的大小,*1表示图像是黑白的,有一个色彩通道。有的图片会更大或者是彩色的图片,这时候参数将会更多。参数增多除了导致计算速度减慢,还很容易导致过拟合的问题。所以需要一个合理的神经网络结构来有效的减少神经网络中参数的个数。卷积神经网络就可以更好的达到这个目的。于是我们就用卷积神经网络替代了全连接神经网络进行测试,发现确实提高了测试集的精度。

这是全连接网络的网络层

图片

这是卷积网络的网络层:

图片

最后我们训练了五十个周期,得出对比:

这是卷积网络测试集的精度

图片

这是全连接网络测试集的精度

图片

**3 **结语

我们通过训练发现卷积网络确实提高了网络测试集的精度,而从中也发现了卷积神经网络的输入输出以及训练的流程和全连接神经网络基本一致,而他们两种网络唯一区别就是神经网络相邻两层的连接方式。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 深度学习
    +关注

    关注

    73

    文章

    5225

    浏览量

    119869
  • MNIST
    +关注

    关注

    0

    文章

    10

    浏览量

    3315
  • 卷积网络
    +关注

    关注

    0

    文章

    41

    浏览量

    2129
收藏 人收藏

    评论

    相关推荐

    【PYNQ-Z2申请】基于PYNQ的卷积神经网络加速

    ,得到训练参数2、利用开发板arm与FPGA联合的特性,在arm端实现图像预处理已经卷积核神经网络的池化、激活函数和连接,在FPGA端实现卷积
    发表于 12-19 11:37

    连接神经网络卷积神经网络有什么区别

    连接神经网络卷积神经网络的区别
    发表于 06-06 14:21

    卷积神经网络如何使用

    卷积神经网络(CNN)究竟是什么,鉴于神经网络在工程上经历了曲折的历史,您为什么还会在意它呢? 对于这些非常中肯的问题,我们似乎可以给出相对简明的答案。
    发表于 07-17 07:21

    什么是图卷积神经网络

    卷积神经网络
    发表于 08-20 12:05

    卷积神经网络—深度卷积网络:实例探究及学习总结

    《深度学习工程师-吴恩达》03卷积神经网络—深度卷积网络:实例探究 学习总结
    发表于 05-22 17:15

    卷积神经网络一维卷积的处理过程

    。本文就以一维卷积神经网络为例谈谈怎么来进一步优化卷积神经网络使用的memory。文章(卷积神经网络
    发表于 12-23 06:16

    卷积神经网络模型发展及应用

    network,DBN)[24], 从此拉开了深度学习大幕。随着深度学习理论的研究和发展,研究人员提 出了一系列卷积神经网络模型。为了比较不同模型 的质量,收集并整理了文献中模型在分类任务上的 识别率,如图 1
    发表于 08-02 10:39

    卷积神经网络简介:什么是机器学习?

    的理想集。卷积神经网络与其他类型的网络之间的主要区别在于它们处理数据的方式。通过过滤,将连续检查输入数据的属性。随着串联连接卷积层数量的增
    发表于 02-23 20:11

    《 AI加速器架构设计与实现》+第一章卷积神经网络观后感

    卷积进行升维和降维(如图4),还可以调整直连的位置来对其做出调整,介绍图形结合,比较利于理解。对于初端块,举例了不同初端块结构(如图5),了解到神经网络中的\"跳跃连接块\"
    发表于 09-11 20:34

    详解卷积神经网络卷积过程

    卷积过程是卷积神经网络最主要的特征。然而卷积过程有比较多的细节,初学者常会有比较多的问题,这篇文
    的头像 发表于 05-02 15:39 1.6w次阅读
    详解<b class='flag-5'>卷积</b>神经<b class='flag-5'>网络</b><b class='flag-5'>卷积</b>过程

    卷积神经网络中全连接层作用理解总结

    一般来说,卷积神经网络会有三种类型的隐藏层——卷积层、池化层、全连接层。卷积层和池化层比较好理解
    的头像 发表于 01-30 17:23 1.9w次阅读

    如何区分卷积网络与全连接网络

    卷积神经网络是一类包含卷积计算且具有深度结构的前馈神经网络,是深度学习。卷积神经网络具有表征学习
    的头像 发表于 02-21 15:05 761次阅读
    如何区分<b class='flag-5'>卷积</b><b class='flag-5'>网络</b>与全<b class='flag-5'>连接</b><b class='flag-5'>网络</b>

    卷积神经网络的基本原理 卷积神经网络发展 卷积神经网络三大特点

    中最重要的神经网络之一。它是一种由多个卷积层和池化层(也可称为下采样层)组成的神经网络。CNN 的基本思想是以图像为输入,通过网络卷积、下
    的头像 发表于 08-21 16:49 1417次阅读

    卷积神经网络层级结构 卷积神经网络卷积层讲解

    像分类、目标检测、人脸识别等。卷积神经网络的核心是卷积层和池化层,它们构成了网络的主干,实现了对图像特征的提取和抽象。 一、卷积神经
    的头像 发表于 08-21 16:49 4268次阅读

    卷积神经网络的介绍 什么是卷积神经网络算法

    的深度学习算法。CNN模型最早被提出是为了处理图像,其模型结构中包含卷积层、池化层和全连接层等关键技术,经过多个卷积层和池化层的处理,CNN可以提取出图像中的特征信息,从而对图像进行分类。 一、
    的头像 发表于 08-21 16:49 1413次阅读