0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

三种卷积神经网络模型:Light-CNN,双分支CNN和预先训练的CNN

倩倩 来源:老胡说科学 2020-04-17 10:55 次阅读

上海电力大学的两位研究人员最近开发并评估了野生人脸表情识别(FER)的新神经网络模型。他们的研究发表在Elsevier的Neurocomputing期刊上,提出了三种卷积神经网络(CNN)模型:Light-CNN,双分支CNN和预先训练的CNN。

“由于缺乏关于非正面的信息,野外的FER是计算机视觉中的一个难点,”进行这项研究的研究人员之一钱永生告诉TechXplore。“基于深度卷积神经网络(CNN)的现有自然面部表情识别方法存在一些问题,包括过拟合,高计算复杂度,单一特征和有限样本。”

尽管许多研究人员已经开发了用于FER的CNN方法,但到目前为止,他们中很少有人试图确定哪种类型的网络最适合这一特定任务。意识到文献中的这种差距,永胜和他的同事邵杰为FER开发了三种不同的CNN,并进行了一系列的评估,以确定他们的优势和劣势。

“我们的第一个模型是浅光CNN,它引入了一个深度可分离的模块和剩余的网络模块,通过改变卷积方法来减少网络参数,”永胜说。“第二个是双分支CNN,它结合了全局特征和局部纹理特征,试图获得更丰富的特征并补偿卷积旋转不变性的缺乏。第三个预训练的CNN使用在同一个分布式大型数据库中训练的权重重新培训自己的小型数据库,缩短培训时间,提高识别率。“

研究人员对三种常用于FER的数据集进行了CNN模型的广泛评估:公共CK +,多视图BU-3DEF和FER2013数据集。尽管三种CNN模型在性能上存在差异,但它们都取得了可喜的成果,优于几种最先进的FER方法。

“目前,这三种CNN型号是分开使用的,”永胜解释说。“浅网络更适合嵌入式硬件。预训练的CNN可以获得更好的效果,但需要预先训练的权重。双分支网络不是很有效。当然,也可以尝试使用这三种模式一起。”

在他们的评估中,研究人员观察到,通过组合剩余网络模块和深度可分离模块,就像他们为第一个CNN模型所做的那样,可以减少网络参数。这最终可以解决计算硬件的一些缺点。此外,他们发现预先训练的CNN 模型将大型数据库转移到自己的数据库,因此可以用有限的样本进行训练。

永胜和杰提出的三个针对FER的CNN可以有许多应用,例如,帮助开发能够识别他们正在与之交互的人的面部表情的机器人。研究人员现在计划对他们的模型进行额外调整,以进一步提高他们的表现。

“在我们未来的工作中,我们将尝试添加不同的传统手动功能,加入双分支CNN并改变融合模式,”永胜说。“我们还将使用跨数据库培训网络参数来获得更好的泛化能力,并采用更有效的深度传输学习方法。”

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 神经网络
    +关注

    关注

    42

    文章

    4572

    浏览量

    98746
  • 网络模块
    +关注

    关注

    0

    文章

    20

    浏览量

    9227
收藏 人收藏

    评论

    相关推荐

    什么是卷积神经网络?如何MATLAB实现CNN

    卷积神经网络CNN 或 ConvNet)是一种直接从数据中学习的深度学习网络架构。 CNN 特别适合在图像中寻找模式以识别对象、类和类别
    发表于 10-12 12:41 593次阅读
    什么是<b class='flag-5'>卷积</b><b class='flag-5'>神经网络</b>?如何MATLAB实现<b class='flag-5'>CNN</b>?

    卷积神经网络(CNN)的工作原理 神经网络训练过程

    前文《卷积神经网络简介:什么是机器学习?》中,我们比较了在微控制器中运行经典线性规划程序与运行CNN的区别,并展示了CNN的优势。我们还探讨了CIFAR
    发表于 09-05 10:19 933次阅读
    <b class='flag-5'>卷积</b><b class='flag-5'>神经网络</b>(<b class='flag-5'>CNN</b>)的工作原理 <b class='flag-5'>神经网络</b>的<b class='flag-5'>训练</b>过程

    cnn卷积神经网络简介 cnn卷积神经网络代码

    cnn卷积神经网络简介 cnn卷积神经网络代码 卷积
    的头像 发表于 08-21 17:16 2028次阅读

    cnn卷积神经网络matlab代码

    cnn卷积神经网络matlab代码  卷积神经网络(Convolutional Neural Network,
    的头像 发表于 08-21 17:15 866次阅读

    cnn卷积神经网络算法 cnn卷积神经网络模型

    cnn卷积神经网络算法 cnn卷积神经网络模型
    的头像 发表于 08-21 17:15 1176次阅读

    cnn卷积神经网络原理 cnn卷积神经网络的特点是什么

    cnn卷积神经网络原理 cnn卷积神经网络的特点是什么 
    的头像 发表于 08-21 17:15 1144次阅读

    cnn卷积神经网络模型 卷积神经网络预测模型 生成卷积神经网络模型

    cnn卷积神经网络模型 卷积神经网络预测模型 生成
    的头像 发表于 08-21 17:11 807次阅读

    卷积神经网络的介绍 什么是卷积神经网络算法

    的深度学习算法。CNN模型最早被提出是为了处理图像,其模型结构中包含卷积层、池化层和全连接层等关键技术,经过多个卷积层和池化层的处理,
    的头像 发表于 08-21 16:49 1425次阅读

    卷积神经网络的基本原理 卷积神经网络发展 卷积神经网络三大特点

    卷积神经网络的基本原理 卷积神经网络发展历程 卷积神经网络三大特点 
    的头像 发表于 08-21 16:49 1441次阅读

    卷积神经网络如何识别图像

    为多层卷积层、池化层和全连接层。CNN模型通过训练识别并学习高度复杂的图像模式,对于识别物体和进行图像分类等任务有着非常优越的表现。本文将会详细介绍
    的头像 发表于 08-21 16:49 1420次阅读

    卷积神经网络模型训练步骤

    卷积神经网络模型训练步骤  卷积神经网络(Convolutional Neural Networ
    的头像 发表于 08-21 16:42 1058次阅读

    卷积神经网络概述 卷积神经网络的特点 cnn卷积神经网络的优点

    卷积神经网络概述 卷积神经网络的特点 cnn卷积神经网络
    的头像 发表于 08-21 16:41 1938次阅读

    python卷积神经网络cnn训练算法

    python卷积神经网络cnn训练算法  卷积神经网络(Convolutional Neura
    的头像 发表于 08-21 16:41 1014次阅读

    一文详解CNN

    1 CNN简介 CNN卷积神经网络(Convolutional Neural Networks),是一类包含卷积计算的
    发表于 08-18 06:56

    卷积神经网络原理:卷积神经网络模型卷积神经网络算法

    卷积神经网络原理:卷积神经网络模型卷积神经网络算法
    的头像 发表于 08-17 16:30 917次阅读