0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

卷积神经网络中的矩阵乘法

FPGA技术驿站 来源:Lauren的FPGA 作者:Lauren的FPGA 2021-03-03 14:49 次阅读

先看一个二维滤波器,如下图所示。滤波器是一个3x3的矩阵,输入数据是一个5x5的矩阵。输入矩阵中的红色方框(下文称之为滑窗)是一个激活区域(ActiveRegion),这个区域的大小与滤波器大小一致,均为3x3方阵。激活区域与滤波器对应系数相乘并相加即获得对应的输出(这里是矩阵元素对应相乘相加,不是矩阵乘法)。紧接着,滑窗右移一格,得到新的激活区域,再次与滤波器对应元素相乘相加获得第2个输出。这里滑窗的步进为1。当滑窗右侧边缘与输入数据右侧边缘重合时,滑窗重新回到输入数据最左侧边缘并下移一格。由此可见,滑窗在两个维度都会移动。

滤波与卷积本质上是一致的。回想一维滤波器或者说一维卷积运算。输入数据在时间维度上依次进入卷积窗口。当前的输出取决于滤波器系数和卷积窗内的输入数据,执行的运算也是相乘相加。至此,可以看到二维滤波器只是卷积窗由一维变为二维,同时,输入数据也由一维变为二维。 相乘相加是否可以转换成矩阵乘呢?答案是肯定的。以下图为例。首先,我们把每个激活区域的输入数据取出来由二维矩阵变为一维行向量。滑窗步进为1,共4个激活区域,所以可得到4个一维向量。这4个一维向量构成一个4x9的二维矩阵。其次,我们将滤波器按照先行再列的方式“拉直”,构成一个一维列向量,这个列向量维度为9x1。显然,这时4个激活区域构成的矩阵与滤波器系数构成的列向量是可乘的,满足了矩阵乘法的要求。之后就可以直接执行矩阵乘法获得输出结果。

CNN中的卷积运算本质上就算二维滤波器,是矩阵对应元素相乘相加。但在工程实现时,则将其采用上图所示方法转变为矩阵乘法,从而提高运算效率。

原文标题:卷积神经网络中会什么会有矩阵乘法?

文章出处:【微信公众号:Lauren的FPGA】欢迎添加关注!文章转载请注明出处。

责任编辑:haq

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 滤波器
    +关注

    关注

    158

    文章

    7287

    浏览量

    174573
  • 神经网络
    +关注

    关注

    42

    文章

    4538

    浏览量

    98437

原文标题:卷积神经网络中会什么会有矩阵乘法?

文章出处:【微信号:Lauren_FPGA,微信公众号:FPGA技术驿站】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    卷积神经网络的优点

    卷积神经网络的优点  卷积神经网络(Convolutional Neural Network,CNN)是一种基于深度学习的神经网络模型,在图
    的头像 发表于 12-07 15:37 2497次阅读

    FPGA加速神经网络矩阵乘法

    电子发烧友网站提供《FPGA加速神经网络矩阵乘法.pdf》资料免费下载
    发表于 09-15 14:50 0次下载
    FPGA加速<b class='flag-5'>神经网络</b>的<b class='flag-5'>矩阵</b><b class='flag-5'>乘法</b>

    《 AI加速器架构设计与实现》+第一章卷积神经网络观后感

    卷积进行升维和降维(如图4),还可以调整直连的位置来对其做出调整,介绍图形结合,比较利于理解。对于初端块,举例了不同初端块结构(如图5),了解到神经网络的\"跳跃连接块\"
    发表于 09-11 20:34

    卷积神经网络主要包括哪些 卷积神经网络组成部分

    卷积神经网络主要包括哪些 卷积神经网络组成部分 卷积神经网络(CNN)是一类广泛应用于计算机视觉
    的头像 发表于 08-21 17:15 959次阅读

    卷积神经网络模型搭建

    卷积神经网络模型搭建 卷积神经网络模型是一种深度学习算法。它已经成为了计算机视觉和自然语言处理等各种领域的主流算法,具有很大的应用前景。本篇文章将详细介绍
    的头像 发表于 08-21 17:11 560次阅读

    卷积神经网络的介绍 什么是卷积神经网络算法

    卷积神经网络的介绍 什么是卷积神经网络算法 卷积神经网络涉及的关键技术
    的头像 发表于 08-21 16:49 1290次阅读

    卷积神经网络层级结构 卷积神经网络卷积层讲解

    卷积神经网络层级结构 卷积神经网络卷积层讲解 卷积神经网络
    的头像 发表于 08-21 16:49 3840次阅读

    卷积神经网络的基本原理 卷积神经网络发展 卷积神经网络三大特点

    卷积神经网络的基本原理 卷积神经网络发展历程 卷积神经网络三大特点 
    的头像 发表于 08-21 16:49 1270次阅读

    卷积神经网络三大特点

    是一种基于图像处理的神经网络,它模仿人类视觉结构中的神经元组成,对图像进行处理和学习。在图像处理中,通常将图像看作是二维矩阵,即每个像素点都有其对应的坐标和像素值。卷积
    的头像 发表于 08-21 16:49 3122次阅读

    卷积神经网络模型原理 卷积神经网络模型结构

    卷积神经网络模型原理 卷积神经网络模型结构  卷积神经网络是一种深度学习
    的头像 发表于 08-21 16:41 611次阅读

    卷积神经网络模型有哪些?卷积神经网络包括哪几层内容?

    卷积神经网络模型有哪些?卷积神经网络包括哪几层内容? 卷积神经网络(Convolutional
    的头像 发表于 08-21 16:41 1335次阅读

    卷积神经网络概述 卷积神经网络的特点 cnn卷积神经网络的优点

    卷积神经网络概述 卷积神经网络的特点 cnn卷积神经网络的优点 
    的头像 发表于 08-21 16:41 1707次阅读

    卷积神经网络的应用 卷积神经网络通常用来处理什么

    卷积神经网络的应用 卷积神经网络通常用来处理什么 卷积神经网络(Convolutional Ne
    的头像 发表于 08-21 16:41 3572次阅读

    卷积神经网络结构

    Learning)的应用,通过运用多层卷积神经网络结构,可以自动地进行特征提取和学习,进而实现图像分类、物体识别、目标检测、语音识别和自然语言翻译等任务。 卷积神经网络的结构包括:输
    的头像 发表于 08-17 16:30 818次阅读

    卷积神经网络原理:卷积神经网络模型和卷积神经网络算法

    卷积神经网络原理:卷积神经网络模型和卷积神经网络算法 卷积
    的头像 发表于 08-17 16:30 839次阅读