0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

把CNN的工作过程画得明明白白,帮助萌新轻松入

算法与数据结构 来源:机器之心 2020-06-28 11:13 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

终于等到了这个交互式学习神器,把 CNN 的工作过程画得明明白白,帮助萌新轻松入门。

什么是 CNN?Convolutional Neural Network,中文译为「卷积神经网络」。 这个常见但有些深奥的词汇,只可意会,不能言传。如果打开教材,会看到这样一些解释:

卷积层是深度神经网络在处理图像时十分常用的一种层。当一个深度神经网络以卷积层为主体时,我们也称之为卷积神经网络。

神经网络中的卷积层就是用卷积运算对原始图像或者上一层的特征进行变换的层……

说得很有道理,但如果将一张图片作为输入,这张图片究竟会在卷积神经网络中经历什么?这可真是太考验想象力了。 最近,来自佐治亚理工学院与俄勒冈州立大学的研究者们,考虑到初学者和非专业人士的学习痛点,合作开发出了一款卷积神经网络交互式可视化工具——CNN 解释器(CNN Explainer)。这个解释器展示了一个 10 层的神经网络,包含卷积层、激活函数、池化层等多个 CNN 初学者无论如何也绕不开的概念。

这个工具到底把 CNN 展示得有多明白?简单来说,项目作者已经给你做好了一个可以交互的界面,各种层、激活函数都铺在眼前。你只需要打开浏览器加载出这个界面,移动鼠标点来点去就可以了。

CNN Explainer 使用 TensorFlow.js 加载预训练模型进行可视化效果,交互方面则使用 Svelte 作为框架并使用 D3.js 进行可视化。最终的成品即使对于完全不懂的新手来说,也没有使用门槛。下面我们来看一下具体的效果。 卷积层 既然是卷积网络,我们就先来看一下卷积层是怎么工作的。卷积层包含学习的卷积核,可以提取出每张图像独有的特征,因此是 CNN 的基础。 当你与卷积层进行交互的时候,前面的层与卷积层之间会出现很多连线,其中的每条线都代表一个独特的卷积核。这些卷积核用于卷积运算,以生成当前卷积神经元的输出或激活图。 以交互图中的 Tiny VGG 架构为例。可以看到,它的第一个卷积层有 10 个神经元,但前一层只有 3 个神经元。聚焦于第一个卷积层顶端卷积神经元的输出,如果我们将鼠标悬停在激活图上,就可以看到这里有 3 个独特的卷积核。

图 1:如果将鼠标悬停在第一个卷积层最前面的激活图上,就可以看到此处应用了 3 个卷积核来得到此激活图。点击此激活图,可以看到每个卷积核都进行了卷积运算。

图 2:用来生成上述激活图顶端中间结果的卷积核。 激活函数ReLU ReLu 是 CNN 中的非常常用的一种非线性激活函数,可以加快 CNN 的训练速度。它是一种一对一的数学运算:

点击交互图中的 ReLU 神经元就能观察到这个激活函数是如何工作的:

Softmax 在卷积神经网络中,Softmax 函数通常用于分类模型输出。在这个 CNN 解释器里,点击最后一层,即可显示网络中的 Softmax 运算过程:

在 Softmax 的这部分视图中,用户可以体验不同颜色的 logit 和公式交互,从而了解在 Flatten 层之后,预测分数是如何归一化从而产生分类结果的。 池化层 不同的 CNN 架构有很多不同类型的池化层,但它们的目的都是逐渐缩小网络的空间范围,从而降低网络的参数量和整体计算量。 这个交互图里使用的池化类型是 Max-Pooling,其过程可以通过点击图中的池化神经元来观察:

Flatten 层 这一层将网络中一个三维的层转变为一个一维向量,之后将其输入到全连接层用于分类。因为用于分类的 softmax 函数需要一维向量作为输入(此处不包括 batch 维),因此需要用到 Flatten 层。 通过点击任意一个输出类别可查看该层是如何工作的。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 神经网络
    +关注

    关注

    42

    文章

    4842

    浏览量

    108158
  • 卷积网络
    +关注

    关注

    0

    文章

    43

    浏览量

    3244

原文标题:一个像素的旅行,华人博士卷积网络可视化项目火了:点点鼠标就能看懂的扫盲神器

文章出处:【微信号:TheAlgorithm,微信公众号:算法与数据结构】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    AI伴·书童来了!移远助阵妙音哈布“小布忍×乱大” C位出道

    ,也是家长放心依靠,能辅导、会哄睡的省心帮手。4月20日,深耕情感化AI陪伴的妙音哈布正式面向用户发布新品“小布忍×乱大”AI伴书童。移远通信为其量身打造了Wi-Fi+蜂窝AI玩具整
    的头像 发表于 04-20 09:32 247次阅读
    AI<b class='flag-5'>萌</b>伴·书童来了!移远助阵妙音哈布“小布忍×乱大<b class='flag-5'>萌</b>” C位出道

    明明选了对的TVS,芯片为何还是被ESD击穿?

    在项目复盘会上,我们是不是经常听到这样的抱怨:“明明选了一颗标称能抗30kV的TVS管,数据手册上的参数也完全符合IEC61000-4-2Level4标准,为什么量产时还是有板子因为静电死机?甚至昂贵的CPU被击穿?”这恐怕是很多硬件工程师最头疼的问题。我们往往
    的头像 发表于 04-15 20:03 113次阅读
    <b class='flag-5'>明明</b>选了对的TVS,芯片为何还是被ESD击穿?

    FPGA实现CNN卷积层的高效窗口生成模块设计与验证

    卷积神经网络(CNN)可以分为卷积层、池化层、激活层、全链接层结构,本篇要实现的,就是CNN的卷积层中的window窗。
    的头像 发表于 04-15 10:35 143次阅读
    FPGA实现<b class='flag-5'>CNN</b>卷积层的高效窗口生成模块设计与验证

    国产化交换机技术认证有哪些?

    的网络稳定和业务扩展埋下“大雷”? 别急,你的担忧我们都懂。今天,我们就用大白话,帮你这“认证迷宫”理清楚,让你明明白白做选择,钱花在刀刃上。 广州邮科工业交换机 核心“身份证”:你必须认准的“国字号”认
    的头像 发表于 03-23 11:03 314次阅读
    国产化交换机技术认证有哪些?

    Labview接口(interface)的工作过程

    文字描述部分: 目的:产生随机数,当随机数达到某个阈值时触发一个状态事件。 创建过程: 1、用labview 模板创建root Actor ,这个根操作者,用来管理所有其他的Actor 2、创建一个
    发表于 02-03 11:07

    详解NMOS晶体管的工作过程

    在每一颗芯片的内部,数十亿个晶体管如同高速开合的微型水闸,构成数字世界的最小逻辑单元。以NMOS为例,我们将揭开它如何依靠电场控制电子流动,在“关断”与“导通”之间瞬间切换,并以此写下计算的语言。
    的头像 发表于 12-10 15:17 1288次阅读
    详解NMOS晶体管的<b class='flag-5'>工作过程</b>

    别再迷糊了!Linux交叉编译到底是个啥?一文讲清楚

    就用 不绕弯子、接地气、工程师能看懂 的方式,交叉编译讲得明明白白。 而且结合我们钡铼技术(BaileiTech)那些跑在 ARM、RISC-V、国产嵌入式 Linux 的产品,告诉你交叉编译在工业场景里究竟为什么重要。 一、交叉编译是什么?一句话讲清
    的头像 发表于 12-03 16:28 1304次阅读
    别再迷糊了!Linux交叉编译到底是个啥?一文讲清楚

    示波器触发电平的工作过程和噪声抑制功能

    在示波器的日常使用中,部分用户可能会发现触发电平已经与沿相交了,但是并没有实际触发到信号。
    的头像 发表于 11-28 09:57 4677次阅读
    示波器触发电平的<b class='flag-5'>工作过程</b>和噪声抑制功能

    解码工业光纤收发器:工作原理、标准分类与场景应用

    变电站的电压监测数据传不到千米外的调控中心?高速公路沿线的车流传感器总被过往车辆的电磁干扰搞到断网?别慌,这时候你需要工业场景里的 “网络桥梁”—— 工业光纤收发器!今天就带你它的核心知识点拆解得明明白白
    的头像 发表于 11-11 19:19 640次阅读
    解码工业光纤收发器:<b class='flag-5'>工作</b>原理、标准分类与场景应用

    CNN卷积神经网络设计原理及在MCU200T上仿真测试

    CNN算法简介 我们硬件加速器的模型为Lenet-5的变型,网络粗略分共有7层,细分共有13层。包括卷积,最大池化层,激活层,扁平层,全连接层。下面是各层作用介绍: 卷积层:提取特征。“不全
    发表于 10-29 07:49

    构建CNN网络模型并优化的一般化建议

    通过实践,本文总结了构建CNN网络模型并优化的一般化建议,这些建议将会在构建高准确率轻量级CNN神经网络模型方面提供帮助。 1)避免单层神经网络:我们清楚神经网络本身是需要不断抽象出更高级别的纹理
    发表于 10-28 08:02

    Quartz Frequency 实战:热力图+计算器(6 篇)

    ,覆盖从 kHz 级 RTC 到 百 MHz 参考 的核心问题:为什么 32,768 Hz 统治手表与 RTC、不同 频段—应用 如何映射、如何 ppm 转换成秒/天 给产品经理讲得明明白白、CL 失配
    发表于 10-09 15:42

    M12连接器尺寸?一篇给你讲得明明白白的“大白话”指南!

    嘿,朋友,你是不是也在搞工业设备、自动化或者新能源项目,结果被一个叫“M12连接器”的小东西搞得头大?别急,今天咱就用大白话,M12连接器的尺寸、用法、坑在哪,全都给你唠明白
    的头像 发表于 09-26 11:16 4813次阅读
    M12连接器尺寸?一篇给你讲得<b class='flag-5'>明明白白</b>的“大白话”指南!

    逆变式电容螺柱焊IGBT逆变控制板原理图资料

    这张 IGBT 逆变控制板原理图,复杂变简单: 高频逆变回路明明白白,IGBT 驱动时序精准标注,电容储能闭环控制链路清晰可见。从此,研发不用 “盲试”,维修告别 “猜故障”,生产少走技术弯路
    发表于 08-07 14:35 3次下载

    机械工程师的九个段位,你现在处于哪一层?

    ,目标是全面提升产品的核心竞争力。 9、研发副总,CEO 对整个产品的核心竞争力负责成为基础工作。同时要了解国内外制造业相关标准规范,知道打进欧美市场的门槛。行业展会转一圈,能把竞品优缺点分析得明明白白。能够预见将来5年甚至十年产品的发展趋势,并制定长期的发展战略。
    发表于 05-28 13:47