0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

从直观的理解上讲解什么是神经网络

倩倩 来源:Mcix创客 2020-04-17 14:29 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

什么是神经网络

深度学习是指训练神经网络的过程,有的时候深度学习表示大规模的神经网络的训练,本节课程我们将从直观的理解上讲解什么是神经网络。

我们还是通过举例子的方式来解释一下,究竟什么才是神经网络,从经典的房价预测的例子开始讲起。

假如我们有一个有关于房价的数据集,这个数据集中有6个样本,每个样本的特征是房屋的面积,而样本的标签就是房屋的价格,此时我们需要一个能够拟合这个数据集的函数,并且能够通过这个函数根据房屋的面积来预测房价。

我们在机器学习的专栏中已经学习过了线性回归,所以我们很清楚如何通过线性回归来拟合出一条直线,于是我们可能得到这样的一条直线来拟合我们的数据集。

但是此时的模型会有一些问题,我们将我们的直线继续扩展,我们会发现,当我们的房屋的面积小于a的时候,我们的房屋的价格就会为负数,这是不现实的,因为我们知道房屋的价格永远都不能为负数,因此为了解决这个问题,我们需要把我们的直线弯曲一点,让它最终在零结束,那么我们最终的函数就如下所示:

我们可以看出我们的模型在大于a的时候,也就是直线部分会拟合的很好。以上是我们通过线性回归的方式来拟合我们的房屋的数据。

如果我们要通过神经网络的方式来实现上面的模型的话,这可能是最简单的神经网络了。我们把房屋的面积作为神经网络的输入(x),通过一个神经元(小圆圈),最终输出价格(y)。

我们通过上面的神经网络就能拟合出线性回归所拟合出来的函数,而这个函数我们未来在深度学习的过程中会经常的见到,这个函数从趋近于0开始,然后变为一条直线,这个函数被称为RELU激活函数,它的全称就是Rectified Linear Unit(修正线性单元)。修正可以理解为max(0,x)。

所以我们当前的神经网络可以做到和线性回归一样的功能,这个神经网络的工作原理就是输入房屋面积,然后直接使用RELU激活函数来对房屋的面积进行映射,然后我们就可以得出房屋的面积了,和线性回归的效果是一样的。

我们可以看出我们只通过一个神经元就完成了房价预测的任务,我们可以通过更多的神经元来搭建一个更大的神经网络。我们再来看一个例子。

现在我们不仅使用单一的房屋的面积来预测房屋的价格,我们现在还有房屋的一些其它的特征,比如卧室的数量,邮政编码(邮政编码决定了你步行化的程度),地区富裕度。

{!-- PGC_COLUMN --}

这些特征能够决定我们一个房子的价格,比如房子的大小和卧室的数量可以决定家庭的大小,邮政编码可以决定步行化的程度,邮政编码和地区富裕度还可以决定学校的质量,而又可以根据家庭的大小,步行化的程度,以及学校的质量可以决定最终的房屋的价格,所以我们可以根据这个逻辑建立如下所示的神经网络。

该图中的每一个神经元都可以是一个Relu,也就是修正线性单元,或者其它非线性的函数。

虽然我们已经描述出来了这样的一个神经网络,但是看起来家庭的大小,步行化的程度,以及学校的质量可能也需要我们得到,其实不用我们得到,我们只用像神经网络中输入房屋的大小,卧室的数量,邮政编码,富裕度这四个特征x,就能得到价格y,这正是神经网络神奇的地方,因为神经网络自己可以计算你训练集中样本的数目以及所有的中间过程。这样的话,我们就可以建立如下所示的神经网络了:

所以我们要做的就是将房屋大小,卧室数量,邮政编码,富裕度这四个特征(x1、x2、x3、x4)输入到神经网络中,输入之后,神经网络就会预测出对应的价格。

同时我们也要注意隐藏层的单元,我们可以看到隐藏层的单元都是从输入的四个特征获得自身的输入,比如说隐藏层的第一个节点表示家庭人口,而家庭人口仅仅取决于特征x1和特征x2,神经网络的厉害之处在于,虽然这个隐藏层的结点也在和特征x3和特征x4相连,但是神经网络总是能够通过权重参数的作用使得x3和x4对第一个隐藏层结点没有作用,所以我们的特征x3和特征x4依然可以和这个隐藏层的结点相连(虽然x3和x4并不会对第一个隐藏层有什么意义)。

这样的好处就是我们没有必要去考虑很细节的东西,比如考虑第一个隐藏层和x1和x2有关,从而连接x1和x2,而与x3和x4无关,从而不连接x3和x4,如果我们考虑到如此细节的东西,那么我们的神经网络的搭建会异常的麻烦,当我们喂给神经网络足够多的数据的时候,神经网络总是能够自动学习到相应的参数,使得虽然与x3和x4相连,但是x3和x4却不会对隐藏层第一个单元造成任何影响。

这里我们可以把神经网络的隐藏层看成是特征的升级,比如一开始我们输入的是房屋大小,卧室数量,邮政编码,富裕度,经过隐藏层之后,我们的特征变为了家庭的大小,步行化的程度,以及学校的质量(有可能)然后输入到最后输出层,相比来说家庭的大小,步行化的程度,以及学校的质量更能决定房价y,所以我们可以简单的看成神经网络的隐藏层就是对我们特征的升级。

至此我们就知道了什么是神经网络,希望能够通过本节课程能够了解到神经网络。神经网络非常擅长从x到y的精准映射函数。它非常的强大,只要你输入x,我们就可以将映射成y,就像我们上面的预测房价的例子一样。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 神经网络
    +关注

    关注

    42

    文章

    4844

    浏览量

    108201
  • 数据集
    +关注

    关注

    4

    文章

    1240

    浏览量

    26262
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    为什么 VisionFive V1 板的 JH7100 中并存 NVDLA 引擎和神经网络引擎?

    我想知道为什么 VisionFive V1 板的 JH7100 中并存 NVDLA 引擎和神经网络引擎,请问?您能否举一些关于他们的用例的例子?
    发表于 03-25 06:01

    神经网络的初步认识

    日常生活中的智能应用都离不开深度学习,而深度学习则依赖于神经网络的实现。什么是神经网络神经网络的核心思想是模仿生物神经系统的结构,特别是大脑中神经
    的头像 发表于 12-17 15:05 473次阅读
    <b class='flag-5'>神经网络</b>的初步认识

    自动驾驶中常提的卷积神经网络是个啥?

    在自动驾驶领域,经常会听到卷积神经网络技术。卷积神经网络,简称为CNN,是一种专门用来处理网格状数据(比如图像)的深度学习模型。CNN在图像处理中尤其常见,因为图像本身就可以看作是由像素排列成的二维网格。
    的头像 发表于 11-19 18:15 2269次阅读
    自动驾驶中常提的卷积<b class='flag-5'>神经网络</b>是个啥?

    CNN卷积神经网络设计原理及在MCU200T仿真测试

    数的提出很大程度的解决了BP算法在优化深层神经网络时的梯度耗散问题。当x&gt;0 时,梯度恒为1,无梯度耗散问题,收敛快;当x&lt;0 时,该层的输出为0。 CNN
    发表于 10-29 07:49

    NMSIS神经网络库使用介绍

    NMSIS NN 软件库是一组高效的神经网络内核,旨在最大限度地提高 Nuclei N 处理器内核神经网络的性能并最​​大限度地减少其内存占用。 该库分为多个功能,每个功能涵盖特定类别
    发表于 10-29 06:08

    在Ubuntu20.04系统中训练神经网络模型的一些经验

    本帖欲分享在Ubuntu20.04系统中训练神经网络模型的一些经验。我们采用jupyter notebook作为开发IDE,以TensorFlow2为训练框架,目标是训练一个手写数字识别的神经网络
    发表于 10-22 07:03

    CICC2033神经网络部署相关操作

    在完成神经网络量化后,需要将神经网络部署到硬件加速器。首先需要将所有权重数据以及输入数据导入到存储器内。 在仿真环境下,可将其存于一个文件,并在 Verilog 代码中通过 readmemh 函数
    发表于 10-20 08:00

    液态神经网络(LNN):时间连续性与动态适应性的神经网络

    1.算法简介液态神经网络(LiquidNeuralNetworks,LNN)是一种新型的神经网络架构,其设计理念借鉴自生物神经系统,特别是秀丽隐杆线虫的神经结构,尽管这种微生物的
    的头像 发表于 09-28 10:03 1593次阅读
    液态<b class='flag-5'>神经网络</b>(LNN):时间连续性与动态适应性的<b class='flag-5'>神经网络</b>

    神经网络的并行计算与加速技术

    随着人工智能技术的飞速发展,神经网络在众多领域展现出了巨大的潜力和广泛的应用前景。然而,神经网络模型的复杂度和规模也在不断增加,这使得传统的串行计算方式面临着巨大的挑战,如计算速度慢、训练时间长等
    的头像 发表于 09-17 13:31 1319次阅读
    <b class='flag-5'>神经网络</b>的并行计算与加速技术

    如何在机器视觉中部署深度学习神经网络

    图 1:基于深度学习的目标检测可定位已训练的目标类别,并通过矩形框(边界框)对其进行标识。 在讨论人工智能(AI)或深度学习时,经常会出现“神经网络”、“黑箱”、“标注”等术语。这些概念对非专业
    的头像 发表于 09-10 17:38 1066次阅读
    如何在机器视觉中部署深度学习<b class='flag-5'>神经网络</b>

    基于神经网络的数字预失真模型解决方案

    在基于神经网络的数字预失真(DPD)模型中,使用不同的激活函数对整个系统性能和能效有何影响?
    的头像 发表于 08-29 14:01 3687次阅读

    无刷电机小波神经网络转子位置检测方法的研究

    摘要:论文通过对无刷电机数学模型的推导,得出转角:与三相相电压之间存在映射关系,因此构建了一个以三相相电压为输人,转角为输出的小波神经网络来实现转角预测,并采用改进遗传算法来训练网络结构与参数,借助
    发表于 06-25 13:06

    神经网络专家系统在电机故障诊断中的应用

    摘要:针对传统专家系统不能进行自学习、自适应的问题,本文提出了基于种经网络专家系统的并步电机故障诊断方法。本文将小波神经网络和专家系统相结合,充分发挥了二者故障诊断的优点,很大程度上降低了对电机
    发表于 06-16 22:09

    神经网络RAS在异步电机转速估计中的仿真研究

    众多方法中,由于其结构简单,稳定性好广泛受到人们的重视,且已被用于产品开发。但是MRAS仍存在在低速区速度估计精度下降和对电动机参数变化非常敏感的问题。本文利用神经网络的特点,使估计更为简单、快速
    发表于 06-16 21:54

    基于FPGA搭建神经网络的步骤解析

    本文的目的是在一个神经网络已经通过python或者MATLAB训练好的神经网络模型,将训练好的模型的权重和偏置文件以TXT文件格式导出,然后通过python程序将txt文件转化为coe文件,(coe
    的头像 发表于 06-03 15:51 1524次阅读
    基于FPGA搭建<b class='flag-5'>神经网络</b>的步骤解析