0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

神经网络之父

工程师 来源:未知 作者:姚远香 2018-11-24 09:32 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

人工智能领域有三大奠基人,分别是Geoffrey Hinton、Yann LeCun与Yoshua Bengio。今天主要围绕“神经网络之父”Geoffrey Hinton。

Geoffrey Hinton,被称为“神经网络之父”、“深度学习鼻祖”,他曾获得爱丁堡大学人工智能的博士学位,并且为多伦多大学的特聘教授。在2012年,Hinton还获得了加拿大基廉奖(Killam Prizes,有“加拿大诺贝尔奖”之称的国家最高科学奖)。2013年,Hinton 加入谷歌并带领一个AI团队,他将神经网络带入到研究与应用的热潮,将“深度学习”从边缘课题变成了谷歌等互联网巨头仰赖的核心技术,并将HintonBack Propagation(反向传播)算法应用到神经网络与深度学习。

Geoffrey Hinton出生于战后英国的温布尔登,他的父亲叫Howard Everest Hinton,是个英国昆虫学家,喜欢研究甲壳虫。他的母亲Margaret是一位教师。而他们一家也都流淌着饱含聪明才智的DNA:他的叔叔是着名的经济学家Colin Clark,正是他发明了“国民生产总值”这个经济学术语;他的曾曾祖父是着名的逻辑学家George Boole,他发明的布尔代数(Boolean algebra)奠定了现代计算机科学的基础。

早在1960年代,Geoffrey Hinton的高中时期,就有一个朋友告诉他,人脑的工作原理就像全息图一样。创建一个3D全息图,需要大量的记录入射光被物体多次反射的结果,然后将这些信息存储进一个庞大的数据库中。大脑储存信息的方式居然与全息图如此类似,大脑并非将记忆储存在一个特定的地方,而是在整个神经网络里传播。Hinton为此深深的着迷。对Hinton来说,这是他人生的关键,也是他成功的起点。

当时的学术界普遍认为计算机在规则和逻辑方面做得最好,而神经网络的概念根本就是错误的。但Hinton却没有丝毫动摇,并于1972年在爱丁堡大学攻读博士学位时毅然选择了神经网络研究。每周,他的导师都会对他说:“你这是在浪费时间。”但Hinton的研究还是慢慢取得了一些成功。

博士毕业后,Hinton被里根政府的外交政策所困扰,因此带着妻子搬到了多伦多,并接受了加拿大高级研究所的工作邀约。很快,Hinton组建起了一支专攻深度学习的人才团队,其中就包括OpenAI的联合创始人兼董事Ilya Sutskever。回忆起2000年的“人工智能寒冬”, Sutskever说道:“当时我们只有十个人左右,资金非常匮乏。

九年时间飞逝,当计算机终于有能力挖掘海量数据时,超级神经网络开始在语音和图像识别方面超越基于逻辑的人工智能。很快,业内的大型科技公司,如微软、Facebook、谷歌等纷纷开始投资。2012年,谷歌公司的绝密实验室GoogleX(现在名为X)宣布建立一个由16000个电脑处理器组成的神经网络,并将其用在YouTube上。

随后,该实验室从YouTube上提取了数百万个随机的、没有标签的视频,输入到这台新的超级计算机中,并通过编程使其能够理解所看到的内容。最终,神经网格从无数个关于猫的视频中成功分辨出了猫,这也成为了人工智能领域发展过程中的一个激动人心的时刻。

之后,Hinton和他的助手们就成为了人工智能浪潮中的领导者。 2013年,Google X的高级研究员Jeff Dean将Hinton招进了谷歌。有趣的是,原本就不属于体制内学者的Hinton,突然之间成为了体制的建立者。尽管观点曾经被业界抛弃,但如今他却成为人工智能行业里最炙手可热的人物。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 神经网络
    +关注

    关注

    42

    文章

    4845

    浏览量

    108373
  • 人工智能
    +关注

    关注

    1821

    文章

    50511

    浏览量

    267733
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    基于神经网络的负载机械速度估计器实现方案

    本文提出了一种基于神经网络(NN)的负载机械速度估计器的实用实现,适用于具有弹性耦合(elastic coupling)的驱动系统,使用可重构FPGA。
    的头像 发表于 05-16 09:07 4566次阅读
    基于<b class='flag-5'>神经网络</b>的负载机械速度估计器实现方案

    为什么 VisionFive V1 板上的 JH7100 中并存 NVDLA 引擎和神经网络引擎?

    我想知道为什么 VisionFive V1 板上的 JH7100 中并存 NVDLA 引擎和神经网络引擎,请问?您能否举一些关于他们的用例的例子?
    发表于 03-25 06:01

    神经网络的初步认识

    日常生活中的智能应用都离不开深度学习,而深度学习则依赖于神经网络的实现。什么是神经网络神经网络的核心思想是模仿生物神经系统的结构,特别是大脑中神经
    的头像 发表于 12-17 15:05 526次阅读
    <b class='flag-5'>神经网络</b>的初步认识

    自动驾驶中常提的卷积神经网络是个啥?

    在自动驾驶领域,经常会听到卷积神经网络技术。卷积神经网络,简称为CNN,是一种专门用来处理网格状数据(比如图像)的深度学习模型。CNN在图像处理中尤其常见,因为图像本身就可以看作是由像素排列成的二维网格。
    的头像 发表于 11-19 18:15 2323次阅读
    自动驾驶中常提的卷积<b class='flag-5'>神经网络</b>是个啥?

    CNN卷积神经网络设计原理及在MCU200T上仿真测试

    数的提出很大程度的解决了BP算法在优化深层神经网络时的梯度耗散问题。当x&gt;0 时,梯度恒为1,无梯度耗散问题,收敛快;当x&lt;0 时,该层的输出为0。 CNN
    发表于 10-29 07:49

    NMSIS神经网络库使用介绍

    NMSIS NN 软件库是一组高效的神经网络内核,旨在最大限度地提高 Nuclei N 处理器内核上的神经网络的性能并最​​大限度地减少其内存占用。 该库分为多个功能,每个功能涵盖特定类别
    发表于 10-29 06:08

    在Ubuntu20.04系统中训练神经网络模型的一些经验

    本帖欲分享在Ubuntu20.04系统中训练神经网络模型的一些经验。我们采用jupyter notebook作为开发IDE,以TensorFlow2为训练框架,目标是训练一个手写数字识别的神经网络
    发表于 10-22 07:03

    CICC2033神经网络部署相关操作

    在完成神经网络量化后,需要将神经网络部署到硬件加速器上。首先需要将所有权重数据以及输入数据导入到存储器内。 在仿真环境下,可将其存于一个文件,并在 Verilog 代码中通过 readmemh 函数
    发表于 10-20 08:00

    液态神经网络(LNN):时间连续性与动态适应性的神经网络

    1.算法简介液态神经网络(LiquidNeuralNetworks,LNN)是一种新型的神经网络架构,其设计理念借鉴自生物神经系统,特别是秀丽隐杆线虫的神经结构,尽管这种微生物的
    的头像 发表于 09-28 10:03 1692次阅读
    液态<b class='flag-5'>神经网络</b>(LNN):时间连续性与动态适应性的<b class='flag-5'>神经网络</b>

    神经网络的并行计算与加速技术

    随着人工智能技术的飞速发展,神经网络在众多领域展现出了巨大的潜力和广泛的应用前景。然而,神经网络模型的复杂度和规模也在不断增加,这使得传统的串行计算方式面临着巨大的挑战,如计算速度慢、训练时间长等
    的头像 发表于 09-17 13:31 1378次阅读
    <b class='flag-5'>神经网络</b>的并行计算与加速技术

    基于神经网络的数字预失真模型解决方案

    在基于神经网络的数字预失真(DPD)模型中,使用不同的激活函数对整个系统性能和能效有何影响?
    的头像 发表于 08-29 14:01 3767次阅读

    无刷电机小波神经网络转子位置检测方法的研究

    摘要:论文通过对无刷电机数学模型的推导,得出转角:与三相相电压之间存在映射关系,因此构建了一个以三相相电压为输人,转角为输出的小波神经网络来实现转角预测,并采用改进遗传算法来训练网络结构与参数,借助
    发表于 06-25 13:06

    神经网络专家系统在电机故障诊断中的应用

    摘要:针对传统专家系统不能进行自学习、自适应的问题,本文提出了基于种经网络专家系统的并步电机故障诊断方法。本文将小波神经网络和专家系统相结合,充分发挥了二者故障诊断的优点,很大程度上降低了对电机
    发表于 06-16 22:09

    神经网络RAS在异步电机转速估计中的仿真研究

    众多方法中,由于其结构简单,稳定性好广泛受到人们的重视,且已被用于产品开发。但是MRAS仍存在在低速区速度估计精度下降和对电动机参数变化非常敏感的问题。本文利用神经网络的特点,使估计更为简单、快速
    发表于 06-16 21:54

    基于FPGA搭建神经网络的步骤解析

    本文的目的是在一个神经网络已经通过python或者MATLAB训练好的神经网络模型,将训练好的模型的权重和偏置文件以TXT文件格式导出,然后通过python程序将txt文件转化为coe文件,(coe
    的头像 发表于 06-03 15:51 1595次阅读
    基于FPGA搭建<b class='flag-5'>神经网络</b>的步骤解析