侵权投诉

深度神经网络是为人工智能的重要基石

2020-11-25 09:50 次阅读

深度神经网络是一种使用数学模型处理图像以及其他数据的多层系统,而且目前已经发展为人工智能的重要基石。

深度神经网络得出的结果看似复杂,但同样有可能受到误导。而这样的误导轻则致使其将一种动物错误识别为另一种动物,重则在自动驾驶汽车上将停车标志误解为正常前进。

休斯敦大学的一位哲学家在发表于《自然机器智能》上的一篇论文中提到,关于这些假想问题背后的普遍假设,在于误导性信息可能给这类网络的可靠性造成严重影响。

随着机器学习以及其他形式的人工智能越来越深入渗透至社会,其用途也开始涵盖从ATM机到网络安全系统的广泛领域。哲学系副教授CameronBuckner表示,正是这种普及,让了解明显错误的来源变得无比重要。研究人员们将这类信息称为“对抗性示例”,指当深度神经网络在学习过程中遇到训练输入之外的其他信息时,则很有可能总结出错误的结论、最终引发图像或数据误判。之所以被表述为“对抗性”,是因为这样的问题往往只能由另一机器学习网络所产生或发现。作为机器学习领域中的一种前沿技术,对抗双方将不断升级自身能力,以更复杂的方法尝试实现干扰与反干扰。

Buckner提到,“但这种对抗有时候可能源自人为误导,因此要想更好地了解神经网络的可靠性,我们必须对误导问题做出深入研究。”

换言之,这种误导结果很可能源自网络需要处理的内容、与所涉及的实际模式之间的某种相互作用所引发。这与传统意义上的误导,似乎还不完全是同一种概念。

Buckner写道,“理解对抗性整合的含义,可能需要探索第三种可能性:其中至少有一部分模式属于人为创造。因此,目前的难题在于,直接丢弃这些模式可能有损模型学习,但直接使用则具有潜在风险。”

引发机器学习系统错误的对抗性事件除了无心而发,更可能是有意为之。Buckner认为这才是更严重的风险,“意味着恶意攻击者可能会欺骗某些本应可靠的系统,例如安全类应用程序。”

例如,基于人脸识别技术的安全系统很可能遭遇黑客入侵,导致违规行为的出现;或者在交通标志上张贴某些图形,导致自动驾驶汽车产生意外误解。

先前的研究发现,与人们的预期相反,使用场景中天然存在着一些对抗性示例,即机器学习系统有可能因为意外交互(而非因数据错误)而产生误解。这类情况相当罕见,必须通过其他人工智能技术才可能发现。

但这些问题又真实存在,要求研究人员重新考虑该如何辨别自然异常与人为误导。

事实上,我们对这类人为误导的理解并不清晰。但这有点像是相机镜头上时不时出现的光晕,类似于依靠光晕来判断画面中太阳的位置,研究人员似乎也可以借助这样的蛛丝马迹推断机器学习中的恶意误导方法。

更重要的是,这种新的思考方式也将影响人们在深度神经网络中使用工件的方式,包括不应简单将误解结论视为深度学习无效。

他总结道,“某些对抗性事件很可能是人为设计而来。我们必须知晓其中的手法与工件是什么,这样才能真正理解深度神经网络的可靠性。”
责任编辑:YYX

收藏 人收藏
分享:

评论

相关推荐

区块链打造新型网络货运平台解决方案

在传统的道路运输承运人和货代公司的基础上,产生了专门匹配货源和运力的第三方网络平台网络货运平台。
的头像 电子魔法师 发表于 01-17 10:08 8次 阅读
区块链打造新型网络货运平台解决方案

人工智能在数据中的全新意义

在变幻莫测的时代,数据能帮助我们拨开迷雾,而人工智能则能以超越人力极限的方式在数据中发现全新意义。
的头像 电子魔法师 发表于 01-17 10:08 0次 阅读
人工智能在数据中的全新意义

快讯:比亚迪成立电池研究新公司,注册资本1亿

1月4日,重庆弗迪电池研究院有限公司成立,该公司注册资本1亿,法定代表人为何龙。经营范围包括:电池制....
的头像 机器人大讲堂 发表于 01-17 09:50 51次 阅读
快讯:比亚迪成立电池研究新公司,注册资本1亿

科学家们探索如何控制人工智能

人工智能的最新进展引发了几个道德困境。也许其中最重要的是人类是否能够控制自主机器。
的头像 电子魔法师 发表于 01-17 09:48 50次 阅读
科学家们探索如何控制人工智能

2020年度吴文俊人工智能科学技术奖获奖名单正式揭晓

优必选科技的使命是让智能机器人走进千家万户,让人类的生活方式变得更加便捷化、智能化、人性化。公司持续....
的头像 机器人大讲堂 发表于 01-17 09:47 68次 阅读
2020年度吴文俊人工智能科学技术奖获奖名单正式揭晓

智能驾驶距离我们还有多远

从德国工程师卡尔本茨完成首台样车的搭建到第一台可供出售的汽车,奔驰用了两年;从单个生产到流水线大批量....
的头像 电子魔法师 发表于 01-17 09:42 78次 阅读
智能驾驶距离我们还有多远

算法定位成功率最高的胚胎

随着试管婴儿技术的发展,越来越多的不孕不育夫妇将其当作了最后的“救命稻草”。根据美国生殖医学学会20....
的头像 机器人大讲堂 发表于 01-17 09:38 34次 阅读
算法定位成功率最高的胚胎

人工智能公司Rokid发布新双目混合现实眼镜

1月15日消息,据国外媒体报道,今日,人工智能公司Rokid发布了最新的双目混合现实(MR)眼镜Ro....
的头像 电子魔法师 发表于 01-17 09:27 78次 阅读
人工智能公司Rokid发布新双目混合现实眼镜

IBM宣布收购以云计算为核心的MSP Taos

1月15日,据外媒ZDNet报道,IBM已经宣布达成一项协议,收购以云计算为核心的MSP Taos。....
的头像 lhl545545 发表于 01-16 10:42 553次 阅读
IBM宣布收购以云计算为核心的MSP Taos

IEEE Fellow 2021入选名单4

近日,IEEE Fellow 2021 入选名单揭晓,这一奖项代表学术科技领域权威荣誉和重要职业成就....
的头像 IEEE电气电子工程师学会 发表于 01-16 09:12 237次 阅读
IEEE Fellow 2021入选名单4

“十四五”时期中国5G发展的重点是什么?

12月24日,工业和信息化部副部长王志军会同部规划司司长卢山,部新闻发言人、信息通信发展司司长闻库出....
的头像 工业互联网产业联盟 发表于 01-15 17:30 840次 阅读
“十四五”时期中国5G发展的重点是什么?

配电网未来技术发展趋势展望

责任编辑:xj 原文标题:配电网未来技术发展趋势 文章出处:【微信公众号:电网智囊团】欢迎添加关注!....
的头像 电网智囊团 发表于 01-15 17:15 131次 阅读
配电网未来技术发展趋势展望

工业机器人市场规模逐年扩大,预计未来还有更高上升空间

工业智能化及《中国制造2025》增加了工业机器人在工业制造领域的应用,2016-2020年我国工业机....
的头像 牵手一起梦 发表于 01-15 16:57 475次 阅读
工业机器人市场规模逐年扩大,预计未来还有更高上升空间

优必选智能物流机器人AMR及解决方案在全球首次亮相

从三星、LG、索尼再到联想,戴尔,各大科技巨头们纷纷上线秀“肌肉”,优必选科技作为全球领先的人工智能....
的头像 机器人大讲堂 发表于 01-15 16:56 459次 阅读
优必选智能物流机器人AMR及解决方案在全球首次亮相

淘宝网上索尼PS5售价明显下跌

公司人力资源部研判该员工上述言论严重违反员工手册,且有可能其极端情绪会对其他同事造成不可知威胁,决定....
的头像 lhl545545 发表于 01-15 16:42 1167次 阅读
淘宝网上索尼PS5售价明显下跌

微软的DeBERTa和谷歌的T5 + Meena——已经成为第一个超越人类基线的模型

利用常识进行阅读理解推理(ReCoRD),模型可以从CNN和每日邮报的文章选择列表中预测出隐藏的单词....
的头像 机器人大讲堂 发表于 01-15 16:36 134次 阅读
微软的DeBERTa和谷歌的T5 + Meena——已经成为第一个超越人类基线的模型

石头科技推出两款石头扫地机器人T7Pro和P5

一场疫情让人们认识到了居家健康的重要性,更多家庭开始接受和使用智能家居产品,其中就包括扫地机器人。近....
的头像 lhl545545 发表于 01-15 15:32 308次 阅读
石头科技推出两款石头扫地机器人T7Pro和P5

基于纳米孔测序的病原微生物检测与进化分析平台

上海科技创新资源数据中心副总经理李敏介绍:“新一代纳米孔测序的病原微生物检测与分析流程从开始测序到获....
的头像 MEMS 发表于 01-15 14:43 158次 阅读
基于纳米孔测序的病原微生物检测与进化分析平台

关于12个人工智能不为人知的秘密

随着人工智能技术在各行业的应用越来越广泛,IT领导者需要了解如何采用人工智能技术收集商业见解的秘密。
的头像 电子魔法师 发表于 01-15 14:41 228次 阅读
关于12个人工智能不为人知的秘密

声学传感器和人工智能的结合,喂养控制智能系统

喂养控制智能系统由西班牙海洋技术中心的研究人员(CTN)开发,是一种自动喂养系统,它摒弃了摄像头,而....
的头像 MEMS 发表于 01-15 14:24 445次 阅读
声学传感器和人工智能的结合,喂养控制智能系统

三星在CES 2021上发布滚动个性化机器人

1月11日,全球最具影响力的科技盛会——2021年国际消费类电子产品展览会(CES)正式开幕。但由于....
的头像 MEMS 发表于 01-15 14:20 767次 阅读
三星在CES 2021上发布滚动个性化机器人

特斯拉报告显示数字对自动驾驶仪功能更为有利

据外媒报道,特斯拉发布了《2020年第四季度安全报告》,该报告显示,使用其自动驾驶系统的车辆发生事故....
的头像 lhl545545 发表于 01-15 14:17 390次 阅读
特斯拉报告显示数字对自动驾驶仪功能更为有利

数字化转型和工业4.0的重要性

当前的全球新冠疫情清晰地表明了数字化转型和工业4.0的重要性。像Festo一样,成百上千家公司能够保....
发表于 01-15 14:14 242次 阅读
数字化转型和工业4.0的重要性

合合信息与腾讯云合作,助推产业加速数字化转型

1月15日消息,近日,人工智能及商业大数据企业合合信息与腾讯云共同宣布,双方达成战略合作,将发挥彼此....
的头像 电子魔法师 发表于 01-15 14:11 381次 阅读
合合信息与腾讯云合作,助推产业加速数字化转型

AI芯片企业燧原科技成融资 “专业户”,究竟有何魅力?

2021 年第二个工作日,总部位于上海的一家中国人工智能芯片企业发布了 C 轮 18 亿元融资喜讯。....
的头像 我快闭嘴 发表于 01-15 14:01 310次 阅读
AI芯片企业燧原科技成融资 “专业户”,究竟有何魅力?

微软全球范围内Cortana升级神经网络语音,效果堪比真人发音

1月15日消息 近日,微软在全球范围内对 Cortana 进行了神经网络语音全面升级,升级后的 Co....
的头像 工程师邓生 发表于 01-15 11:53 764次 阅读
微软全球范围内Cortana升级神经网络语音,效果堪比真人发音

哥伦比亚大学开发出有同情心的机器人

哥伦比亚大学的工程师们创造了一种机器人,它可以学会用视觉预测它的伙伴机器人的行为。工程师表示,该机器....
的头像 如意 发表于 01-15 11:34 267次 阅读
哥伦比亚大学开发出有同情心的机器人

我们是否有能力控制超级智能人工智能?

人工智能颠覆人类的想法已经讨论了几十年,科学家们刚刚就我们是否有能力控制一台高级计算机超级智能做出了....
的头像 电子魔法师 发表于 01-15 11:12 176次 阅读
我们是否有能力控制超级智能人工智能?

AI驱动的自动化平台的四大关键要素

COVID-19 带来的挑战倒逼全球几乎每一个行业都在加速其数字化转型,企业越来越需要直面混合云环境....
的头像 电子魔法师 发表于 01-15 10:58 166次 阅读
AI驱动的自动化平台的四大关键要素

山东省物联网协会推荐的两位同志成为正高级工程师

近日,经山东省物联网协会辅导和推荐,由山东省老科协组织专家评审认定,孙增荣、侯广尧两位同志取得正高级....
的头像 山东省物联网协会 发表于 01-15 10:40 284次 阅读
山东省物联网协会推荐的两位同志成为正高级工程师

上市公司光云科技拟以1.22亿元溢价收购深绘智能100%股权

美工机器人是深绘智能(DeepDraw)针对于上新量较少,无美工,美工短缺,但要求高品质多样化视觉效....
的头像 Les 发表于 01-15 10:40 339次 阅读
上市公司光云科技拟以1.22亿元溢价收购深绘智能100%股权

如何保障人工智能的安全性

人工智能算法,特别是深度神经网络的可解释性不佳,高维线性,大量依赖数据等固有特性,意味着人工智能系统....
的头像 电子魔法师 发表于 01-15 10:29 206次 阅读
如何保障人工智能的安全性

2020年关于人工智能的十大进展

进展1:OpenAI发布全球规模最大的预训练语言模型GPT-3 2020年5月,OpenAI发布了迄....
的头像 中山市物联网协会 发表于 01-15 10:15 532次 阅读
2020年关于人工智能的十大进展

人工智能解决方案需要考虑的问题汇总

人工智能解决方案需要考虑的问题主要包括:1.ai处理技术的选择2.ai数据处理的能力3.ai算法的准....
发表于 01-15 09:27 64次 阅读
人工智能解决方案需要考虑的问题汇总

2021年人工智能发展的四个趋势

最近,美国《福布斯》双周刊网站刊载了《2021年人工智能的四大趋势》的报道,根据当下形势,预测了疫情....
发表于 01-15 09:22 320次 阅读
2021年人工智能发展的四个趋势

AI制药迎来发展期

2020年12月,字节跳动向AI制药人才伸出了橄榄枝;9月,腾讯推出首个AI驱动药物研发平台“云深智....
的头像 电子魔法师 发表于 01-15 09:18 432次 阅读
AI制药迎来发展期

针对Arm嵌入式设备优化的神经网络推理引擎

专门针对Arm嵌入式设备优化的神经网络推理引擎 Tengine + HCL,不同人群的量身定制 ...
发表于 01-15 08:00 0次 阅读
针对Arm嵌入式设备优化的神经网络推理引擎

如何利用人工智能实现更为高效的下一代数据存储

充分利用人工智能,实现更为高效的下一代数据存储...
发表于 01-15 07:08 0次 阅读
如何利用人工智能实现更为高效的下一代数据存储

移动云获三项权威认证,将助力各行各业数字化进程

移动云深耕数字化领域多年,正在全面布局云上AI能力。目前,中移九天人工智能平台三款产品智能交互平台、....
发表于 01-14 18:29 356次 阅读
移动云获三项权威认证,将助力各行各业数字化进程

芯盾时代入选年度成长力10强,获评未来网络安全中坚力量

12月16日,“2020网络安全创新能力100强”颁奖典礼在京举办。芯盾时代作为业务安全新赛道的头部....
的头像 芯盾时代 发表于 01-14 17:19 203次 阅读
芯盾时代入选年度成长力10强,获评未来网络安全中坚力量

神经网络的基本概念学习课件免费下载

本文档的主要内容详细介绍的是神经网络的基本概念学习课件免费下载。
发表于 01-14 17:17 28次 阅读
神经网络的基本概念学习课件免费下载

如何使用人工智能神经网络的预测原理及MATLAB的实现

为了提高科研项目评估的客观性和公正性,选用BP网络为模型,利用逆向建模技术和MATLAB实现了“科研....
发表于 01-14 17:09 28次 阅读
如何使用人工智能神经网络的预测原理及MATLAB的实现

芯盾时代入选2020爱分析人工智能厂商全景报告

12月19日,爱分析正式发布《2020爱分析·人工智能厂商全景报告》,报告根据调研,遴选出在金融、消....
的头像 芯盾时代 发表于 01-14 16:56 328次 阅读
芯盾时代入选2020爱分析人工智能厂商全景报告

多样性有利于创造更好的人工智能时代

在机器学习和人工智能方面,不乏丑闻。在过去的几个月中,人们已经看到微软公司的新闻记者用有关Littl....
的头像 如意 发表于 01-14 15:42 522次 阅读
多样性有利于创造更好的人工智能时代

字节跳动的一颗“医疗心”

  有算法与流量入口的加持,大概率不能成为字节“后发制人”的法宝。   字节跳动招人了。 据《晚点 ....
的头像 IoT科技评论 发表于 01-14 15:14 3135次 阅读
字节跳动的一颗“医疗心”

文远知行完成B2/B3轮融资,C轮融资已启动

L4级自动驾驶出行公司文远知行WeRide宣布完成B2、B3两轮融资,B轮总融资金额达3.1亿美元。....
的头像 我快闭嘴 发表于 01-14 15:06 348次 阅读
文远知行完成B2/B3轮融资,C轮融资已启动

人工智能发展背后,数据如何发挥最大作用?

随着产业数字化带来的数据基础的日益成熟,人工智能在营销、金融、数字政府、零售、医疗等行业的落地持续推....
的头像 电子魔法师 发表于 01-14 14:04 343次 阅读
人工智能发展背后,数据如何发挥最大作用?

人工智能时代刑事风险需要予以关注

无论人们欢欣抑或踟蹰,人工智能时代正悄悄向我们走来,人类即将甚至已经开始进入一个全新的时代。时下,智....
的头像 电子魔法师 发表于 01-14 13:58 306次 阅读
人工智能时代刑事风险需要予以关注

三星发布首款人工智能提供动力的智能机器人吸尘器

1月14日消息,据国外媒体报道,近日CES展会上,三星发布了世界首款真空扫地机器人Jetbot 90....
的头像 电子魔法师 发表于 01-14 11:28 600次 阅读
三星发布首款人工智能提供动力的智能机器人吸尘器

【HiSpark IPC DIY Camera试用连载 】第二篇 视频的人脸检测

实在的,ipc本身就带有这个功能,只要摄像头出现画面,本身就会检测人脸,而且从app上看,还有移动检测功能,已经非常强大了,但是自己...
发表于 01-14 00:08 101次 阅读
【HiSpark IPC DIY Camera试用连载 】第二篇 视频的人脸检测

如何培养《未来架构师》(1) :VR+AI潮流下的教育新方向

一、新方向:培养真正属于自己的想法和思考        从中华文化的发展中,《易经》最早观察到宇宙万物的生...
发表于 01-04 10:21 909次 阅读
如何培养《未来架构师》(1)  :VR+AI潮流下的教育新方向

先进的创新教育:AI 思维+设计思维

      2017/10/19,谷歌的DeepMind团队在Nature期刊上发表了一篇文章:“Mastering the game of Go wi...
发表于 01-04 10:16 808次 阅读
先进的创新教育:AI 思维+设计思维

基于深度神经网络的激光雷达物体识别系统及其嵌入式平台部署

基于深度神经网络的激光雷达物体识别系统及其嵌入式平台部署...
发表于 01-04 06:26 0次 阅读
基于深度神经网络的激光雷达物体识别系统及其嵌入式平台部署

几种ARM编译器及IDE开发环境

ARM应用软件的开发工具根据功能的不同,分别有编译软件、汇编软件、链接软件、调试软件、嵌入式实时操作系统、函数库、评估...
发表于 12-29 09:31 526次 阅读
几种ARM编译器及IDE开发环境

MS1793蓝牙芯片的特性

上海巨微MS1793单模超低功耗蓝牙芯片
发表于 12-29 07:50 0次 阅读
MS1793蓝牙芯片的特性

卷积神经网络的层级结构和常用框架

  卷积神经网络的层级结构   卷积神经网络的常用框架 ...
发表于 12-29 06:16 0次 阅读
卷积神经网络的层级结构和常用框架

高焕堂老师AI学习:麦肯锡(MCKINSEY)方法的基本原則

麦肯锡(McKinsey)方法的MECE原則 – 基于MECE原则来拟定扎实的议题起始假定(Initial Hypothesis) – 然后展开探索...
发表于 12-28 09:54 101次 阅读
高焕堂老师AI学习:麦肯锡(MCKINSEY)方法的基本原則