侵权投诉

用新的机器学习思考方式 来辨别自然异常与人为误导

2020-11-25 14:39 次阅读

深度神经网络是一种使用数学模型处理图像以及其他数据的多层系统,而且目前已经发展为人工智能的重要基石。

深度神经网络得出的结果看似复杂,但同样有可能受到误导。而这样的误导轻则致使其将一种动物错误识别为另一种动物,重则在自动驾驶汽车上将停车标志误解为正常前进。

休斯敦大学的一位哲学家在发表于《自然机器智能》上的一篇论文中提到,关于这些假想问题背后的普遍假设,在于误导性信息可能给这类网络的可靠性造成严重影响。

随着机器学习以及其他形式的人工智能越来越深入渗透至社会,其用途也开始涵盖从ATM机到网络安全系统的广泛领域。哲学系副教授CameronBuckner表示,正是这种普及,让了解明显错误的来源变得无比重要。研究人员们将这类信息称为“对抗性示例”,指当深度神经网络在学习过程中遇到训练输入之外的其他信息时,则很有可能总结出错误的结论、最终引发图像或数据误判。之所以被表述为“对抗性”,是因为这样的问题往往只能由另一机器学习网络所产生或发现。作为机器学习领域中的一种前沿技术,对抗双方将不断升级自身能力,以更复杂的方法尝试实现干扰与反干扰。

Buckner提到,“但这种对抗有时候可能源自人为误导,因此要想更好地了解神经网络的可靠性,我们必须对误导问题做出深入研究。”

换言之,这种误导结果很可能源自网络需要处理的内容、与所涉及的实际模式之间的某种相互作用所引发。这与传统意义上的误导,似乎还不完全是同一种概念。

Buckner写道,“理解对抗性整合的含义,可能需要探索第三种可能性:其中至少有一部分模式属于人为创造。因此,目前的难题在于,直接丢弃这些模式可能有损模型学习,但直接使用则具有潜在风险。”

引发机器学习系统错误的对抗性事件除了无心而发,更可能是有意为之。Buckner认为这才是更严重的风险,“意味着恶意攻击者可能会欺骗某些本应可靠的系统,例如安全类应用程序。”

例如,基于人脸识别技术的安全系统很可能遭遇黑客入侵,导致违规行为的出现;或者在交通标志上张贴某些图形,导致自动驾驶汽车产生意外误解。

先前的研究发现,与人们的预期相反,使用场景中天然存在着一些对抗性示例,即机器学习系统有可能因为意外交互(而非因数据错误)而产生误解。这类情况相当罕见,必须通过其他人工智能技术才可能发现。

但这些问题又真实存在,要求研究人员重新考虑该如何辨别自然异常与人为误导。

事实上,我们对这类人为误导的理解并不清晰。但这有点像是相机镜头上时不时出现的光晕,类似于依靠光晕来判断画面中太阳的位置,研究人员似乎也可以借助这样的蛛丝马迹推断机器学习中的恶意误导方法。

更重要的是,这种新的思考方式也将影响人们在深度神经网络中使用工件的方式,包括不应简单将误解结论视为深度学习无效。

他总结道,“某些对抗性事件很可能是人为设计而来。我们必须知晓其中的手法与工件是什么,这样才能真正理解深度神经网络的可靠性。”

责任编辑:PSY

收藏 人收藏
分享:

评论

相关推荐

2021年我国民用无人机发展又将走向何方,发展趋势如何

近年来,无人机产业发展不断加快,并逐渐从军用领域延伸到了民用领域。围绕民用无人机这个新兴市场,各国相....
发表于 01-21 17:46 94次 阅读
2021年我国民用无人机发展又将走向何方,发展趋势如何

2021年AI和机器学习的发展趋势

在2021年,这些趋势将带来更多创新,并打开新的机遇之门,在改变我们的生活中扮演重要角色。
的头像 如意 发表于 01-21 16:20 283次 阅读
2021年AI和机器学习的发展趋势

使用人工智能来加速大脑测绘技术

冲绳科技大学研究生院(OIST)神经计算部门负责人Kenya Doya教授说,大脑的“连接体”对于充....
的头像 倩倩 发表于 01-21 16:13 228次 阅读
使用人工智能来加速大脑测绘技术

Verta使用集成平台帮助企业跟踪正在创建的数千种机器学习模型

Verta是一家初创公司,致力于解决管理机器学习模型版本并提供平台以将其投入生产的复杂问题。Vert....
的头像 倩倩 发表于 01-21 16:09 97次 阅读
Verta使用集成平台帮助企业跟踪正在创建的数千种机器学习模型

富士康无监督学习AI算法上线 能够降低50%以上产线检测人力

据台媒经济日报报道,鸿海集团今日宣布推出无监督学习(Unsupervised Learning)人工....
的头像 Les 发表于 01-21 16:06 253次 阅读
富士康无监督学习AI算法上线 能够降低50%以上产线检测人力

加速AI采用需要哪些技术技能?

本系列中的每个博客都探讨了一组技能,或者深入探讨了其中一个技能领域。我得出的结论是,要释放人工智能价....
的头像 倩倩 发表于 01-21 15:44 111次 阅读
加速AI采用需要哪些技术技能?

英国的AI芯片制造商Graphcore已经筹集了2.22亿美元的E轮新资金

首席执行官兼联合创始人奈杰尔·图恩(Nigel Toon)表示:“我们处于有利的地位,可以加倍努力并....
的头像 倩倩 发表于 01-21 15:41 139次 阅读
英国的AI芯片制造商Graphcore已经筹集了2.22亿美元的E轮新资金

汇聚行业精英,第二届深圳国际人工智能展将于五月启幕

随着人工智能技术不断地发展,人工智能正赋能千行百业,并逐步渗透进人们生活的各个角落。
发表于 01-21 15:30 205次 阅读
汇聚行业精英,第二届深圳国际人工智能展将于五月启幕

人工智能可以推动气候变化战略吗?

没有时间可浪费:大气中的CO2水平是有史以来最高的(即使与COVID-19的在家待售订单相比有显着下....
的头像 倩倩 发表于 01-21 15:21 116次 阅读
人工智能可以推动气候变化战略吗?

选择合适的工具——轻松玩转AI

人工智能(AI)历史悠久,自1955年便被公认为一门学科。人工智能是计算机模仿人类智能、从经验中学习....
发表于 01-21 15:10 91次 阅读
选择合适的工具——轻松玩转AI

美国各地的AI研究人员和开发人员都受到了强有力的打击

实施工作将由白宫科学技术政策办公室领导,并由美国国家标准与技术研究院,美国国家科学基金会或能源部每年....
的头像 倩倩 发表于 01-21 15:07 227次 阅读
美国各地的AI研究人员和开发人员都受到了强有力的打击

大数据有什么样的特点

该专业对学生在“大数据科学素养”方面有更高的要求,在理论上,强调学生有很好的数理统计基础、扎实的数据....
发表于 01-21 15:06 68次 阅读
大数据有什么样的特点

Valo Health正在研究涉及不同癌症的多个靶标

癌症是该公司周一宣布的四个治疗目标的重点。该公司特别指出,它正在研究与结肠癌有关的USP28。HDA....
的头像 倩倩 发表于 01-21 15:00 123次 阅读
Valo Health正在研究涉及不同癌症的多个靶标

松下的汽车团队推出了平视显示器(HUD)系统

松下表示,新的AR HUD系统将人工智能检测到的重要信息直接投射到驾驶员的视野中。这种情况防止驾驶员....
的头像 倩倩 发表于 01-21 14:57 235次 阅读
松下的汽车团队推出了平视显示器(HUD)系统

如何监督和评估结合了AI和机器学习技术的医学应用软件

该中心推出的九月为中心的器械和辐射健康中心(CDRH)的一部分,表示将考虑这样掺入潜在的贡献者设备的....
的头像 倩倩 发表于 01-21 14:54 172次 阅读
如何监督和评估结合了AI和机器学习技术的医学应用软件

菲亚特将成为第一个使用亚马逊的人工智能软件的客户

大约一年前,FCA开始将Alexa集成到其Uconnect 5操作系统中。自定义助手基于Amazon....
的头像 倩倩 发表于 01-21 14:52 298次 阅读
菲亚特将成为第一个使用亚马逊的人工智能软件的客户

推进环境智能(AmI)的子领域,以用于医疗保健

就像斯坦福大学的计算机科学家李飞飞博士所说的那样:“ [这是我职业生涯中的第一次,成功不仅仅取决于工....
的头像 倩倩 发表于 01-21 14:48 81次 阅读
推进环境智能(AmI)的子领域,以用于医疗保健

Facebook的人工智能模型适用于医疗保健专业人员

冠状病毒研究正在全速进行。在此过程中,技术急于提供帮助。Facebook人工智能研究人员旨在帮助医疗....
的头像 倩倩 发表于 01-21 14:44 90次 阅读
Facebook的人工智能模型适用于医疗保健专业人员

平台+生态+混搭 ,迈向可持续发展的未来

在行业方面,IBM 也改变了合作方式。在金融、电信这些对安全有着极高要求、同时又是 IBM 有着深厚....
的头像 IBM中国 发表于 01-21 14:35 243次 阅读
平台+生态+混搭 ,迈向可持续发展的未来

神经网络的介绍和在GIS中有什么样的应用说明

本文档的主要内容详细介绍的是神经网络的介绍和在GIS中有什么样的应用说明。
发表于 01-21 14:28 9次 阅读
神经网络的介绍和在GIS中有什么样的应用说明

语音识别技术的普及成为了现实

语音识别是一门交叉学科,所涉及的领域有信号处理、模式识别、概率论和信息论、发声机理和听觉机理、人工智....
的头像 传感器技术 发表于 01-21 14:24 100次 阅读
语音识别技术的普及成为了现实

扫地机器人的机械结构

自动进行房间地面清洁的自动扫地机器人,集机械学、电子技术、传感器技术、计算机技术、控制技术、机器人技....
的头像 传感器技术 发表于 01-21 14:17 102次 阅读
扫地机器人的机械结构

2020年人类科技征程高光回眸

1月10日新媒体专电 2020年,新冠疫情肆虐世界,但科技发展的脚步没有停滞,人类的科学探索步伐迈向....
的头像 青岛科技通 发表于 01-21 13:45 189次 阅读
2020年人类科技征程高光回眸

2020年人工智能发展报告

过去十年里,人工智能从实验室走向产业化生产,重塑传统行业模式、引领未来的价值已经凸显,并为全球经济和....
的头像 电子魔法师 发表于 01-21 13:43 314次 阅读
2020年人工智能发展报告

青岛认知人工智能研究院筹备会在市南区召开

1月8日,青岛认知人工智能研究院筹备会在市南区召开,市科技局、市南区政府有关领导及研究院筹备组主要成....
的头像 青岛科技通 发表于 01-21 13:43 87次 阅读
青岛认知人工智能研究院筹备会在市南区召开

商汤科技人工智能计算与赋能平台项目举行封顶仪式

2021新年伊始(1月4日),商汤科技上海新一代人工智能计算与赋能平台项目在临港新片区隆重举行封顶仪....
的头像 商汤科技 发表于 01-21 11:48 243次 阅读
商汤科技人工智能计算与赋能平台项目举行封顶仪式

Facebook宣布对人工智能(AI)技术进行新改进,增强为视障用户描述照片能力

1月21日消息,据国外媒体报道,Facebook宣布对其人工智能(AI)技术进行新的改进,增强为视障....
的头像 工程师邓生 发表于 01-21 11:47 689次 阅读
Facebook宣布对人工智能(AI)技术进行新改进,增强为视障用户描述照片能力

科学家开发可预测精神病的AI系统

人工智能已经越来越多应用到医疗诊断情景中,比如站长之家曾报道的谷歌AI系统可以辅助医生识别乳腺癌。最....
的头像 如意 发表于 01-21 11:42 175次 阅读
科学家开发可预测精神病的AI系统

极视角宣布完成C1轮融资 Qualcomm创投曾进一步加持

1月18日,人工智能视觉算法商城——极视角宣布完成C1轮融资,此轮融资由北高峰资本与天奇创投合投,毅....
的头像 Qualcomm中国 发表于 01-21 11:40 200次 阅读
极视角宣布完成C1轮融资 Qualcomm创投曾进一步加持

无人驾驶汽车又是怎么样的一个技术解决方案呢?

它是集自动控制、体系结构、人工智能、视觉计算等众多技术于一体,是计算机科学高度发展的产物,也是衡量一....
的头像 传感器技术 发表于 01-21 11:18 326次 阅读
无人驾驶汽车又是怎么样的一个技术解决方案呢?

从八大技术六个趋势看尽人脸识别

8大技术优势,6个发展趋势,人脸识别已经深入到了生活的方方面面。 近年来, 随着人工智能、计算机视觉....
的头像 传感器技术 发表于 01-21 11:17 709次 阅读
从八大技术六个趋势看尽人脸识别

2020年中国、世界十大科技进展

1月20日,2020年中国十大科技进展新闻、世界十大科技进展新闻在京揭晓。
的头像 如意 发表于 01-21 11:01 140次 阅读
2020年中国、世界十大科技进展

AI赋能电子警察,实现对交通违章违法行为的研判和取证

由于AI技术的成熟应用,我国电子警察系统的应用迎来一个全新的时代。相比之下,AI电子警察比人的判断更....
发表于 01-21 10:57 168次 阅读
AI赋能电子警察,实现对交通违章违法行为的研判和取证

新企业能否让日本国产无人机实现逆袭?

NTT东日本公司发布消息称,已成立国产无人机的制造、销售、服务等的新企业。NTT东日本在运用无人机检....
的头像 我快闭嘴 发表于 01-21 10:45 130次 阅读
新企业能否让日本国产无人机实现逆袭?

机器学习/人工智能应用开发的硬件及机遇

在本文中,我将讨论专为机器学习/人工智能应用开发的硬件,以及该领域的机遇。并简要介绍英伟达是如何在机....
发表于 01-21 10:42 260次 阅读
机器学习/人工智能应用开发的硬件及机遇

寒武纪首颗训练芯片思元290亮相

1月21日,寒武纪思元290智能芯片及加速卡、玄思1000智能加速器量产落地后首次正式亮相。思元29....
的头像 我快闭嘴 发表于 01-21 10:35 477次 阅读
寒武纪首颗训练芯片思元290亮相

从理论上来看,人类不可能控制超级人工智能

计算的能力是有极限的,但因此,人类无法控制超级人工智能。 近日,一项新的研究发现,从理论上来看,人类....
的头像 Les 发表于 01-21 10:13 120次 阅读
从理论上来看,人类不可能控制超级人工智能

人工智能和移动通讯技术,打造出智慧环卫

城市环境卫生如何在出游高峰期承载更大的压力?怎样更好的管理环卫车辆和环卫工人?这些问题一直困扰着卫生....
的头像 电子魔法师 发表于 01-21 10:07 317次 阅读
人工智能和移动通讯技术,打造出智慧环卫

2021年或将是AI的普及之年

随着科学技术的不断进步和发展,人工智能的发展是时代的必然,也将对我国经济发展作出重要的贡献。2021....
的头像 电子魔法师 发表于 01-21 10:05 426次 阅读
2021年或将是AI的普及之年

越来越多的人工智能企业正叩响科创板的大门

近年来,在算法、算力和大数据三大要素驱动下,人工智能的产业成熟度正不断提升,同时,越来越多的人工智能....
的头像 我快闭嘴 发表于 01-21 10:03 787次 阅读
越来越多的人工智能企业正叩响科创板的大门

AI与药物研发的结合有什么影响

目前,巨额的研发成本以及漫长的研发周期正越来越成为药企研发创新时的“拦路虎”。有数据显示,目前一款新....
的头像 电子魔法师 发表于 01-21 09:55 400次 阅读
AI与药物研发的结合有什么影响

走进三尺科技,携手共同带领制造业企业实现转型升级

2020年12月30日,广东省电子信息行业协会陈伟杰副秘书长走访协会会员单位——广州三尺信息科技有限....
的头像 广东省电子信息行业协会 发表于 01-21 09:38 173次 阅读
走进三尺科技,携手共同带领制造业企业实现转型升级

“人工智能与国际安全:挑战与机遇”分论坛

清华大学战略与安全研究中心主任、人工智能国际治理研究院名誉院长傅莹和布鲁金斯学会主席约翰·艾伦(Jo....
的头像 CISTP科技政策中心 发表于 01-21 09:36 359次 阅读
“人工智能与国际安全:挑战与机遇”分论坛

人工智能有哪些专业,前景如何

人工智能专业包括哪些专业?人工智能专业相关研究方向有很多分支学科,包含模式识别与智能系统、计算机应用....
的头像 电子魔法师 发表于 01-21 09:33 567次 阅读
人工智能有哪些专业,前景如何

“人工智能与数据安全”分论坛

文森特·穆勒在主旨演讲中,分成两步介绍了超级智能和通用人工智能的长期风险,即从超级智能到技术奇点,再....
的头像 CISTP科技政策中心 发表于 01-21 09:30 387次 阅读
“人工智能与数据安全”分论坛

机器学习的范围/算法/分类

什么是机器学习?机器学习是英文名称MachineLearning(简称ML)的直译。机器学习涉及概率....
发表于 01-21 09:29 66次 阅读
机器学习的范围/算法/分类

首届“清华大学人工智能合作与治理国际论坛”在清华大学圆满落下帷幕

在12月18日举行的开幕式上,联合国副秘书长、联合国秘书长特别顾问法布里齐奥·霍奇尔德(Fabriz....
的头像 CISTP科技政策中心 发表于 01-21 09:28 442次 阅读
首届“清华大学人工智能合作与治理国际论坛”在清华大学圆满落下帷幕

亚马逊推出AWS Inferentia芯片

亚马逊推出用于人工智能部署的AWS Inferentia芯片...
发表于 01-18 06:17 0次 阅读
亚马逊推出AWS Inferentia芯片

如何利用人工智能实现更为高效的下一代数据存储

充分利用人工智能,实现更为高效的下一代数据存储...
发表于 01-15 07:08 0次 阅读
如何利用人工智能实现更为高效的下一代数据存储

【HiSpark IPC DIY Camera试用连载 】第二篇 视频的人脸检测

实在的,ipc本身就带有这个功能,只要摄像头出现画面,本身就会检测人脸,而且从app上看,还有移动检测功能,已经非常强大了,但是自己...
发表于 01-14 00:08 202次 阅读
【HiSpark IPC DIY Camera试用连载 】第二篇 视频的人脸检测

如何培养《未来架构师》(1) :VR+AI潮流下的教育新方向

一、新方向:培养真正属于自己的想法和思考        从中华文化的发展中,《易经》最早观察到宇宙万物的生...
发表于 01-04 10:21 1414次 阅读
如何培养《未来架构师》(1)  :VR+AI潮流下的教育新方向

先进的创新教育:AI 思维+设计思维

      2017/10/19,谷歌的DeepMind团队在Nature期刊上发表了一篇文章:“Mastering the game of Go wi...
发表于 01-04 10:16 1313次 阅读
先进的创新教育:AI 思维+设计思维

几种ARM编译器及IDE开发环境

ARM应用软件的开发工具根据功能的不同,分别有编译软件、汇编软件、链接软件、调试软件、嵌入式实时操作系统、函数库、评估...
发表于 12-29 09:31 627次 阅读
几种ARM编译器及IDE开发环境

MS1793蓝牙芯片的特性

上海巨微MS1793单模超低功耗蓝牙芯片
发表于 12-29 07:50 0次 阅读
MS1793蓝牙芯片的特性

高焕堂老师AI学习:麦肯锡(MCKINSEY)方法的基本原則

麦肯锡(McKinsey)方法的MECE原則 – 基于MECE原则来拟定扎实的议题起始假定(Initial Hypothesis) – 然后展开探索...
发表于 12-28 09:54 101次 阅读
高焕堂老师AI学习:麦肯锡(MCKINSEY)方法的基本原則

如何培养<龍傳人>的科学创新思考技术

前言 我提出一项假设:科学创新能力式微的原因是:缺乏假设性思考习惯。 于是提出一项激发创新的策略:推广溯因推理(Abductiv...
发表于 12-28 09:45 2222次 阅读
如何培养<龍傳人>的科学创新思考技术

高焕堂老师AI教程:介绍MECE

大前研一的书---“思考的技术”,书中提到改变思考路径,能洞悉问题的本质,突破表面的迷思,创新构想源源不绝,又能发挥完美的...
发表于 12-25 11:32 101次 阅读
高焕堂老师AI教程:介绍MECE