侵权投诉

一项关于可解释人工智能规划(XAIP)的工作调查

2020-04-03 14:57 次阅读

来自IBM Watson和亚利桑那州立大学的一组研究人员发表了一项关于可解释人工智能规划(XAIP)的工作调查。 这项调查涉及67份文件和图表,显示了该领域的最新趋势。

该小组由ASU的Yochan实验室的Subbarao Kambhampati教授领导,重点审查了自动化规划系统领域:那些产生旨在实现目标状态的行动(或计划)序列的系统。 可解释的规划系统能够回答为什么选择特定的行动或行动顺序的问题。 该小组指出,这一领域中可解释的系统可分为基于算法的系统、基于模型的系统或基于计划的系统,近年来所有类型的研究都有所增加,但大多数工作都是基于模型的系统。

可解释AI(X AI)近年来一直是一个积极的研究课题,受到DARPA2016年倡议的推动。 计算机视觉和自然语言处理等“感知”问题的机器学习的广泛采用,导致了分类器的可解释性技术的发展,包括LIME和AllenNLP解释技术。 虽然感知是决定其环境现状的一项重要技能,但一个自主系统-机器人、自动驾驶汽车,甚至是一个玩游戏的人工智能-也必须决定该做什么。 这些人工智能系统通常采用规划,这产生一系列行动,供人工智能采取,以实现其目标。

可解释的人工智能规划(XAIP)系统能够回答有关其计划的问题;例如,为什么某一特定行动被或不包括在计划中。 该团队将这些系统分类为基于算法、基于模型或基于计划的系统。 基于算法的解释通常对系统设计者调试算法最有帮助,而不是最终用户。 基于计划的解释使用摘要或抽象,使用户能够理解“在长时间范围内和在大的状态空间内运行的计划。” 大多数研究都是基于模型的解释,其中考虑到了这样一个事实,即用户的计算能力比人工智能低得多,而且往往有一个不同于“地面真相”的心理模型。 对于这些系统,解释需要协调用户的心理模型和系统模型。

DARPA的XAI计划指出,可解释系统的一个动机是提高用户对AI结果的信任。 然而,Kambhampati的研究团队指出,解释过程也可能被“劫持”,以产生“不再是真实的,而是用户认为满意的任何东西”的解释。 其他研究人员认为,如果人工智能和机器人要在社会上有效,这种欺骗甚至可能是必要的。 深度学习的先驱杰弗里·辛顿(GeoffreyHinton)在推特上淡化了解释能力的必要性:

假设你患有癌症,你必须在一个黑匣子AI外科医生之间做出选择,这个医生无法解释它是如何工作的,但治愈率为90%,而人类外科医生的治愈率为80%。 你想让人工智能外科医生违法吗?

Kambhampati认为这是一个“错误的二分法”,认为从长远来看,我们既要有准确性,也要有可解释性。

收藏 人收藏
分享:

评论

相关推荐

北京化工大学举办人工智能交叉研究中心揭牌仪式

中国工程院院士、北京化工大学校长谭天伟表示,当前人工智能是国家战略、新基建的重要组成。国务院和教育部....
的头像 机器人技术与应用 发表于 08-07 09:30 0次 阅读
北京化工大学举办人工智能交叉研究中心揭牌仪式

基于5G与未来6G,AI技术为人工智能和5G的融合注入新动能

今年7月,由联合国国际电信联盟(以下简称ITU)发起的“全球AI in 5G”大赛正式拉开帷幕,中兴....
发表于 08-07 09:09 19次 阅读
基于5G与未来6G,AI技术为人工智能和5G的融合注入新动能

5G+工业互联网融合应用推动+产业探索双管齐下方式发展

“而这些转变都需要创新技术的加持。相关机构从806家企业调研的结果发现,支撑工业互联网发展的技术排名....
发表于 08-07 09:02 9次 阅读
5G+工业互联网融合应用推动+产业探索双管齐下方式发展

5G+云+AI助力全球经济快速复苏

今日,以 “新价值 新机遇”为主题的5“机”峰会(5G for Good Summit)在沪上成功举....
发表于 08-07 08:29 47次 阅读
5G+云+AI助力全球经济快速复苏

如何消除对大数据的误解?

如果组织正处于使用大数据的早期阶段那么成功的关键将是提出正确的业务问题。许多业务领导者渴望在没有明确....
的头像 我快闭嘴 发表于 08-06 17:49 303次 阅读
如何消除对大数据的误解?

用声音训练基于家庭的AI应用?

“用于开发基于机器学习的交互的方法已经变得如此容易,以至于现在它正在收集正确的数据,以创建不仅可以听....
发表于 08-06 17:22 132次 阅读
用声音训练基于家庭的AI应用?

人工智能与机器人,未来人类会被取代吗?

在解决人类无法采取安全措施或无法采取安全措施的问题时,人工智能(简称AI)非常有用。借助存储在其中的....
发表于 08-06 17:03 261次 阅读
人工智能与机器人,未来人类会被取代吗?

人工智能技术在3D打印中的应用

一旦打印机设置好并准备就绪,代码的比较部分就会启动。模型的每一层,在打印时,都会与数字副本中的一个分....
发表于 08-06 16:52 210次 阅读
人工智能技术在3D打印中的应用

一款日本公司研究的美女机器人,造价120万人民币

不过该公司的负责人也表示,目前她动作还很生涩,需要不断迭代来增加美女机器人的灵活性和稳定性。最要命的....
的头像 工业机器人 发表于 08-06 16:44 145次 阅读
一款日本公司研究的美女机器人,造价120万人民币

多线激光雷达物美价廉时代已到来?

由于规模化商业应用落地带来的批量化生产需求,可以帮助厂家极大摊薄生产成本,因此一直为激光雷达企业所期....
的头像 机器人大讲堂 发表于 08-06 16:33 144次 阅读
多线激光雷达物美价廉时代已到来?

移动互联网将如何打造5G时代的云数据中心?

在这些新兴业务中,数据中心业务扮演着重要角色。运营商由于具备带宽资源的天然优势,“包揽”了国内超60....
发表于 08-06 16:32 114次 阅读
移动互联网将如何打造5G时代的云数据中心?

中国电信与云网融合,实现运营管理模式的数字化转型

可以预见,云计算市场的产业规模和收入潜力将逐步凸显,对运营商来说,云计算已成为其重要的增收业务来源,....
发表于 08-06 16:20 266次 阅读
中国电信与云网融合,实现运营管理模式的数字化转型

快讯:华为云发布EI工业智能体2.0

经过半年的创业加速孵化,第四期霍尼韦尔-启迪智能技术加速营于7月17日举行线上路演活动,来自智能建筑....
的头像 机器人大讲堂 发表于 08-06 16:18 116次 阅读
快讯:华为云发布EI工业智能体2.0

人工智能(AI)居然会犯罪?

  研究人员从学术论文、新闻和时事报道、小说和流行文化中收集了20项人工智能犯罪。然后,他们召集了3....
发表于 08-06 16:10 287次 阅读
人工智能(AI)居然会犯罪?

交通运输部:推进数据中心、人工智能的建设和应用

在助力信息基础设施建设方面,指导意见提出,推进第五代移动通信技术(5G)等协同应用、北斗系统和遥感卫....
的头像 我快闭嘴 发表于 08-06 15:46 207次 阅读
交通运输部:推进数据中心、人工智能的建设和应用

分析工业机器人领军企业的布局

“小型化”和“智能化”是下一个大趋势。随着协作技术的发展,机器人走出了安全护栏,在简易编程的推动下,....
的头像 机器人大讲堂 发表于 08-06 15:34 164次 阅读
分析工业机器人领军企业的布局

快讯:制造业的人工智能市场价值将达到167亿美元

近日,美国新华美通/-根据新的市场研究报告“ 通过提供(硬件,软件和服务),技术(机器学习,计算机视....
的头像 机器人大讲堂 发表于 08-06 15:31 351次 阅读
快讯:制造业的人工智能市场价值将达到167亿美元

快讯:俄太空机器人费奥多尔成教练?新机器人或2024年升空

中新网7月27日电 据俄罗斯卫星网27日报道,俄罗斯“智能机器人技术”科学生产联合公司(研发单位)执....
的头像 机器人大讲堂 发表于 08-06 15:15 65次 阅读
快讯:俄太空机器人费奥多尔成教练?新机器人或2024年升空

未来人才流动加快人工智能的产学研结合

“世界科技体系就是公司做有用能赚钱的东西,用户想要的东西。虽然每个企业都在说创新,但创新是排在第二位....
发表于 08-06 15:00 69次 阅读
未来人才流动加快人工智能的产学研结合

快讯:沈阳自动化所协作机器人研究获进展

近日,中国科学院沈阳自动化研究所协作机器人研究团队提出了一种基于有限元子结构法和正交设计的协作机器人....
的头像 机器人大讲堂 发表于 08-06 14:47 181次 阅读
快讯:沈阳自动化所协作机器人研究获进展

人工智能可能会统治全人类,最怕的是谷歌DeepMind?

在国际象棋、中国象棋先后落败后,人类一度把围棋视为人类最后的智慧高地。而在2016年, AlphaG....
的头像 机器人大讲堂 发表于 08-06 14:44 190次 阅读
人工智能可能会统治全人类,最怕的是谷歌DeepMind?

清华大学战略与安全研究中心的人工智能小组提出六原则

外交部原副部长、清华大学战略与安全研究中心主任傅莹在《人民论坛》撰文指出,人工智能技术的成长依靠的是....
发表于 08-06 14:41 337次 阅读
清华大学战略与安全研究中心的人工智能小组提出六原则

5G等新一代技术的飞速发展,创新企业对芯片的需求正在激增

标普全球评级董事谷力佛(CliffordKurz)对记者表示:“不确定的外部环境可能会让中国和亚太区....
的头像 我快闭嘴 发表于 08-06 13:59 199次 阅读
5G等新一代技术的飞速发展,创新企业对芯片的需求正在激增

加速推进建设超快充、大功率电动汽车充电设施

在完善行业创新基础设施方面,《指导意见》提出,加强以国家重点实验室、国家技术创新中心等重要载体为引领....
的头像 我快闭嘴 发表于 08-06 13:47 260次 阅读
加速推进建设超快充、大功率电动汽车充电设施

中国三大运营商已在全球开通40万站点,5G用户数也已破亿

“中国拥有最充足的频谱、最多的物理站址、最齐备的移动产业链,必将建成全球最好的5G网络。”华为无线网....
发表于 08-06 13:28 150次 阅读
中国三大运营商已在全球开通40万站点,5G用户数也已破亿

2024年人工智能市场全球收入将超过3000亿美元

“ AI应用程序在企业中的作用正在迅速发展。它正在改变您的客户购买,供应商交付和竞争对手竞争的方式。....
发表于 08-06 11:53 207次 阅读
2024年人工智能市场全球收入将超过3000亿美元

人工智能(AI)技术对医学的临床实践会有所帮助?

电子病历是现代医学中最严重的一次失败,因为它仅出于商业目的(用于计费)而建立,而没有考虑对医生,患者....
发表于 08-06 11:46 167次 阅读
人工智能(AI)技术对医学的临床实践会有所帮助?

人工智能和机器学习能为更多的公司维持在家工作(WFH)文化?

对WFH的批评之一是企业监视外部工人的生产力和质量的能力。幸运的是,人工智能和机器学习可以帮助您。团....
发表于 08-06 11:40 182次 阅读
人工智能和机器学习能为更多的公司维持在家工作(WFH)文化?

快讯:MIT开发出造梦机器,「美梦孵化器」为你定制真人版盗梦空间

近日,国际空间站上的一名俄罗斯宇航员,尝试在太空微重力环境下进行了人体组织的 3D 打印;并制造出了....
的头像 机器人大讲堂 发表于 08-06 11:33 134次 阅读
快讯:MIT开发出造梦机器,「美梦孵化器」为你定制真人版盗梦空间

机器人行业如何进行培养创新应用型人才呢?

系统集成制造商,此类企业即不造机器人也不用机器人,但却承担着重要工作,就是将采购来的机器人依据客户需....
的头像 机器人大讲堂 发表于 08-06 10:29 150次 阅读
机器人行业如何进行培养创新应用型人才呢?

快讯:ABB推出全新分析及人工智能套件

ABB推出全新分析软件及服务,通过将运营数据与工程和IT数据相结合,为使用者提供可操作性建议。这款套....
的头像 机器人大讲堂 发表于 08-06 10:09 100次 阅读
快讯:ABB推出全新分析及人工智能套件

脑器交互学,一个发展中的新学科

这些例子给我们一个启示,人类在进化过程当中形成了脑与生命器官的交互,这个交互目前看是非常有效的,已经....
的头像 机器人大讲堂 发表于 08-06 10:05 89次 阅读
脑器交互学,一个发展中的新学科

服务机器人 • 智能科技专题展区将为观众带来一场最新科技应用的饕餮盛宴

智慧家庭展区通过场景化的展示,展现智能科技在家庭场景中的新生态服务。包括全面展示智能家居,场景化机器....
的头像 机器人大讲堂 发表于 08-06 10:02 142次 阅读
服务机器人 • 智能科技专题展区将为观众带来一场最新科技应用的饕餮盛宴

乘新基建东风,NEPCON ASIA 2020同期活动解读行业机遇

物联网作为智能制造基础,借助5G落地将迎来新十年的多维发展。除了为用户提供具有丰富交互性、沉浸性的智....
发表于 08-06 09:25 218次 阅读
乘新基建东风,NEPCON ASIA 2020同期活动解读行业机遇

5G与人工智能协同快速发展,开启互联网新时代

RedMonk语言受欢迎程度排名中首次将python排名取代Java,使得python成为排名第二,....
发表于 08-06 09:08 151次 阅读
5G与人工智能协同快速发展,开启互联网新时代

我国已经进入互联网、大数据、人工智能和实体经济深度融合的阶段

具体包括:大力发展融合化在线教育;积极发展互联网医疗;鼓励发展便捷化线上办公;不断提升数字化治理水平....
发表于 08-06 08:57 452次 阅读
我国已经进入互联网、大数据、人工智能和实体经济深度融合的阶段

2020AIIA人工智能开发者大会将于9月举行

大会主论坛上将发布包括全国首个“可信AI示范区”评选结果,2020年人工智能产品服务等多领域的标准、....
发表于 08-05 20:47 157次 阅读
2020AIIA人工智能开发者大会将于9月举行

“新基建”带动了一批传统上游制造业的重生和新型制造业的兴起

  在“新基建”积极推进的背景下,5G基站建设、大数据中心建设、轨道交通建设逐步深入,以及新能源汽车....
的头像 我快闭嘴 发表于 08-05 16:41 303次 阅读
“新基建”带动了一批传统上游制造业的重生和新型制造业的兴起

好莱坞也要来尝个鲜:聘请AI机器人出演女一号

除了外表“美艳”,Erica拥有语音生成算法、面部识别技术和红外传感器,让“她”具备与人类交流的能力....
的头像 知社学术圈 发表于 08-05 16:27 256次 阅读
好莱坞也要来尝个鲜:聘请AI机器人出演女一号

智能安防系统主要包括哪三大部分?

目前,智能安防最核心的部分在于智能安防系统,该系统是对拍摄的图像进行传输与存储,并对其进行分析与处理....
发表于 08-05 16:17 232次 阅读
智能安防系统主要包括哪三大部分?

AI神经系统需要“睡觉”才能提升工作效率?

但是,在研究人员将神经系统暴露于人工模拟的睡眠之后,它又恢复了正常状态,再次有效地执行了任务。根据研....
发表于 08-05 15:44 198次 阅读
AI神经系统需要“睡觉”才能提升工作效率?

人工智能技术加速了社会数字化转型和智慧城市建设

在工信部所发布的《充分发挥人工智能赋能效用 协力抗击新型冠状病毒感染的肺炎疫情倡议书》中提到:“尽快....
发表于 08-05 15:28 720次 阅读
人工智能技术加速了社会数字化转型和智慧城市建设

5G基础建设逐步完善,加速“数字人+5G”多场景落地

“现在AI是在帮人类做了大量痛苦的、没有创造性的工作,这样人类就会被解放出来做更多具有创造性的工作,....
发表于 08-05 15:22 141次 阅读
5G基础建设逐步完善,加速“数字人+5G”多场景落地

九号机器人凭借技术领先的优势,使平衡车智能化成为了新的市场趋势

在AI技术取得跨越式发展后,一些人工智能企业开始把AI技术应用在平衡车能上,并取得了不错的成效,引得....
发表于 08-05 15:07 133次 阅读
九号机器人凭借技术领先的优势,使平衡车智能化成为了新的市场趋势

北美将在全球边缘AI软件市场中占据最大的市场规模

就采用和开发边缘AI软件而言,北美有望成为领先地区。预计在预测期内,对数据管理策略的投资不断增长,最....
发表于 08-05 14:45 187次 阅读
北美将在全球边缘AI软件市场中占据最大的市场规模

AI芯片在中国呈现爆发式发展,背后的原因是什么?

AI芯片的应用场景细分市场越来越多,因此,当前找到应用场景并在行业快速落地将变得格外重要。但目前AI....
发表于 08-05 14:40 283次 阅读
AI芯片在中国呈现爆发式发展,背后的原因是什么?

Glow神经网络编译器首次应用于MCU,面向边缘端机器学习

率先开发PyTorch的Facebook推出了开源社区项目Glow(Graph Lowering神经....
发表于 08-05 14:32 278次 阅读
Glow神经网络编译器首次应用于MCU,面向边缘端机器学习

自动驾驶车的人车交互接口设计方案

随着高精度传感、自动化、人工智能等技术的飞速发展,预计到2021年市场上会出现第一批完全没有方向盘等驾驶控制器的自动驾驶量产...
发表于 07-30 07:57 102次 阅读
自动驾驶车的人车交互接口设计方案

关于机器学习的日志

机器学习日志
发表于 07-08 12:54 18次 阅读
关于机器学习的日志

机器学习小白的总结

机器学习小白第一周自我总结
发表于 07-08 08:27 32次 阅读
机器学习小白的总结

机器学习之周志华完整版

链接: 提取码:2ja8
发表于 06-28 18:46 223次 阅读
机器学习之周志华完整版

吴恩达机器学习之Coursera-week

吴恩达机器学习Coursera-week10
发表于 06-19 11:22 1781次 阅读
吴恩达机器学习之Coursera-week

人工智能改变客户体验的10种方式

  1)为客户提供准确,个性化的建议   人工智能可以分析客户的购买历史,然后为他们可能感兴趣的其他产品和服务提供建议。这...
发表于 06-19 11:20 268次 阅读
人工智能改变客户体验的10种方式

数字孪生再现旅行者号轨迹,可视化拉开航天新时代

[quote]做为数据可视化的一线重度参与者,本着技术为本,持续的奔波在自主研发的道路上。2020年,国家发改委多次点名‘数字孪生’...
发表于 06-18 09:29 230次 阅读
数字孪生再现旅行者号轨迹,可视化拉开航天新时代

机器学习笔记之BP推导

机器学习笔记:BP推导
发表于 06-15 17:11 86次 阅读
机器学习笔记之BP推导

斯坦福机器学习公开课笔记之单变量线性回归

斯坦福机器学习公开课笔记 一 --单变量线性回归...
发表于 06-11 13:53 1669次 阅读
斯坦福机器学习公开课笔记之单变量线性回归

机器学习的资源分享

机器学习资源分享
发表于 06-09 16:31 83次 阅读
机器学习的资源分享