电子发烧友网 > 人工智能 > 正文

AI智能体使用日常语言生成解释其行为的原理

2019年07月18日 10:44 次阅读

佐治亚理工学院、康奈尔大学和肯塔基大学合作开发了一种AI智能体,可以实时自动生成自然语言解释,以传达其行为背后的动机。这项工作旨在让人类与AI智能体或机器人合作,确保智能体正在正确地执行任务,并且可以解释错误或错误的行为。

智能体还使用非专家能够理解的日常语言。这些解释,或研究人员所称的“理性”,旨在引起人们的共鸣,并激发人们对那些可能在工作场中或社交场合中的机器人的信任。

“由于人工智能遍及我们生活的方方面面,因此非常需要以人为本的人工智能设计,使日常用户可以解释如同黑盒子的人工智能系统。我们需要理解基于语言的解释的作用以及如何让人类认识到它们。”

研究人员开展了一项参与者研究,以确定AI智能体能否提供模仿人类反应的理论依据。观众观看智能体玩视频游戏Frogger,然后根据每个人对人工智能游戏动作的描述程度,以描述AI移动的好坏对屏幕上列出的三个原理进行排序。

对于每一步的三个匿名判断,包括人类生成的响应,AI智能体生成的响应和随机生成的响应,参与者优先选择人类生成的理论,但AI生成的响应紧随其后。

Frogger为研究人员提供了在“顺序决策环境”中训练AI的机会,这是一项重大的研究挑战,因为智能体已经做出的决策会影响未来的决策。因此,研究人员表示,向专家解释推理链是困难的,在与非专家交流时更是如此。

参与者理解Frogger的目标是让青蛙安全回家,而不会被移动的车辆撞到或在河里淹死。向上,向下,向左或向右移动的简单游戏机制允许参与者看到AI正在做什么,并评估屏幕上的基本原理是否清楚地证明了移动的合理性。

参与者根据以下因素判断原理:

信心:这个人对AI执行任务充满信心

类人的:看起来像是由人类做出决定

充分的理由:充分证明采取的行动是正确的

可理解性:帮助人们理解AI的行为

AI生成的理论,在参与者中排名较高,表现出对环境条件和适应性的认可的理论,以及那些传达对未来危险的认识并为其规划的理论。冗余信息只是陈述了明显特征或错误地描述环境,这会产生负面影响。

“这个项目更多的是为了了解人类对这些人工智能系统的认知和偏好,而不是建立新技术,”Ehsan表示,“可解释性的核心是意义建构。我们试图理解这个人为因素。”

AI智能体使用日常语言生成解释其行为的原理

另一项相关研究证实,研究人员决定设计他们的AI智能体,使其能够提供两种不同类型的原理中的一种:

简洁的,专注的

整体的,全貌

在第二项研究中,参与者在观看AI玩Frogger后才获得AI生成的原理。他们被要求在人工智能出错的情况下选择他们更喜欢的答案,他们不知道原理分为两类。

四分之三的参与者赞成分类为“全貌”类别的答案。回应显示,人们欣赏人工智能对未来步骤的思考,而不仅仅是思考当下的事情,这可能会让他们更容易犯另一个错误。人们也想知道更多,这样他们就可以直接帮助人工智能纠正错误行为。

互动计算教授Mark Riedl表示,“对人工智能机器人的感知和偏好的理解,为我们提供了一套强大的可操作的见解,可以帮助我们设计出更好的以人为本,理性的、自主的智能体。”

研究的未来可能方向将把研究结果应用于各种类型的自主智能体,让它们根据手头的任务做出反应,例如它们可以应用在紧急响应救援,或是在教室帮助教师处理任务。

下载发烧友APP

打造属于您的人脉电子圈

关注电子发烧友微信

有趣有料的资讯及技术干货

关注发烧友课堂

锁定最新课程活动及技术直播

电子发烧友观察

一线报道 · 深度观察 · 最新资讯
收藏 人收藏
分享:

评论

相关推荐

【5月12】不懂编程没关系,邀请您来学AI

不懂编程没关系,邀请您来学AI活动概述:本活动是现场讲座,由台湾知名AI教育专家、金门创新学院院长、台湾Android技

发烧友学院 发表于 2019-05-24 00:00 0次阅读
【5月12】不懂编程没关系,邀请您来学AI

CINNO Research数据表明全球市场智能...

根据CINNO Research统计数据表明,2015-2018年全球市场智能机面板内嵌式搭载率逐渐...

发表于 2019-07-18 10:40 12次阅读
CINNO Research数据表明全球市场智能...

2019年人工智能五大趋势

当机器学习模型应用于这些数据集时,IT运行即可从被动响应转变为主动预测。

发表于 2019-07-18 10:20 6次阅读
2019年人工智能五大趋势

技术的温度:用AI保护野生动物

他们使用的 SPOT 系统,由南加州大学社会人工智能中心的研究人员建造,先通过人工标记,以及无人机自...

发表于 2019-07-18 10:15 19次阅读
技术的温度:用AI保护野生动物

“没人比我更懂AI了”介绍45篇让你跟上AI时代...

Targeted Dropout不再像原有的Dropout那样按照设定的比例随机丢弃部分节点,而是对...

发表于 2019-07-18 10:12 20次阅读
“没人比我更懂AI了”介绍45篇让你跟上AI时代...

视觉AI市场引爆前夕,虹软+AI创享会招募深圳同...

从人工智能技术应用曲线来看,人脸识别技术正处于爆发阶段,应用价值逐步呈现。人脸识别在LFW、Mega...

发表于 2019-07-18 09:28 7次阅读
视觉AI市场引爆前夕,虹软+AI创享会招募深圳同...

通用人工智能仍是白日梦

尽管深度学习为广泛的计算机感知领域注入了新鲜血液,但它甚至没有触及人工智能的基本问题。

发表于 2019-07-18 09:22 18次阅读
通用人工智能仍是白日梦

大国竞争格局将变成AI人工智能的竞争

本轮科技和产业革命,从一开始大家聚焦的新能源和新通讯,慢慢地聚焦到以人工智能、大数据以及物联网为核心...

发表于 2019-07-18 08:45 15次阅读
大国竞争格局将变成AI人工智能的竞争

未来可以让AI来创造AI吗

任何机器学习模型都是基于历史数据开发出来的,而历史数据反映的是过去的商业状况,所以模型其实是有保质期...

发表于 2019-07-18 08:33 14次阅读
未来可以让AI来创造AI吗

8小时卖出20万台AI音箱,喜马拉雅是如何做到的...

去年年底,喜马拉雅AI音箱小雅Nano宣布全球发售时,1万台现货开售1分钟即被抢购一空,首批10万台...

发表于 2019-07-17 17:09 291次阅读
8小时卖出20万台AI音箱,喜马拉雅是如何做到的...

vivo Y7s正式开启预约搭载联发科P65处理...

联发科P65处理器基于12nm工艺,八核心设计,由两颗2.0GHz的A75核心与六颗1.7GHz的A...

发表于 2019-07-17 16:49 131次阅读
vivo Y7s正式开启预约搭载联发科P65处理...

29张中国“智能+”社会发展指数图出炉啦!

29张中国“智能+”社会发展指数图出炉啦!

发表于 2019-07-17 16:38 140次阅读
29张中国“智能+”社会发展指数图出炉啦!

大众与福特共推自动驾驶出租车服务

Argo AI作为一家自动驾驶汽车开发商,目前正负责部署福特的自动驾驶出租车服务。

发表于 2019-07-17 16:07 168次阅读
大众与福特共推自动驾驶出租车服务

AI在实际应用中最大的问题与困扰是什么?

本次邀请该研究中心的薛向阳教授,为我们共同探讨产研合作中存在的问题。

发表于 2019-07-17 15:51 152次阅读
AI在实际应用中最大的问题与困扰是什么?

AI也需要做梦吗

处于“清醒”或在线状态的人工智能神经网络总是在学习新的信息模式。

发表于 2019-07-17 15:22 30次阅读
AI也需要做梦吗

下次如何加薪将由AI和算法说了算

用过去的方法来评估员工的绩效,意味着要从几套不同的人力资源部门记录中挖掘出每份直接报告中蕴含的信息。

发表于 2019-07-17 14:20 30次阅读
下次如何加薪将由AI和算法说了算

我国移动支付经历数年的发展现状、问题及未来趋势等...

从粗放式规模增长到精细化运营,经历数年的快速发展后,我国移动支付市场已步入下半场,回归支付业务本源,...

发表于 2019-07-17 11:38 309次阅读
我国移动支付经历数年的发展现状、问题及未来趋势等...

MIT和谷歌开发失传语言的机器翻译系统

注释数据库和让机器从中学习的技术让语言学习发生了革命性变化,这使得机器翻译变得越来越普遍。

发表于 2019-07-17 10:56 35次阅读
MIT和谷歌开发失传语言的机器翻译系统

医疗和技术的加速融合,带动产业进入“AI+医疗”...

人工智能等前沿技术正在快速迭代,医疗领域的智能升级是大势所趋。

发表于 2019-07-17 10:51 175次阅读
医疗和技术的加速融合,带动产业进入“AI+医疗”...

法律会是AI将革新的又一产业吗

我们这个软件驱动的世界,正在给法律行业带来革命性的变化,并产生了所谓的“法律工程师”。

发表于 2019-07-17 10:39 145次阅读
法律会是AI将革新的又一产业吗

6家国际集成商发布了2019年半年度业绩预告

整体来看,拓斯达、今天国际、三丰智能3家企业净利预增;智慧松德预计上半年净利润559.32万至149...

发表于 2019-07-17 10:39 98次阅读
6家国际集成商发布了2019年半年度业绩预告

科创板报道:倒计时!首批25家公司如何前瞻和选择

7月22日(下周一),科创板首批25家公司将在上交所鸣锣上市,成为中国资本市场的新生力量。 从201...

发表于 2019-07-17 10:34 429次阅读
科创板报道:倒计时!首批25家公司如何前瞻和选择

边缘计算时代的到来会给AI带来哪些影响

随着5G、人工智能和物联网时代的到来,传统的云计算技术已经无法满足人工智能终端“大连接、低时延、大带...

发表于 2019-07-17 10:33 40次阅读
边缘计算时代的到来会给AI带来哪些影响

5G与AI的碰撞会发生什么化学反应

5G尚处于商用初期,AI也处于发展初级阶段。

发表于 2019-07-17 10:00 36次阅读
5G与AI的碰撞会发生什么化学反应

利用语音直接画出人脸,AI再添新能力

听声辨人,利用声纹进行解锁,这种技术已广泛应用,人类的声音含有该个体的一定特征,从而可以进行区分。

发表于 2019-07-17 09:54 178次阅读
利用语音直接画出人脸,AI再添新能力

中国车联网规模突破2000亿,5G和AI融合推动...

7月9-10日,由国泰君安证券与中移(上海)产业研究院、浦发硅谷银行共同主办的国泰君安2019年信息...

发表于 2019-07-17 09:32 873次阅读
中国车联网规模突破2000亿,5G和AI融合推动...

多类PCB产品被中国纳入《鼓励外商投资产业目录》

据国家发改委网站消息,经党中央、国务院同意,国家发展改革委、商务部于2019年6月30日发布第27号...

发表于 2019-07-17 08:32 178次阅读
多类PCB产品被中国纳入《鼓励外商投资产业目录》

人工智能能实现无人物流体系吗

无人科技背后的大数据、AI算法等科技成果还促进建立了以消费者个性化需求为核心的C2M反向定制、物流价...

发表于 2019-07-16 17:27 89次阅读
人工智能能实现无人物流体系吗

产业互联网时代到来科技是最大筹码

当产业互联网的风口到来,这些企业未来的发展路径又是怎样的?

发表于 2019-07-16 17:06 161次阅读
产业互联网时代到来科技是最大筹码

智慧春运改善了春节交通什么问题

铁路“智慧出行”正在悄然改变着春运概念,从“走得了”到“走得好”,由“出行”变为“欢乐行”。

发表于 2019-07-16 15:59 56次阅读
智慧春运改善了春节交通什么问题

TOPJOB®S轨装式接线端子系列成功进入宝马成...

近期,万可带有推压键的TOPJOB®S轨装式接线端子系列成功进入宝马(BMW)全球批准采购清单,成为...

发表于 2019-07-16 15:30 172次阅读
TOPJOB®S轨装式接线端子系列成功进入宝马成...

物业公司如何面对社区物联化大势所趋

随着人工智能、大数据、物联网等科技发展,传统行业也开始借助这些技术进行转型升级。

发表于 2019-07-16 15:24 64次阅读
物业公司如何面对社区物联化大势所趋

“G往开来,为AI出行”——长城汽车告别传统功能...

7月15日,“G往开来,为AI出行”——长城汽车GTO全域智慧生态战略在保定哈弗技术中心正式发布。

发表于 2019-07-16 15:12 186次阅读
“G往开来,为AI出行”——长城汽车告别传统功能...

工业机器人搭载智能型氯化氢传感器巡航监测车间环境

通过工业机器人的自动导航,搭载氯化氢传感器,从而实现对车间环境中氯化氢的检测。

发表于 2019-07-16 14:44 62次阅读
工业机器人搭载智能型氯化氢传感器巡航监测车间环境

如何检测司机是否紧握方向盘

根据当下的自动驾驶技术进展,未来仍有相当长的一段时间无法实现完全自动驾驶汽车。

发表于 2019-07-16 14:18 58次阅读
如何检测司机是否紧握方向盘

AI音乐家将在这四个方面掀起革新浪潮

就像在其他行业一样,在音乐领域,AI也在帮助服务自动化,在庞大的数据集中发现模式和洞见,并帮助提高创...

发表于 2019-07-16 14:12 33次阅读
AI音乐家将在这四个方面掀起革新浪潮

智能玻璃开启的新未来是什么样的

许多现代智能手机所采用的复杂人脸识别技术有朝一日可能会得到高科技升级,其声音和外观都出人意料地低技术...

发表于 2019-07-16 11:51 98次阅读
智能玻璃开启的新未来是什么样的

Facebook AI又出新作:性能翻倍,计算成...

Facebook AI又出新作,在神经网络中加入一个结构化存储器层,极大扩充了网络容量和参数数量,性...

发表于 2019-07-16 10:56 206次阅读
Facebook AI又出新作:性能翻倍,计算成...

用AI对抗AI——基于视频人脸篡改的检测

Deepfake有救了!

发表于 2019-07-16 10:10 179次阅读
用AI对抗AI——基于视频人脸篡改的检测

如果你将踏上机器学习工程师就可能遇到 Danie...

如果未来的你将踏上机器学习工程师这条道路,那你很大可能将遇到和机器学习工程师 Daniel Bour...

发表于 2019-07-16 09:57 226次阅读
如果你将踏上机器学习工程师就可能遇到 Danie...

机器视觉系统组成 稳定性都有重要影响

机器视觉的研究始于20世纪50年代二维图像的模式识别[1],它起初被设计用来代替人眼从事检测识别的工...

发表于 2019-07-16 09:53 529次阅读
机器视觉系统组成 稳定性都有重要影响

人民日报社与中国联通在建设5G新媒体平台方面正式...

根据战略合作协议,双方将以建设5G新媒体平台为目标,充分运用5G、4K超高清视频,虚拟现实(VR),...

发表于 2019-07-16 09:46 170次阅读
人民日报社与中国联通在建设5G新媒体平台方面正式...

热点 | 工信部:加快5G、AI等新型基础设施建...

7月9日第18届中国互联网大会召开,工业和信息化部副部长陈肇雄出席大会并致辞。

发表于 2019-07-16 08:52 150次阅读
热点 | 工信部:加快5G、AI等新型基础设施建...

从场景出发的计算架构才能真正满足AI大规模应用需...

来自学术界、工业界、投资界的重磅嘉宾齐聚CCF-GAIR 2019 AI芯片专场共同探讨芯片的前沿技...

发表于 2019-07-16 08:35 186次阅读
从场景出发的计算架构才能真正满足AI大规模应用需...

瞻产业研究院发布的分析报告:204亿台的物联网设...

数量爆发式增长的背后,Wi-Fi、蓝牙、Zigbee三大无线连接技术正上演一场“争霸赛”。本文通过对...

发表于 2019-07-15 18:05 466次阅读
瞻产业研究院发布的分析报告:204亿台的物联网设...

人工智能如何分辨谣言

即以AI技术打假为主、以人工审核为辅,AI还不能替代专家。

发表于 2019-07-15 16:30 41次阅读
人工智能如何分辨谣言

如何解锁AI医疗落地之难

在众多落地场景中,目前AI医学影像是最为成熟的一个。

发表于 2019-07-15 16:26 35次阅读
如何解锁AI医疗落地之难

KaiOS的用户数量有一亿左右!你知道吗?

KaiOS操作系统诞生于2017年,而在2018年的第一季度,据DeviceAtlas 数据显示,K...

发表于 2019-07-15 16:06 228次阅读
KaiOS的用户数量有一亿左右!你知道吗?

如何用AI打造线上社群的西部世界

构建在区块链之上的“AI机器人管家”Jarvis+,在满足社群运营的基础之上,将用户和平台进行链接,...

发表于 2019-07-15 15:49 33次阅读
如何用AI打造线上社群的西部世界

是什么让Facebook AI副总裁夜不能寐?

Facebook 人工智能副总裁Jérôme Pesenti,首次在公开演讲中亮相,表达了对日益增长...

发表于 2019-07-15 15:05 109次阅读
是什么让Facebook AI副总裁夜不能寐?

谁也想不到 今天刘德华火的这么意外!

谁也没有想到,刘德华今天火的这么意外!

发表于 2019-07-15 15:02 213次阅读
谁也想不到 今天刘德华火的这么意外!

《中国“智能+”社会发展指数报告2019》正式向...

7月9日,《中国“智能+”社会发展指数报告2019》(以下简称“《报告》”)在2019(第十八届)中...

发表于 2019-07-15 14:25 159次阅读
《中国“智能+”社会发展指数报告2019》正式向...

伟创力长沙工厂就已停产原因是受“美国对华为禁令”...

据财新网报道称,“自2019年3月开始,伟创力长沙一期项目的生产已经遭遇困顿。2019年5月,伟创力...

发表于 2019-07-15 14:17 240次阅读
伟创力长沙工厂就已停产原因是受“美国对华为禁令”...

AI护士小姐姐可以帮护士多少忙

机器人队友在这方面真的会是一个有趣而巨大的进步。

发表于 2019-07-15 11:32 64次阅读
AI护士小姐姐可以帮护士多少忙

从头开始构建最先进的深度学习模型

Deep Learning from the Foundations

发表于 2019-07-15 10:02 203次阅读
从头开始构建最先进的深度学习模型

Al人工智能比特币矿机兴起原因是什么

一方面AI需要大量的算力,另一方面挖矿正在造成大量算力的浪费。

发表于 2019-07-15 09:47 58次阅读
Al人工智能比特币矿机兴起原因是什么

AI创造性的工作都已经不在话下了吗

未来的学术出版以及各类书籍,将不再只是人为创造,而是有更多形式出现,包括了混合人机文本生成的书籍或完...

发表于 2019-07-14 11:04 69次阅读
AI创造性的工作都已经不在话下了吗

AI是每个企业的机会吗

只有把握人工智能机遇,企业才能掌握高质量发展的“利器”。

发表于 2019-07-14 10:44 66次阅读
AI是每个企业的机会吗

现在看病还需要像以前那样排队吗

开发出了全球领先的下一代微特征识别FVR技术,把浩瀚的手掌脉络“微特征”编码为高密度、高容量的超级“...

发表于 2019-07-14 10:38 50次阅读
现在看病还需要像以前那样排队吗

AI是怎样从你的声音听出你的长相的

随着人工智能技术的不断发展,AI似乎变得越来越“无所不能”

发表于 2019-07-14 10:30 50次阅读
AI是怎样从你的声音听出你的长相的

如何让AI技术尽快应用于实际

自然语言处理(NLP)和自然语言理解,特别是语音转文字技术将成为2019年企业AI中最主要的产品呈现...

发表于 2019-07-14 09:54 51次阅读
如何让AI技术尽快应用于实际

一款具有传统的按键控制功能且能控制语音的音乐播放器设计

发表于 2019-06-20 07:34 37次阅读
一款具有传统的按键控制功能且能控制语音的音乐播放器设计

智能MVB波形诊断插件

发表于 2019-03-04 10:24 232次阅读
智能MVB波形诊断插件

智能垃圾桶,谁有这方面的资料

发表于 2019-02-21 11:57 498次阅读
智能垃圾桶,谁有这方面的资料

盗梦科技受邀参加备受瞩目的世界VR产业大会

发表于 2018-10-24 14:02 925次阅读
盗梦科技受邀参加备受瞩目的世界VR产业大会

VR交通安全系统,让你体验不一般的天气环境

发表于 2018-10-16 13:36 1030次阅读
VR交通安全系统,让你体验不一般的天气环境

VR酒驾,交互式体验醉酒驾驶模拟

发表于 2018-10-16 13:23 809次阅读
VR酒驾,交互式体验醉酒驾驶模拟

盗梦科技:VR模拟驾驶设备让交通更安全

发表于 2018-09-21 11:03 1309次阅读
盗梦科技:VR模拟驾驶设备让交通更安全

中天协创应邀参加布吉街道“三小场所‘复绿’行动

发表于 2018-09-18 10:12 472次阅读
中天协创应邀参加布吉街道“三小场所‘复绿’行动

毫无眩晕感,VR交通安全模拟系统亮相盗梦科技

发表于 2018-09-14 09:36 744次阅读
毫无眩晕感,VR交通安全模拟系统亮相盗梦科技

苹果新品发布会前瞻,双卡iPhone了解一下

发表于 2018-09-13 09:36 915次阅读
苹果新品发布会前瞻,双卡iPhone了解一下