电子发烧友网 > 人工智能 > 正文

如何避免人工智能机器人产生自我意识

2019年11月27日 14:45 次阅读

人工智能的时代距离我们越来越近,当机器人逐渐进化到产生自我意识,世界将会变成什么样?对于人工智能和机器人的看法,已故著名科学家斯蒂芬·霍金并不乐观,霍金认为,在机器人产生自意识后,机器人或将会以超越人类的速度迅速崛起,机器人将会取代人类成为这个世界的主宰,这个世界或将变成一个人类被奴役的世界。

快速发展的可能出现自我意识的机器人的前景,让人联想到终结者机器人或黑镜反乌托邦,但是,现在一群科技研究人员声称,他们已经开发出一种抑制人工智能出现不良行为的方法。

为了防止机器人产生自我意识,技术专家公布新的人工智能设计方法,来自马萨诸塞大学阿姆赫斯特分校的首席作者菲利普·托马斯表示:“当人们应用机器学习算法时,很难控制它的行为。”

根据托马斯和他的同事们的研究,关键问题不是试图教计算机遵守道德操守,而是设计机器学习算法,以便人类用户以后更容易添加约束,使人工智能更安全、更公平的发展。

如何避免人工智能机器人产生自我意识

该团队提出了一个名为“Seldonian”算法的框架,该算法以科幻作家艾萨克·阿西莫夫创造的一个角色命名,用户可以根据自己的需要指定不希望出现的不良行为。

托马斯教授给出了在控制用于糖尿病治疗的胰岛素泵时使用算法的例子,并详细说明了不良行为意味着危险的低血糖,托马斯解释称:“大多数算法都无法给你提供一种约束这种行为的方法,因为早期的算法设计中没有包含这种约束。”

在发表在《科学》杂志上的一项研究中,该研究团队测试了他们的Seldonian算法,以预测巴西43,000名学生的平均绩点,并表示该算法成功地克服了几种类型的性别偏见。

研究人员分别来自美国的阿姆赫斯特分校和斯坦福大学以及巴西的里约热内卢联邦大学,他们呼吁该领域的其他人继续他们的研究途径,以开发更负责任的机器学习。

责任编辑:ct

下载发烧友APP

打造属于您的人脉电子圈

关注电子发烧友微信

有趣有料的资讯及技术干货

关注发烧友课堂

锁定最新课程活动及技术直播

电子发烧友观察

一线报道 · 深度观察 · 最新资讯
收藏 人收藏
分享:

评论

相关推荐

四轴机器人编程与应用

主题简介:本次直播主要讲解四轴机器人控制器基本原理及组成。四轴机器人的核心技术内嵌人工智能算法的工业级运动控制技术和伺服
发烧友学院发表于 2018-10-30 00:00 11587次阅读
四轴机器人编程与应用

人工智能给无线网络的发展带来了什么积极意义

对于5G面对的低时延、高可靠需求,越贴近用户做出决策越好,这就引入了移动边缘计算。
发表于 2019-11-27 14:52 0次阅读
人工智能给无线网络的发展带来了什么积极意义

智能化控制是怎样成为趋势的

随着消费升级的加快、人工智能等新技术的崛起,绿色、低碳、节能以及智能化控制已成为未来采暖行业发展的大....
发表于 2019-11-27 14:42 4次阅读
智能化控制是怎样成为趋势的

AI智能客服系统如何打开未来的大门

随着以AI人工智能技术为主的新一代快速商业化信息时代的到来,我国的数字经济也随之突飞猛进。
发表于 2019-11-27 14:39 0次阅读
AI智能客服系统如何打开未来的大门

人工智能是实现自动驾驶汽车的关键所在 是推动自动...

在近期举办的第二届全球智能驾驶峰会上,苏州智加科技有限公司总裁郑皓指出,自动驾驶产业正迎来三大利好:....
发表于 2019-11-27 14:37 11次阅读
人工智能是实现自动驾驶汽车的关键所在 是推动自动...

机器人会自我复制算不算好事情

伴随着科技的进步,人工智能的不断前进,未来社会更加令人无法想象。
发表于 2019-11-27 14:33 10次阅读
机器人会自我复制算不算好事情

机器人战士走上战场后会怎样

人工智能的研发应用,已经变成现实。科技发展的速度和进步真是让人措手不及,很多看似不可能的东西,都在时....
发表于 2019-11-27 14:30 12次阅读
机器人战士走上战场后会怎样

你们干的过财务机器人吗

人工智能像一阵大风似的,刮过我们生活的各个角落。
发表于 2019-11-27 14:25 4次阅读
你们干的过财务机器人吗

产业互联网能否实现智能化

数字经济已成为驱动全球经济增长的关键引擎,随着人工智能、自动化、物联网以及5G等技术兴起,数字化、网....
发表于 2019-11-27 14:23 15次阅读
产业互联网能否实现智能化

NASA完成Astrobee系统的第二个机器人部...

据外媒报道,NASA已经在国际空间站(ISS)上部署了第二个名为“Honey”的Astrobee自由....
发表于 2019-11-27 14:16 7次阅读
NASA完成Astrobee系统的第二个机器人部...

史上最全AI人工智能入门+进阶学习视频全集(200G)【免费领取】

近几年来,人工智能(AI)概念很火热,几乎人人都在学习人工智能,AI市场人才的抢夺也非常的激烈。根据百科的解释...
发表于 2019-11-27 12:10 29次阅读
史上最全AI人工智能入门+进阶学习视频全集(200G)【免费领取】

工业机器人具备有哪一些优势

虽然机器人发展优势十分明显,不过随着机器人的广泛应用,我国的机器人技术人员却十分匮乏。
发表于 2019-11-27 11:07 11次阅读
工业机器人具备有哪一些优势

人工智能改变零售业面貌 代表了现代商业的未来

世界正迈向数字化时代,传统零售商如亚马逊和沃尔玛都面临着生存危机。如今购买者可以通过多种渠道采购,为....
发表于 2019-11-27 11:04 35次阅读
人工智能改变零售业面貌 代表了现代商业的未来

阿尔法蛋2019三款新品发布 重新定义了AI学习...

阿尔法蛋2019新品媒体沟通会在北京中华航天博物馆召开,此次媒体沟通会以“上星啦!阿尔法蛋”为主题,....
发表于 2019-11-27 10:27 44次阅读
阿尔法蛋2019三款新品发布 重新定义了AI学习...

人工智能是将处于黄金时代还是即将到来的新冬天

斯坦福大学最近呼吁美国政府在未来10年内对该国的AI生态系统进行1200亿美元的投资,法国的报告显示....
发表于 2019-11-27 10:11 94次阅读
人工智能是将处于黄金时代还是即将到来的新冬天

人工智能发展要警惕“跟风式虚火” 扎扎实实发展才...

从1956年几位科学家提出人工智能概念,到2016年人工智能“阿尔法狗”战胜世界围棋冠军;从正在相继....
发表于 2019-11-27 10:09 35次阅读
人工智能发展要警惕“跟风式虚火” 扎扎实实发展才...

IBM充分发挥云计算与人工智能的潜力 围绕五大原...

众所周知,数据在今天的企业中拥有至关重要的战略地位。如何更好地管理数据并进一步释放数据价值,推动数字....
发表于 2019-11-27 10:05 33次阅读
IBM充分发挥云计算与人工智能的潜力 围绕五大原...

人工智能和机器学习在海上油气行业的应用越发广泛

据麦肯锡公司和现代先进的分析程序可以帮助大石油公司发现价值的额外$ 10亿。
发表于 2019-11-27 10:05 62次阅读
人工智能和机器学习在海上油气行业的应用越发广泛

波士顿动力需要做些什么才能成为机器人中的安卓

机器人中的安卓(Android本身就意指机器人),听起来绕口,但实际上也是一个相对简单的概念。
发表于 2019-11-27 09:45 28次阅读
波士顿动力需要做些什么才能成为机器人中的安卓

借助手术机器人可推动智慧医疗行业的发展

据了解,由于目前机器人手术费用尚未纳入医保范畴,有专家呼吁,希望相关部门能就如何报销、报销多大比例等....
发表于 2019-11-27 09:41 70次阅读
借助手术机器人可推动智慧医疗行业的发展

俄罗斯版的作战机器人即将来临 军事力量进一步加强

俄新社23日称,2025年前,俄罗斯将组建能完成作战任务的多功能机器人部队。俄国防工业综合体领域消息....
发表于 2019-11-27 09:34 35次阅读
俄罗斯版的作战机器人即将来临 军事力量进一步加强

为什么要大力发展工业机器人产业,其原因为何

我国工业机器人起步于上世纪70年代初,时至今日已经有近五十年的发展历程,我国的工业机器人技术有很多都....
发表于 2019-11-27 09:34 65次阅读
为什么要大力发展工业机器人产业,其原因为何

国内机器人企业亏损达853% 2020年或将遇到...

已近年尾,整个2019年随着全球工业大环境的持续萎靡,工业机器人行业日渐下行,行业整合变革不断,各大....
发表于 2019-11-27 08:42 42次阅读
国内机器人企业亏损达853% 2020年或将遇到...

仙知机器人助力下 智慧物流建设速度不断加快

近年来,伴随着青壮年劳动力逐年下滑及人口红利不断流失,在新一轮技术革命的推动下,制造业领域内的企业越....
发表于 2019-11-26 17:51 78次阅读
仙知机器人助力下 智慧物流建设速度不断加快

脸部识别不再局限于人脸 动物也开始流行起刷脸来

脸部识别在人类世界的应用正风生水起,从安防扩展到零售、营销和金融等行业。而识别技术也向着多样化发展,....
发表于 2019-11-26 17:23 76次阅读
脸部识别不再局限于人脸 动物也开始流行起刷脸来

图书馆AI机器人给我们带来了什么便利

“智图”机器人集机器人导航、地图构建、射频定位、计算机视觉、人工智能等多项高精尖技术于一身,能够实现....
发表于 2019-11-26 17:19 31次阅读
图书馆AI机器人给我们带来了什么便利

人工智能学习人类知识 但同时也能吸收人类的偏见

人们最初确实天真地以为,算法能比人类更能避免偏见。人工智能学习人类知识,同时也吸收人类偏见。这种担忧....
发表于 2019-11-26 17:19 55次阅读
人工智能学习人类知识 但同时也能吸收人类的偏见

机器人革命将会带来什么

随着中国人口红利下降,劳动力价格上升,机器人不仅在制造业正在替代工人,还将在军事、侦察、服务、娱乐等....
发表于 2019-11-26 17:16 51次阅读
机器人革命将会带来什么

为什么大多数不喜欢聊天机器人

略高于一半的机构表示将AI用于分销;接受调查的组织中,有一半认为自己已经做好了使用AI的准备。
发表于 2019-11-26 17:12 39次阅读
为什么大多数不喜欢聊天机器人

深度学习是实施机器学习的众多方法之一 拥有很大的...

深度学习是实施机器学习的众多方法之一,通常使用神经网络(NN)完成学习阶段,来自动决定最相关的数据部....
发表于 2019-11-26 17:11 70次阅读
深度学习是实施机器学习的众多方法之一 拥有很大的...

哪一些人群受人工智能的影响最大

能看到人工智能做出妥协的一个地方是Nsure,这是一家帮助客户购买合适的房屋和汽车险的数字化保险机构....
发表于 2019-11-26 17:08 23次阅读
哪一些人群受人工智能的影响最大

如何赋予机器人自学的能力

机器人学习如何结合利用模拟、强化和协作学习来完成这些任务。
发表于 2019-11-26 17:06 40次阅读
如何赋予机器人自学的能力

怎样做才可以造就人工智能未来的趋势

在人工智能领域里,浪潮的人工智能服务器市场占有率已经有了相当不错的成绩。
发表于 2019-11-26 17:01 64次阅读
怎样做才可以造就人工智能未来的趋势

你懂不懂什么是神经网络

有监督学习 有监督学习的前提条件是你具有一个存在已知结果的数据集。神经网络从给定的训练数据集中学习出....
发表于 2019-11-26 16:57 25次阅读
你懂不懂什么是神经网络

云智能带来的是什么改变

数据中心基础设施作为承载云的幕后功臣,它的智能化正悄然加速着这场云变革的进行。
发表于 2019-11-26 16:52 30次阅读
云智能带来的是什么改变

人工智能该怎样去弯道超车

人工智能创新生态包括纵向的数据平台、开源算法、计算芯片、基础软件、图形处理器等技术生态系统和横向的智....
发表于 2019-11-26 16:46 41次阅读
人工智能该怎样去弯道超车

人工智能能否让英特尔重现辉煌

随着信息科技向物联网转变,迎来是科技史上最大机遇,物联网具有互联网几十倍的市场规模。
发表于 2019-11-26 16:33 26次阅读
人工智能能否让英特尔重现辉煌

AI赋能依靠算法就足够了吗

人工智能是新一轮经济社会变革的核心驱动力,未来技术与颠覆性创新将为人工智能在各种场景应用提供技术支持....
发表于 2019-11-26 16:28 25次阅读
AI赋能依靠算法就足够了吗

AI技术怎样帮助实现因材施教

AI在教育领域面临的重要挑战是构建整个行业生态,建立更丰富的体系化解决方案、打造更具规模化的在线应用....
发表于 2019-11-26 16:23 281次阅读
AI技术怎样帮助实现因材施教

智能制造面临怎样的挑战

制造企业的目标就是利用物联网、人工智能和大数据等技术赋能传统制造业,把传统制造从以规模、成本、效益为....
发表于 2019-11-26 16:21 34次阅读
智能制造面临怎样的挑战

5G时代下 人工智能设备的部署模型无法维持流量的...

如今,电信行业已经确定需要更快的最终用户数据速率。在以往,用户通过打电话和发短信进行沟通。但是,移动....
发表于 2019-11-26 16:17 27次阅读
5G时代下 人工智能设备的部署模型无法维持流量的...

机器视觉系统对光源有没有很大的依赖性

机器视觉系统应用的光源其中最重要的任务是使用需要检测的物件的特征和不需要被检测图像特征之间产生最大的....
发表于 2019-11-26 16:15 14次阅读
机器视觉系统对光源有没有很大的依赖性

俄罗斯军事机器人威力猛 具备有打造无人装甲军团的...

虽然今天俄罗斯的国力已经无法与鼎盛时期的苏联相提并论,但仍然自诩为仅次于美国的第二大军事强国,并且在....
发表于 2019-11-26 16:11 89次阅读
俄罗斯军事机器人威力猛 具备有打造无人装甲军团的...

经过训练 机器人或许能学会建造笨拙的宜家家具

南加州大学的研究人员认为,还有更好的方法是用拷问教机器人来操纵周围的世界。继去年研究人员的脚步之后,....
发表于 2019-11-26 16:11 39次阅读
经过训练 机器人或许能学会建造笨拙的宜家家具

计算机视觉与图像处理两者之间是什么关系

计算机视觉(computer vision),用计算机来模拟人的视觉机理获取和处理信息的能力。
发表于 2019-11-26 16:11 21次阅读
计算机视觉与图像处理两者之间是什么关系

意法半导体与maxon合作机器人和工业伺服驱动器...

近日,意法半导体正在与世界领先的精密电机厂商、ST合作伙伴计划成员maxon合作,加快机器人应用和工....
发表于 2019-11-26 16:10 160次阅读
意法半导体与maxon合作机器人和工业伺服驱动器...

AI在商业场景落地的情况怎样

AI与各行各业的结合已经深入肌理,传统行业都在面临着前所未有的变革窗口期。
发表于 2019-11-26 16:03 24次阅读
AI在商业场景落地的情况怎样

医疗行业的供给端如何利用好人工智能技术

AI与各行各业的结合已经深入肌理,传统行业都在面临着前所未有的变革窗口期。
发表于 2019-11-26 16:00 32次阅读
医疗行业的供给端如何利用好人工智能技术

将机器人融入到人们的生活日常中 或许是目前的一条...

机器人理疗按摩师即将上岗!这是利用kuka LBR Med医疗机器人开发的新应用,配合内置的力矩传感....
发表于 2019-11-26 15:56 48次阅读
将机器人融入到人们的生活日常中 或许是目前的一条...

金融领域对于AI的期盼是什么

AI与各行各业的结合已经深入肌理,传统行业都在面临着前所未有的变革窗口期。
发表于 2019-11-26 15:54 23次阅读
金融领域对于AI的期盼是什么

语言AI在人工智能领域是怎样的地位

关于互联网和人工智能的未来,将从个人互联网演变成为产业互联网,最终形态是IoT,商业逻辑也或从赋能于....
发表于 2019-11-26 15:51 147次阅读
语言AI在人工智能领域是怎样的地位

人工智能给消费者带来了什么体验

AI与各行各业的结合已经深入肌理,传统行业都在面临着前所未有的变革窗口期。
发表于 2019-11-26 15:47 47次阅读
人工智能给消费者带来了什么体验

高焕堂:VR/AR欺骗大脑,AI赋能大脑,两者结合创意无限

高焕堂,台湾VR/AR产业联盟主席、台湾铭传大学《AI潮流下的创新设计思维》课程讲师、台湾科技大学VR技术培训...
发表于 2019-11-26 13:52 2840次阅读
高焕堂:VR/AR欺骗大脑,AI赋能大脑,两者结合创意无限

传感器和人工智能的关系

  谁来阐述一下传感器和人工智能的关系? ...
发表于 2019-11-25 15:51 128次阅读
传感器和人工智能的关系

5G与人工智能的关系

  谁来阐述一下5G与人工智能的关系?
发表于 2019-11-22 17:08 195次阅读
5G与人工智能的关系

大彩智能屏在美容行业的应用.pdf

大彩智能屏在美容行业的应用:随着用户对显示效果的要求越来越高,传统的数码管已经不能满足客户的要求,智能彩屏显示...
发表于 2019-11-22 16:07 116次阅读
大彩智能屏在美容行业的应用.pdf

请问有机器人眼的工作原理图吗?

机器人眼
发表于 2019-11-08 07:09 126次阅读
请问有机器人眼的工作原理图吗?

嵌入式语音识别系统与PC机语音识别系统相比有什么优点?

服务机器人以服务为目的,因此人们需要一种更方便、更自然、更加人性化的方式与机器人交互,而不再满足于复杂的键盘和...
发表于 2019-11-07 06:04 115次阅读
嵌入式语音识别系统与PC机语音识别系统相比有什么优点?

RIO嵌入式控制平台怎么助力机器人应用?

自动或半自动机器人常常需要嵌入式控制系统,从而能够结合高度智能化的确定性控制,并且可以方便地连接到不同的传感器...
发表于 2019-11-06 07:50 133次阅读
RIO嵌入式控制平台怎么助力机器人应用?

基于ARM9的智能灭火机器人怎么实现?

智能灭火机器人硬件电路的设计
发表于 2019-11-05 09:01 53次阅读
基于ARM9的智能灭火机器人怎么实现?