侵权投诉

从理论上来看,人类不可能控制超级人工智能

2021-01-21 10:13 次阅读

计算的能力是有极限的,但因此,人类无法控制超级人工智能。

近日,一项新的研究发现,从理论上来看,人类不可能控制超级人工智能。更为糟糕的是,这项研究也明确了人类无法在这种AI生成之时发现它。

让人稍稍感到安慰的是,根据不止一项预测,任何通用超级计算机超越人类的时间都会在数十年以后。

最近几年,人工智能在国际象棋、围棋、德州扑克、Jeopardy等游戏上超越了人类,在Dota2、星际争霸游戏中和顶级玩家打得有来有回,时不时会引起一小阵恐慌,有人担心超越人类的机器智能会在某一天让人们无所适从。「有关超级智能是否接受人类控制的问题其实很古老,」西班牙马德里自治大学计算机科学家ManuelAlfonseca说道,「这还得追溯到20世纪40年代的阿西莫夫的机器人三定律。」

与超级人工智能展开任何形式的交流都是有风险的。

人们耳熟能详的机器人三定律,首先在科幻小说家伊萨克·阿西莫夫在1942年的短篇小说集《我,机器人》中被提出,规则如下:

机器人不得伤害人类,或坐视人类受到伤害;

机器人必须服从人类命令,除非命令与第一法则发生冲突;

在不违背第一或第二法则之下,机器人可以保护自己。

在1985年《机器人与帝国》书中,阿西莫夫将三大法则扩张为四大法则:加入第零法则——机器人不得伤害整体人类,或坐视整体人类受到伤害。

2014年,牛津大学人类未来研究所(FutureofHumanityInstitute)主任、哲学家NickBostrom不仅探索了超级人工智能破坏人类的方式,还研究了针对这类机器可能的控制策略以及它们无法奏效的原因。

Bostrom列举了这一「控制问题」的两种可能解决方案。一种是控制AI能做的事情,如阻止AI连接互联网;另一种是控制AI想做的事情,如教授AI规则和价值观,使其秉持人类利益最大的原则行动。Bostrom认为,第一种解决方案存在的问题是超级智能机器可能挣脱任何人类施加给它的限制;第二种解决方案则担心人类可能没有能力训练出超级人工智能。

计算固有的限制可能导致人类无法控制超级人工智能

在本月初发表在AI领域顶级期刊《人工智能研究杂志》(JAIR)上的一篇文章中,马德里自治大学、马克斯-普朗克人类发展研究所等机构的研究者认为,由于计算本身固有的基本限制,人类可能无法控制超级人工智能。

他们表示,任何旨在确保超级人工智能无法伤害人类的算法都必须首先模拟机器行为以预测其行动的潜在后果。如果超级智能机器确实可能造成伤害,那么此类抑制算法(containmentalgorithm)需要停止机器的运行。

然而,科学家们认为,任何抑制算法都不可能模拟AI的行为,也就无法百分之百地预测AI的行为是否会造成伤害。抑制算法可能无法正确模拟AI的行为或准确预测AI行动的后果,也就无法分辨出这些失败。

论文地址:https://jair.org/index.php/jair/article/view/12202/26642

「阿西莫夫给出的第一定律实际上已被证明是无法计算的,」Alfonseca说道,「因而根本无法实现。」

我们甚至连自己是否已经创造了超级智能机器都不知道——这是可计算理论中莱斯定理的一个推论,该定理指出递归可枚举语言的所有非平凡(nontrival)性质都是不可判定的。从本质上来说,我们不能仅通过观察程序本身,就知道程序可能会输出什么。

当然另一方面,我们还不需要为将来的机器人主宰提前做好服侍的准备。在该研究中,有三个重要问题给该论文的推论带来了不确定性。

首先,Alfonseca预计强人工智能的关键时刻还很遥远,他说道:「至少还有两个世纪。」

其次,人们所说的通用人工智能,或强人工智能在理论上是否可行,其实也是未知数。「这是指能像人类一样能够处理多个领域任务的机器。」

最后,Alfonseca说道:「我们还没有证明超级人工智能永远无法控制,我只是说它们不能被永远控制。」

计算复杂性是阻止人类控制强人工智能的重要原因。

尽管我们可能无法控制一个强人工智能体,但控制一个超越人类水平的狭义AI是可行的——我们可以放心地依赖一些专注于某些功能,而非像人类一样可以执行多种任务的机器人。「我们已经拥有这种超级智能,」Alfonseca说道。「例如我们拥有可以比人类速度快很多的计算机器。这也是一种狭义的超级智能。」

责任编辑:xj

收藏 人收藏
分享:

评论

相关推荐

未来生活中的人工智能的新进展与方向

在过去的十年里,技术创新的步伐急剧加快。此外,在信息技术领域,特别是在人工智能(AI)和机器学习(M....
的头像 beanxyy 发表于 03-04 18:12 424次 阅读
未来生活中的人工智能的新进展与方向

全球十大引领人工智能热潮的国家名单及发展

当前人工智能的惊人发展趋势正在不同国家的所有行业中大行其道。人工智能有能力识别人脸、运行自动驾驶汽车....
的头像 beanxyy 发表于 03-04 17:48 245次 阅读
全球十大引领人工智能热潮的国家名单及发展

论Deepfake科技是怎样工作与优缺点

如果某人能在其曾祖母的一张旧照片上看到她眨眼微笑,会有什么感觉?毫无疑问,这会让你感到害怕,但也会让....
的头像 beanxyy 发表于 03-04 17:36 359次 阅读
论Deepfake科技是怎样工作与优缺点

关于AIOP在现实中的五种应用方法与结论

值得注意的是,AIOPs作为一种站点可靠性工程工具更为有效,因为应用程序和基础设施正在迅速发展。当有....
发表于 03-04 17:15 119次 阅读
关于AIOP在现实中的五种应用方法与结论

基于能源打造全球领先的智能物联操作系统

如今,远景智能正为全球超300家一流企业提供低碳与数字解决方案,帮助新加坡“智慧国度”打造“数字底座....
的头像 你好张江 发表于 03-04 17:08 147次 阅读
基于能源打造全球领先的智能物联操作系统

对于人工智能系统制造虚假文件,从而隐藏有价值的信息的分析

WE-FORGE是达特茅斯大学计算机科学系设计的一种新的数据保护系统,它使用人工智能在金丝雀陷阱概念....
的头像 beanxyy 发表于 03-04 16:58 188次 阅读
对于人工智能系统制造虚假文件,从而隐藏有价值的信息的分析

5G世界的关键技术创新和演进方向

商用不到两年的5G,已经成为历史上发展最快的一代无线技术。但作为以赋能千行百业数字化转型为己任的新一....
的头像 璟琰乀 发表于 03-04 16:51 159次 阅读
5G世界的关键技术创新和演进方向

中国移动杨杰:到2035年5G创造经济总产出超13万亿美元

从长城汽车内部人士处获悉,百度智能汽车事业部总经理顾维灏已加入长城汽车旗下毫末智行,将与长城汽车智能....
的头像 lhl545545 发表于 03-04 16:27 197次 阅读
中国移动杨杰:到2035年5G创造经济总产出超13万亿美元

美国人工智能国安委员会建议遏制中国半导体发展

相关机构极力渲染美国在科技领域对抗中国的“紧迫性”。 美国当地时间3月1日,美国人工智能国家安全委员....
的头像 璟琰乀 发表于 03-04 16:26 81次 阅读
美国人工智能国安委员会建议遏制中国半导体发展

论机器学习能否帮助和管理好糖尿病患者的生活,及其效应与模式

机器学习在医疗保健中有多种用途,可以在生成和利用数据的任何地方使用,例如在临床试验,诊断甚至在管理慢....
发表于 03-04 16:21 105次 阅读
论机器学习能否帮助和管理好糖尿病患者的生活,及其效应与模式

浪潮发布云熠5G云网融合一体机

生产光刻机的一项技术难点,是如何提供波长短、功率大的EUV光源。尽管SSMB有望解决自主研发光刻机中....
的头像 lhl545545 发表于 03-04 16:09 167次 阅读
浪潮发布云熠5G云网融合一体机

对于IT操作的AIOps见解,及其10大应用方向与其目标和优势   

 AIOps包括使用AI和ML技术以及大数据、数据集成和自动化技术,以帮助IT操作更智能、更具预测性....
的头像 beanxyy 发表于 03-04 15:56 69次 阅读
对于IT操作的AIOps见解,及其10大应用方向与其目标和优势    

谷歌在中国台湾建立硬件研发基地

工信部今日印发《基础电子元器件产业发展行动计划(2021-2023年)》。行动计划提出,到2023年....
的头像 lhl545545 发表于 03-04 15:50 256次 阅读
谷歌在中国台湾建立硬件研发基地

C3AI改革出无码人工智能,无需代码的情况下开发、扩展和生成基于AI的见解       

所有行业和业务中的分析师、操作员和现场专业人员越来越多地需要从大量不同的数据集中获得预测和规定的见解....
发表于 03-04 15:40 169次 阅读
C3AI改革出无码人工智能,无需代码的情况下开发、扩展和生成基于AI的见解         

机器人可协助外科手术提高医疗效率

人们见证了人工智能的蓬勃发展及其在各个行业的应用案例。医疗保健是人工智能、自动化和机器人技术的重要贡....
的头像 如意 发表于 03-04 15:38 129次 阅读
机器人可协助外科手术提高医疗效率

谈5G与AI的结合,对未来生活的影响与结果

随着5G通信技术的出现及其与AI的集成,我们正在展望一个新时代,在这个新时代中,人、机器、物体和设备....
发表于 03-04 15:34 109次 阅读
谈5G与AI的结合,对未来生活的影响与结果

物联网、边缘计算和人工智能如何带来收益?

Bill Holmes是加州Corona工厂的设施经理,该工厂生产着标志性的Fender Strat....
的头像 如意 发表于 03-04 15:25 104次 阅读
物联网、边缘计算和人工智能如何带来收益?

消除人工智能模型偏见的方法

自动化决策工具在组织的应用中正变得越来越普遍。然而,其背后的一些机器学习(ML)模型(从面部识别系统....
的头像 如意 发表于 03-04 15:20 168次 阅读
消除人工智能模型偏见的方法

浪潮信息联合国际权威机构IDC发布《2020全球计算力指数评估报告》

开放计算是完整的数据中心产业生态,代表了数据中心领先的技术创新。互联网企业和IT厂商积极参与开放计算....
的头像 物联网前沿 发表于 03-04 15:07 309次 阅读
浪潮信息联合国际权威机构IDC发布《2020全球计算力指数评估报告》

人工智能是否能让人们认识到其自身的巨大价值与优势?

人工智能(AI)将改变事物,这几乎是整个商业世界普遍接受的观点。普华永道的一项调查也证实了这一点,8....
的头像 beanxyy 发表于 03-04 15:03 314次 阅读
人工智能是否能让人们认识到其自身的巨大价值与优势?

realme真我GT正式发布 详细规格配置揭晓

北京时间3月4日下午,realme举办新品发布会正式为我们带来了骁龙888年度旗舰——真我GT,这也....
的头像 lhl545545 发表于 03-04 15:00 897次 阅读
realme真我GT正式发布 详细规格配置揭晓

FDA发布其首个关于人工智能机器学习的行动计划,其作为医疗设备

美国食品药品监督管理局(FDA)发布其首个基于人工智能/机器学习(AI / ML)的软件,该软件作为....
的头像 beanxyy 发表于 03-04 14:51 181次 阅读
FDA发布其首个关于人工智能机器学习的行动计划,其作为医疗设备

一种将AI与智能平台相结合的技术,为保险行一种新的选择  

1月28日,Mitchell宣布将Tractable的AI技术添加到Mitchell智能开放平台(M....
的头像 beanxyy 发表于 03-04 14:34 171次 阅读
一种将AI与智能平台相结合的技术,为保险行一种新的选择   

新华社实现首个5G沉浸式多地跨屏访谈

2021年全国“两会”前夕,北京新华社新立方智能化演播室与天津中医药大学实验室展开了一场别开生面的“....
的头像 我快闭嘴 发表于 03-04 14:29 220次 阅读
新华社实现首个5G沉浸式多地跨屏访谈

物联网究竟往何处发展才是正确?

把时间拉长,并不是物联网整体路线错误,而是在早期条件下,物联网在技术水平、商业模式、市场教育、产业标....
的头像 物联网技术 发表于 03-04 14:22 216次 阅读
物联网究竟往何处发展才是正确?

贸泽电子与Maxim Integrated联手发布新电子书 共同探索医疗可穿戴设备的未来发展

在越来越多的患者难以获得传统面对面医疗服务的时代,可穿戴医疗设备提供了一种重要的监护解决方案。
发表于 03-04 14:21 136次 阅读
贸泽电子与Maxim Integrated联手发布新电子书  共同探索医疗可穿戴设备的未来发展

一种基于5g和ai机器人的技术特点与功能及其强大的计算力

专门为机器人设计的Robotics RB5平台包括广泛的硬件,软件和开发工具。Robotics RB....
的头像 beanxyy 发表于 03-04 14:18 190次 阅读
一种基于5g和ai机器人的技术特点与功能及其强大的计算力

论人工智能与自动化对劳动力的影响

在冠状病毒大流行期间,人工智能和自动化正在进步,在短期内创造新的混合劳动力,而不会直接影响正常工作。
的头像 beanxyy 发表于 03-04 14:10 182次 阅读
论人工智能与自动化对劳动力的影响

日立为何要卖影像诊断?

一类是大型医疗设备综合工业巨头:比如奥林巴斯医疗、佳能医疗、富士胶片、岛津制作所等,相当于全球医疗器....
的头像 IoT科技评论 发表于 03-04 13:58 156次 阅读
日立为何要卖影像诊断?

人工神经网络的发展和分类详细说明

人工神经网络是一种应用类似于大脑神经突触联接的结构进行信息处理的数学模型。在工程与学术界也常直接简称....
发表于 03-04 13:56 13次 阅读
人工神经网络的发展和分类详细说明

中国又一款隐身机研发成功,最大起飞重量为3吨

在现代战争中,智能无人体系作战越来越重要。无人机作为无人体系作战中的一环,是打赢未来战争不可或缺的制....
发表于 03-04 13:34 102次 阅读
中国又一款隐身机研发成功,最大起飞重量为3吨

雷军建议:运用智能技术帮助老年人更好融入数字生活

3月4日,雷军围绕推动数字经济和科技创新的大方向,发布了《我的2021两会建议》:关于进一步推动我国....
的头像 我快闭嘴 发表于 03-04 13:29 220次 阅读
雷军建议:运用智能技术帮助老年人更好融入数字生活

Sophos与高通合作开发新PC产品,有着深度学习AI与阻止网络安全威胁等功能  

3月1日消息,Sophos 宣布计划将Sophos Intercept X与高通骁龙计算平台相结合。....
发表于 03-04 11:50 196次 阅读
Sophos与高通合作开发新PC产品,有着深度学习AI与阻止网络安全威胁等功能   

Gartner发布的2021年十大数据和分析趋势

Gartner杰出研究副总裁RitaSallam表示:“这些数据和分析趋势可以帮助企业机构和社会应对....
的头像 工业IoT 发表于 03-04 11:44 121次 阅读
Gartner发布的2021年十大数据和分析趋势

特斯拉计划凭借FSD方案实现完全自动驾驶

3月3日下午消息,据报道,马斯克在此前回答网友提问时称,特斯拉将在未来3-4个月内推出其全自动驾驶(....
的头像 lhl545545 发表于 03-04 11:43 122次 阅读
特斯拉计划凭借FSD方案实现完全自动驾驶

比较主流的中台定义和分类

业务中台是企业实现各业务板块之间链接和协同,持续提升业务创新效率,确保关键业务链路的稳定高效和经济性....
的头像 工业IoT 发表于 03-04 11:35 96次 阅读
比较主流的中台定义和分类

浅谈人工智能如何通过AI变得灵活,且新技术的方向

人工智能(AI)仍然是制造业在内的许多行业的热门话题,涵盖新AI功能和趋势的媒体在实现生产数字化方面....
发表于 03-04 11:28 263次 阅读
浅谈人工智能如何通过AI变得灵活,且新技术的方向

微软通过AI和机器学习深入了解用户体验

继上月邀请少量用户测试之后,微软现在正扩大 Windows 10 21H1 功能更新预览版的测试范围....
的头像 如意 发表于 03-04 11:26 123次 阅读
微软通过AI和机器学习深入了解用户体验

联发科4K智能电视芯片MT9638的亮点介绍

联发科发布新一代4K电视芯片MT9638,集成多核CPU、Arm Mali-G52 GPU以及AI处....
的头像 我快闭嘴 发表于 03-04 11:01 255次 阅读
联发科4K智能电视芯片MT9638的亮点介绍

疫情下的人工智能到底能给我们带来多大的便利

医学图像庞大且相对规范的数据库,智能图像识别算法的不断进步,为人工智能医学在该领域的应用提供了坚实的....
发表于 03-04 10:30 270次 阅读
疫情下的人工智能到底能给我们带来多大的便利

智能安防应用落地三大难点

据a&s Research调研发现,当下安防城市级大项目仍以平安城市、智能交通、雪亮工程为主,201....
的头像 电子魔法师 发表于 03-04 09:57 167次 阅读
智能安防应用落地三大难点

我国智慧医疗行业规模已突破千亿元大关,开启巨大市场空间

在《“健康中国2030”规划纲要》《关于促进“互联网+医疗健康”发展的意见》及《医疗装备产业发展规划....
的头像 牵手一起梦 发表于 03-04 09:47 188次 阅读
我国智慧医疗行业规模已突破千亿元大关,开启巨大市场空间

SkyGrid推出全球首款人工智能无人机安保系统

波音公司与人工智能平台sparkcognition共同成立的合资公司SkyGrid,于最近推出了全球....
的头像 电子魔法师 发表于 03-04 09:43 270次 阅读
SkyGrid推出全球首款人工智能无人机安保系统

GlobalData整理了世界各个公司在AI领域发表专利的情况

佳能在人工智能领域的主要发展不仅局限于简单的相机,他们最大的发展方向是「医学成像」。Covid-20....
的头像 新机器视觉 发表于 03-04 09:38 234次 阅读
GlobalData整理了世界各个公司在AI领域发表专利的情况

vivo S9正式发布 打破vivo最薄5G手机纪录

3月3日晚上19点30分,vivo在线上举行了新品发布会,而主角正式S9,而这也是旗下最薄5G手机。
的头像 lhl545545 发表于 03-04 09:36 284次 阅读
vivo S9正式发布 打破vivo最薄5G手机纪录

2021年人工智能和机器学习的五大趋势

人工智能和机器学习如今一直在改变着我们的世界,2020年发生的冠状病毒疫情为这两种技术带来了新的机会....
发表于 03-04 06:35 148次 阅读
2021年人工智能和机器学习的五大趋势

如何构建人工智能的未来?

创建Kynisys平台:我们如何构建人工智能(AI)的未来?...
发表于 03-03 07:06 0次 阅读
如何构建人工智能的未来?

自动驾驶车辆中AI面临的挑战

自动驾驶车辆中采用的AI算法 自动驾驶车辆中AI面临的挑战 ...
发表于 02-22 06:39 0次 阅读
自动驾驶车辆中AI面临的挑战

2021年的人工智能产业预测

2020年是充满动荡的一年,组织面临着众多挑战。进入2021年,人工智能行业将会快速发展。为了对2021年的重要新趋势有所了解,行业...
发表于 02-19 07:40 101次 阅读
2021年的人工智能产业预测

2021第四届人工智能大会

发表于 02-01 10:32 101次 阅读
2021第四届人工智能大会

2021第五届人工智能技术与应用论坛

发表于 02-01 10:12 202次 阅读
2021第五届人工智能技术与应用论坛

如何提高人工智能应用开发的生产效率

让AI无处不在,Arm中国“周易”人工智能平台有何绝招...
发表于 02-01 07:10 101次 阅读
如何提高人工智能应用开发的生产效率

最近瑞昱RTL8189芯片缺货,有没有哪位伙伴知道有什么产品可以替代的?

最近瑞昱RTL8189芯片缺货,导致Ipcamera、机顶盒及一些商显、广告机厂商生产跟不上,我们的成本也直线上升。有没有哪位伙伴知...
发表于 01-29 17:58 2838次 阅读
最近瑞昱RTL8189芯片缺货,有没有哪位伙伴知道有什么产品可以替代的?

机器学习与软件平台的融合

本文将探讨机器学习与软件平台的融合。
发表于 01-28 06:36 101次 阅读
机器学习与软件平台的融合

人工智能和机器学习技术在2021年的五个发展趋势

人工智能和机器学习如今一直在改变着我们的世界,2020年发生的冠状病毒疫情为这两种技术带来了新的机会和紧迫性,预计在2021年将...
发表于 01-27 06:10 101次 阅读
人工智能和机器学习技术在2021年的五个发展趋势

一文分析人工智能恐惧现象

人工智能恐惧历史溯源 人工智能恐惧表现形式 ...
发表于 01-26 07:14 101次 阅读
一文分析人工智能恐惧现象