侵权投诉

OpenAI宣布要all-in AGI提出四项原则并将减少AI研究的公开发表

2018-04-12 10:55 次阅读

对于 OpenAI, 我们知道它是一家非盈利的,要用开放的方法研究通用AI,为人类带来福祉的研究机构,它的初衷是马斯克一再强调的“安全的AI”。现在,它的使命发生了一点变化:OpenAI宣布要all-in AGI(通用人工智能),提出四项原则,并将减少AI研究的公开发表。

马斯克在创立OpenAI时,给OpenAI的目标是确定人工智能技术如何更好地为人类服务。近日,OpenAI发布了一份新的公司章程,根据章程,OpenAI未来的使命是开发“高度自主的系统,在大多数具有经济价值的工作上超越人类”。它想让机器比人类更聪明。

这一使命即通用人工智能(AGI),取决于你用来做什么,它可以是圣杯,也可以是潘多拉的魔盒。

OpenAI宣布all-in AGI。尽管马斯克最近退出了OpenAI董事会(官方称此举是为了避免 OpenAI 将来与特斯拉可能发生的冲突),但OpenAI仍有它的野心。

一些专家,如谷歌的Ray Kurzweil,认为我们距离奇点(机器变得比人类更聪明的时间点)只有数十年。也有人认为这永远不会发生。在有关AGI的讨论中,大多数人要么仍在试图理清语义、学术类型,要么更担心资金问题,而不是担心对人类的生存威胁。

幸亏OpenAI是一个非营利性组织。它有超过10亿美元的资金和AI领域最聪明的人才(以及大公司)的支持,它能够专注于技术而不必担心去取悦股东以免失去资助。为了达到这一目的,OpenAI致力于小心谨慎地开发AGI,并避免AI军备竞赛,这可能导致研究人员失去重点。

OpenAI新的章程写道:

我们将尝试直接构建安全、有益的AGI,但如果我们的工作帮助其他人达到这一目的,我们也认为我们完成了这一使命。

在这份文件中,OpenAI甚至表示,如果另一家公司似乎接近了AGI的边缘,它将退出并终止其研究。

多数人认为AGI是离现实很远的科幻小说里的事情,甚至AI信徒们也认为担心AGI还为时过早。但在某种程度上,我们需要一些强有力的指导方针来帮助开发人员避免意外的陷阱(比如摧毁人类)。等到机器人出现问题,再提出常识性的政策就太迟了。

OpenAI联合创始人Ilya Sutskever说:“OpenAI在创立之初就已为建立一个强大的技术实验室指定了完善的规范。但是,如何建立一个旨在使这些技术的长期影响进展顺利的组织,这并没有真正的先例。在过去两年中,我们从头开始建立了能力、安全和政策团队,每个团队都对这些规范有所贡献。我们认为这些技术影响着每个人,因此我们与其他机构合作,确保这些原则不仅对我们,而且对社区的其他人都有好处。”

OpenAI目前没有提出AGI的时间表,但它已经开始了“下一阶段的OpenAI”,包括增加对人员和设备的投资,以期“在人工智能方面取得重大突破”。

OpenAI章程全文

OpenAI的使命是确保通用人工智能( artificial general intelligence ,AGI)——我们指的是高度自主的系统,这种系统在大多数具有经济价值的工作上能够超越人类——将使全人类受益。我们将尝试直接构建安全而有益的AGI,但如果我们的工作帮助其他人实现了这一成果,我们也认为我们的使命已经完成。为此,我们承诺遵守以下原则:

广泛受益原则

我们承诺利用我们通过部署AGI获得的任何影响,确保它被用于所有人的利益,并避免AI或AGI的使用伤害人性或令能力过度集中。

我们主要的受托责任是人性。我们预计需要集结大量资源来完成我们的使命,但我们将始终不懈地努力,尽量减少员工和利益相关方之间的利益冲突,因为这可能会损害广泛的利益。

长期安全原则

我们承诺进行必要的研究,以确保AGI安全,并推动AI社区广泛采用这些研究。

我们担心后期AGI的发展会成为一场军备竞赛,缺乏足够时间实施安全预防。因此,如果一个价值观一致的、关注安全的项目在我们之前接近了AGI,我们承诺放弃竞争并协助这个项目。我们会根据具体情况制定具体的协议,但一个典型的可能性是“未来两年内出现比以往任何时候都更接近成功的机会”。

技术领导力

为了使AGI的影响对社会有效,OpenAI必须要站在AI技术的前沿——单靠政策和安全宣传是不够的。

我们相信AI在AGI之前会产生广泛的社会影响,我们在与我们的使命和专业知识直接相关的领域中发挥领导作用。

合作导向

我们将积极配合其他研究机构和政策机构;我们力求创建一个全球性的社区,共同应对AGI的全球挑战。

我们致力于提供帮助社会通向AGI的公共产品。今天,这包括公开发表我们的大部分AI研究,但我们预计,由于安全性问题,未来公开发表的研究将会减少,同时增加分享安全、政策和标准研究。

原文标题:OpenAI宣布全面投入通用AI,四大原则确保人类免于毁灭

文章出处:【微信号:AI_era,微信公众号:新智元】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
分享:

评论

相关推荐

亮亮视野发布全新超短焦AR光学模组,工艺拆分细化年产能达100万片

AR与VR是近年来广受关注的科技领域,它们的近眼显示系统都是将显示器上的像素, 通过一系列光学成像元....
发表于 05-30 09:58 0次 阅读
亮亮视野发布全新超短焦AR光学模组,工艺拆分细化年产能达100万片

AI测温带火AI安防,市场“蓝海”无限大

安防是AI落地较早的一个领域,不过前期AI安防主要面向的是B端、G端市场,所以消费者相对不熟悉。而随....
发表于 05-30 09:19 10次 阅读
AI测温带火AI安防,市场“蓝海”无限大

医疗穿刺采血机器人研发助力医院实现全自动化验检

哈工智能是国内聚焦于高端智能装备制造和人工智能机器人的高科技上市公司,聚焦于高端智能装备制造和人工智....
发表于 05-30 09:15 11次 阅读
医疗穿刺采血机器人研发助力医院实现全自动化验检

韩国SK电讯和欧姆龙共研制5G防疫AI机器人,适合无接触时代下各类服务

5月27日消息,据报道,韩国最大的移动通讯运营商SK电讯和工业自动化解决方案提供商欧姆龙共同研发了一....
发表于 05-30 09:05 17次 阅读
韩国SK电讯和欧姆龙共研制5G防疫AI机器人,适合无接触时代下各类服务

智能制造在工厂已经悄然行动

随着机器人等自动化技术的不断进步,越来越越多的企业利用大数据分析提升业务和绩效。预计,未来商品价格可....
发表于 05-29 16:35 33次 阅读
智能制造在工厂已经悄然行动

高耐久低成本的NRAM是如何铸就的?

Nantero公司已经花费了将近20年的时间来研究NRAM,该技术基于排列在交叉点电极之间的薄层中的....
的头像 富士通电子 发表于 05-29 15:13 263次 阅读
高耐久低成本的NRAM是如何铸就的?

百度飞桨深度学习平台携手IC设计领导厂商MediaTek

百度飞桨是自主研发、开源开放、功能最完备的产业级深度学习平台,集深度学习核心框架、基础模型库、端到端....
的头像 联发科技 发表于 05-29 14:59 229次 阅读
百度飞桨深度学习平台携手IC设计领导厂商MediaTek

人工智能在市场营销中有哪些挑战

拥抱AI为营销带来的新机遇是每家企业必须要做的事情,以在2020年及以后保持竞争力。无论如何,由于A....
发表于 05-29 11:09 37次 阅读
人工智能在市场营销中有哪些挑战

使用计算机视觉和人工智能来识别X射线中的计算机模型

这些模型使用计算机视觉和人工智能(AI)分析胸部X射线图像。它可以对肉眼通常无法识别的信息进行分类,....
发表于 05-29 11:07 24次 阅读
使用计算机视觉和人工智能来识别X射线中的计算机模型

如何推动人工智能更好地发展

人工智能一直是近年来全国两会的热点话题。人工智能对就业有哪些影响?如何推动人工智能更好地发展?今年全....
发表于 05-29 11:04 28次 阅读
如何推动人工智能更好地发展

AI高速扫描机器人实现投产,是否与直线马达有关

近几年,随着科技地不断发展,作为科技发展产物的人工智能,也越来越多地进入并改变着我们的日常工作状态。....
发表于 05-29 08:04 40次 阅读
AI高速扫描机器人实现投产,是否与直线马达有关

AI、机器学习和深度学习将是OEM的主要市场

人工智能(AI)正在迅速改变全球行业参与者的经营方式。随着人工智能在商业和商业领域的广泛应用,我们看....
的头像 独爱72H 发表于 05-28 16:59 434次 阅读
AI、机器学习和深度学习将是OEM的主要市场

智慧医疗的未来及发展趋势

传统医疗模式向大健康模式转变还需要一个过程,但未来已不远。政策:智慧医疗被列入《新一代人工智能发展规....
发表于 05-28 16:55 342次 阅读
智慧医疗的未来及发展趋势

大彩串口屏在智能档案柜上面的应用

二、产品优势 1. 智能档案柜集手动、电动、电脑控制于一体,操作方便、移动平稳、安全可靠。2. 采用红外感应方式对仓位的状态进行...
发表于 05-28 16:19 67次 阅读
大彩串口屏在智能档案柜上面的应用

新AI技术可让教师能够快速开发智能辅导系统

智能辅导系统已经显示出可以有效地帮助教授某些学科,例如代数或语法,但是创建这些计算机化的系统既困难又....
的头像 独爱72H 发表于 05-28 15:33 470次 阅读
新AI技术可让教师能够快速开发智能辅导系统

AI与IoT二者将如何改变未来的商业模式

物联网利用互联网和AI通过设备连接积累了大量数据,尤其是通过其强大的机制,机器学习可帮助吸收和评估这....
的头像 独爱72H 发表于 05-28 15:15 485次 阅读
AI与IoT二者将如何改变未来的商业模式

英国五个技术中心致力于使用AI来加快疾病诊断和改善

遍布英国的五个技术中心致力于使用AI来加快疾病诊断和改善患者预后。
发表于 05-28 10:28 55次 阅读
英国五个技术中心致力于使用AI来加快疾病诊断和改善

人工智能通过监控水处理系统来保护公共健康

事实证明,人工智能(AI)在整个医疗领域都很有价值-从帮助放射科医生筛查疾病到预测手术过程中的困难。....
发表于 05-28 10:23 168次 阅读
人工智能通过监控水处理系统来保护公共健康

人机对抗机器识别技术进入人工智能

人工智能(AI)系统在两轮比赛中击败了由15位2-0的医生组成的团队,该比赛着眼于诊断脑肿瘤和预测脑....
发表于 05-28 10:20 35次 阅读
人机对抗机器识别技术进入人工智能

人工智能技术对传统工业制造的影响

涉及机器视觉、图像处理、模式识别/机器学习等相关人工智能技术。配合传感器或机器人等不同的载体,计算机....
发表于 05-28 10:18 47次 阅读
人工智能技术对传统工业制造的影响

随着AI技术的发展,下一波人工智能将会更加强大

人工智能是一个涵盖图像识别、自然语言处理(NLP)和机器人等多方面维度的广泛领域。
发表于 05-28 09:25 54次 阅读
随着AI技术的发展,下一波人工智能将会更加强大

手中有粮心中不慌,揭秘TCL电视如何应对疫情和跨界挑战

今年初疫情突袭,人们的生活和工作有了更多的不稳定性,导致消费意欲下降,我国今年一季度的GDP也因此同....
的头像 火花 发表于 05-27 16:01 148次 阅读
手中有粮心中不慌,揭秘TCL电视如何应对疫情和跨界挑战

科研大咖共话神经拟态计算:下一代AI新宠

近日,英特尔中国研究院院长宋继强与杜克大学电子与计算机工程系教授陈怡然教授以及浙江大学计算机学院教授....
的头像 科讯视点 发表于 05-27 12:19 341次 阅读
科研大咖共话神经拟态计算:下一代AI新宠

2020 人工智能卓越创新奖,请为Xilinx打call

赛灵思: FPGA、可编程 SoC,以及 ACAP 自适应计算加速的发明者,“致力于打造灵活应变,万....
的头像 人间烟火123 发表于 05-27 11:38 404次 阅读
2020 人工智能卓越创新奖,请为Xilinx打call

8月 2020宝安产业发展博览会(”宝博会“)来了

2020年第5届宝安产业发展博览会(简称宝博会)将于8月6-8日在深圳国际会展中心(宝安区)隆重举办....
的头像 科技新思路 发表于 05-27 10:39 314次 阅读
8月 2020宝安产业发展博览会(”宝博会“)来了

深度体验机器视觉全产业链的垂直行业跨界融合

5月春暖花开,疫情的逐步稳定,复工复产的步伐紧凑而又迅速,市场的重启,多重利好消息的释放,正推动着全....
的头像 火花 发表于 05-26 18:07 60次 阅读
深度体验机器视觉全产业链的垂直行业跨界融合

此次新冠疫情的爆发推动着植保无人机的市场发展

近年来,在人口红利持续上涨、劳动力数量日渐紧缺的背景下,传统农业正在快速走向衰落。
的头像 独爱72H 发表于 05-26 16:13 589次 阅读
此次新冠疫情的爆发推动着植保无人机的市场发展

需求带动虚拟试衣崛起,技术与成本是发展主要阻碍

今年疫情的突发,让消费者们开启了“居家闭关”模式,“宅经济”由此悄然崛起。
的头像 独爱72H 发表于 05-26 16:06 257次 阅读
需求带动虚拟试衣崛起,技术与成本是发展主要阻碍

智慧医疗已成为发展重点,未来发展需迎难而上

一直以来,医疗都是饱受社会关注的重要民生领域!由于医疗资源短缺、医护人员不足以及设施建设的不完善,“....
发表于 05-26 15:19 241次 阅读
智慧医疗已成为发展重点,未来发展需迎难而上

AI技术的不断发展,虚拟个人助理离我们还有多远

如今,苹果有Siri、小米有小爱同学、亚马逊有Alex……私人语音助手在我们的日常生活中越来越常见。
的头像 独爱72H 发表于 05-26 15:15 615次 阅读
AI技术的不断发展,虚拟个人助理离我们还有多远

人工智能是新基建中最重要的投资发展领域之一

在全国政协委员刘伟看来,政府工作报告中关于“新型基础设施”的阐述让他备受鼓舞。“政府工作报告中提出‘....
发表于 05-26 15:14 84次 阅读
人工智能是新基建中最重要的投资发展领域之一

AI算法会重新定义我们的生活

几十年来计算速度飞速提高,从最初的科学数学计算演变到了现代的各种计算机应用领域,诸如多媒体应用,计算....
发表于 05-26 14:57 128次 阅读
AI算法会重新定义我们的生活

商汤科技打造新基建AI算法“发电厂”

在“新电能”的制造与输送流程中,作为中国科技部指定的首个“智能视觉”国家新一代人工智能开放创新平台,....
发表于 05-26 14:21 1945次 阅读
商汤科技打造新基建AI算法“发电厂”

人工智能如何增强工业4.0

随着AI从现实生活变成现实世界,成为世界变化技术的前沿,迫切需要系统开发和实施AI,以了解其对下一代....
发表于 05-26 11:05 241次 阅读
人工智能如何增强工业4.0

新的人工智能诊断程序可以预测是否感染新冠肺炎

英美科学家携手开发出一种人工智能(AI)诊断工具,可以根据症状预测某人是否可能感染新冠肺炎,相关研究....
发表于 05-26 09:28 269次 阅读
新的人工智能诊断程序可以预测是否感染新冠肺炎

5G技术对数据中心的运营到底有什么影响

如果有人询问5G技术对数据中心的运营有什么影响,那么就像询问如何抵御自然灾害一样。其答案是取决于具体....
发表于 05-26 08:00 49次 阅读
5G技术对数据中心的运营到底有什么影响

AIoT可让未来的公共交通运输更智能、更安全

对于经常乘坐各种公共交通工具的人来说,安全与优质的体验至关重要。
的头像 独爱72H 发表于 05-25 17:08 491次 阅读
AIoT可让未来的公共交通运输更智能、更安全

北京科技大学的人工智能视频教程免费下载

本文档的主要内容详细介绍的是北京科技大学的人工智能视频教程免费下载。
发表于 05-25 16:21 32次 阅读
北京科技大学的人工智能视频教程免费下载

人工智能的龙头品牌有哪些

21世纪是一个智能时代,在我们的家居生活里面是离不开水龙头的,虽然水龙头很小看起来也不起眼,但是少了....
发表于 05-25 11:14 129次 阅读
人工智能的龙头品牌有哪些

人工智能电视有什么优势

 从这个概念来看,人工智能电视具有语言识别、图像识别、自然语言处理和专家系统等,相比普通智能电视,人....
发表于 05-25 11:13 74次 阅读
人工智能电视有什么优势

物联网和人工智能这对组合的应用盘点

工智能可以协同控制房屋温度。无论您想要什么温度,都可以通过智能设备来控制(智能设备内置人工智能控制的....
发表于 05-25 11:12 122次 阅读
物联网和人工智能这对组合的应用盘点

延迟和指令呈现百度人工智能交互设计院的最新研究

有屏智能设备的多维对话:延迟和指令呈现  百度人工智能交互设计院最新研究...
发表于 05-25 09:46 33次 阅读
延迟和指令呈现百度人工智能交互设计院的最新研究

人工智能算法遭遇瓶颈,硬件革命将其推向主流

硬件革命将人工智能推向主流,它大大削减了AI系统的训练时间和成本,没有让AI变成了一场鲜有人能够参与....
发表于 05-25 09:27 69次 阅读
人工智能算法遭遇瓶颈,硬件革命将其推向主流

自动化陪玩机器人 瞄准AI与真人互动市场

机器人甚至还能透过传感器,检测出玩家的心跳数、排汗量等生理反应,补充判断的依据。
发表于 05-23 11:10 217次 阅读
自动化陪玩机器人 瞄准AI与真人互动市场

5G、人工智能等技术成果卓著,我国已迈入创新型国家行列

世界潮流浩浩汤汤、奔涌向前,如果停止科研探索的步伐,那无异于坐井观天、故步自封。
的头像 独爱72H 发表于 05-23 11:08 620次 阅读
5G、人工智能等技术成果卓著,我国已迈入创新型国家行列

智慧旅游发展日渐升温,5G的作用愈加凸显

作为一种新兴的旅游发展概念,智慧旅游的发展目的在于满足游客多样性的服务需求。
的头像 独爱72H 发表于 05-23 10:34 749次 阅读
智慧旅游发展日渐升温,5G的作用愈加凸显

英特尔联手宾夕法尼亚大学,让AI也能识别脑肿瘤

英特尔和宾夕法尼亚大学佩雷尔曼医学院(宾夕法尼亚大学医学院)正在组建一个联盟,包含29家国际医疗和研....
发表于 05-23 10:28 289次 阅读
英特尔联手宾夕法尼亚大学,让AI也能识别脑肿瘤

如何使用人工智能来发挥传感器数据的协同作用

人工智能(AI)目前正在为社会的方方面面带来革新。比如,通过结合数据挖掘和深度学习的优势,如今可以利用人工智能来分析各种...
发表于 05-19 08:13 192次 阅读
如何使用人工智能来发挥传感器数据的协同作用

电路设计行业未来将会转为人工智能

现在的社会正慢慢转向人工智能和电路的方向,而不是纯粹的电路设计。 未来,有可能超市不需要服务员,仅仅需要部分理货人员。 ...
发表于 05-18 15:51 235次 阅读
电路设计行业未来将会转为人工智能

人工智能、机器学习、数据挖掘有什么区别

人工智能、机器学习、数据挖掘的区别
发表于 05-14 16:02 68次 阅读
人工智能、机器学习、数据挖掘有什么区别

RPA与人工智能的相连

RPA与人工智能
发表于 04-13 09:23 130次 阅读
RPA与人工智能的相连

【战疫专题】第五期:智慧物流,疫情之中显担当

2020年,新型冠状病毒席卷了整个中国,同时也在促进着产业的变革与生活变化。 电子发烧友在此期间推出【战疫专题】活动,持续为...
发表于 03-18 11:00 3408次 阅读
【战疫专题】第五期:智慧物流,疫情之中显担当

疫情过后,对企业数字化战略的新思考!

虽然疫情的爆发成为企业加速推进数字化转型的催化剂,但在具体推进和实施上仍然面临诸多亟需解决的挑战。 当前国内新冠肺炎疫情已...
发表于 03-18 07:58 406次 阅读
疫情过后,对企业数字化战略的新思考!

人工智能、数据挖掘、机器学习和深度学习的关系

人工智能、数据挖掘、机器学习和深度学习之间,主要有什么关系?...
发表于 03-16 11:35 242次 阅读
人工智能、数据挖掘、机器学习和深度学习的关系

人工智能侦查有哪些应用

【人工智能侦查的应用领域】
发表于 03-16 11:28 213次 阅读
人工智能侦查有哪些应用