张飞软硬开源基于STM32 BLDC直流无刷电机驱动器开发视频套件,👉戳此立抢👈

如何构建新一代人工智能准则

北京科技政策法规宣讲团 2019-01-28 09:59 次阅读

今天,人工智能逐渐从科幻走向现实,人们对人工智能可能产生的危害也愈加警惕,希望能够为其制定准则以确保人工智能科技和产业向对社会有益的方向顺利发展。               

                                        

1

以和谐互补的方式链接不同的人工智能准则提案

人工智能既是经过数十年锤炼发展出来的科学领域,又是改变未来的重要颠覆性技术。人工智能的研究与发展不仅关系到国家科技、经济发展、社会稳定,更关系到国家在科技、产业领域的国际影响与国际局势。

人工智能在带来机遇的同时也带来潜在的风险与隐患。例如应用最为广泛的深度神经网络模型在对输入引入极小的噪声(如改变图像输入中某个关键的一个像素值)情况下,就有可能使网络的识别和预测结果产生颠覆性的错误(如将青蛙识别为卡车、乌龟识别为枪支)。若没有充分的风险评估,新兴技术在对社会发展带来机遇的同时,很有可能引入不可预计的安全隐患与风险。

现在对于人工智能的发展而言,首要的问题是选择正确的道路。创新、价值、伦理是一个铁三角,创新性技术对社会带来潜在价值的同时,可能存在难以预期的风险,并对社会伦理提出重大挑战。因此,发展人工智能技术普惠经济与社会的同时,关注人工智能的社会属性,从社会风险、伦理准则与治理角度确保人工智能科学、技术、产业的健康、良性发展至关重要。

为了确保发展有益的人工智能,世界上各国政府、非政府组织、科学团体、科研机构、非营利性组织、企业都提出了人工智能发展准则。包括英国政府、国际电子电器工程学会、国际劳工组织。至今,于公开渠道可见的人工智能准则提案已接近40个,涉及以人为本、合作、共享、公平、透明、隐私、安全、信任、权利、偏见、教育、通用人工智能等主题。例如,美国生命未来研究所倡导的阿西洛玛人工智能准则(Asilomar AI Principles)、英国上议院提出的人工智能准则(AI Code)等,都希望通过在人工智能伦理与准则制定方面的领先来引领人工智能的发展。

事实上目前任何一个国家、机构、组织提出的人工智能准则都仅覆盖了少部分主题(更为具体的层面,人工智能准则提案涉及超过50个主要议题),虽然不少准则提案都有自身的特色,有其他方案未能覆盖的考量,但想要构建统一、全面、完善的人工智能准则既是难以实现的,又是没有必要的——难以实现的原因是人工智能这门科学技术本身、人工智能准则、伦理的内涵和外延都是在不断完善的;没有必要的原因是每个国家、组织与机构的准则提案都结合自身实际情况,有组织目标、环境、文化、伦理传统相关的特殊考虑。

笔者认为,真正有价值的做法是认可每一个国家、机构提案在一定范围的意义,而为了更好地实现人工智能的全球治理,重点将不是统一人工智能的准则,而是以更和谐互补的方式链接不同的人工智能准则提案,使其在局部(如国家、组织机构等)有序与一致,世界的全局范围内不同的准则提案仍可交互和协商,最终实现和谐互补、优化共生。

2

调和政府与企业在准则制定上的现存差异

在对不同人工智能准则提案的量化分析中可以看到:相对而言,各国政府对人工智能的潜在风险与安全高度重视,但企业的重视程度相对薄弱。这反映了在企业从事人工智能创新过程中对于潜在风险与安全隐患可能估计不足。例如,在对人工智能风险的评估中,部分企业认为如果总体可能的利益远远超过可预见的风险和不利因素,则可以进行相关探索。但从学术的视角看,一方面,依据潜在利益与风险之间的量化差异决定企业是否采取相关行动本身就是一个危险的视角;另一方面,如果没有站在全社会的全局视角进行综合研判与分析,仅从企业自身视角进行预测与判断,则很有可能因为局限的思考与行动对社会造成潜在的巨大危害。

因此,应当看到政府重视与企业相对不足的考虑之间的差距,并采取引导、监管、建立人工智能产品与服务的风险与安全评估体系等有效措施弥补政府期望与企业实践之间的鸿沟。

同时,一些准则在相关技术途径可能引发风险的方面可能估计不足。例如某些提案中对通用人工智能(各个认知功能达到人类水平,简称AGI)、超级智能(所有认知功能超过人类水平,简称ASI)涉及很有限。

这方面学术机构的讨论和相关研究应当为政府决策提供有力支撑,例如阿西洛玛人工智能准则中提出超级智能以全人类受益为标准来发展,剑桥大学近期提出并正在进行一项名为“通用人工智能的实现途径及潜在风险”的研究。

3

兼顾专用人工智能和通用人工智能的发展

在人工智能顶层设计当中,是否发展通用人工智能,还是仅限于发展领域特定的专用人工智能?这是诸多人工智能准则提案中主要存在的巨大分歧。

例如,欧盟人工智能研究实验室联合会(CLAIRE)就明确提出应限制人类水平智能、通用智能以及超级智能的发展。德国的人工智能计划也集中于发展专用人工智能。而阿西洛玛人工智能准则、OpenAI等机构提出的人工智能准则中则明确提出应当对更安全的通用人工智能进行充分考虑与发展。

事实上发展专用智能并不一定能够完全避免风险,因为专用智能系统在应用中很可能遇到不可预期的场景, 具备一定的通用能力反而有可能提升智能系统的鲁棒性和自适应能力。因此应针对智能的通用性这个主题链接不同国家、组织、机构的考虑,实现顶层设计的互补。

人类认知功能的多样性以及人工智能应用场景的复杂性使得很难对人工智能的风险、安全以及伦理体系进行绝对完善的建模,特别是涉及到人工智能产品、服务与具有不同文化背景的人类群体交互。任何国家都应制定适应本国的实际社会、科技、经济发展与文化需求的人工智能准则。但更关键的是需要全世界不同政府、学术组织、产业界深度交互与协同,对人工智能的发展进行对全社会有益的战略性设计,对其潜在的社会风险与伦理挑战进行系统性评估与预测,并构建世界范围内总体和谐、互为补充、优化共生的发展准则。

原文标题:曾毅:构建新一代人工智能准则

文章出处:【微信号:bjkwxuanjiangtuan,微信公众号:北京科技政策法规宣讲团】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
分享:

评论

相关推荐

四轴机器人编程与应用

主题简介:本次直播主要讲解四轴机器人控制器基本原理及组成。四轴机器人的核心技术内嵌人工智能算法的工业级运动控制技术和伺服
发表于 10-30 00:00 11587次 阅读
四轴机器人编程与应用

机器视觉技术在自动焊接领域有怎么样的应用

随着焊接自动化技术的飞速发展,能够实现焊接路径自动规划、实时自动校正路径及焊缝跟踪、焊接熔深、熔透以....
发表于 08-22 16:39 13次 阅读
机器视觉技术在自动焊接领域有怎么样的应用

大数据与人工智能的主要发展趋势

技术的进步推动着经济和生活的全面数字化,对数据的重视提到了前所未有的高度,“数据是资产”已经被广泛认....
发表于 08-22 16:15 26次 阅读
大数据与人工智能的主要发展趋势

量子智能系统中的经典机器学习

机器学习是一门多领域交叉学科,专门研究计算机怎样模拟或实现人类的学习行为,以获取新的知识或技能,重新....
发表于 08-22 16:11 20次 阅读
量子智能系统中的经典机器学习

智能教育的未来发展方向有哪些

自从多年前的AlphaGo将专业围棋手击败之后,人工智能已经成为一个媒体上最常见的字眼,人工智能并非....
发表于 08-22 16:06 15次 阅读
智能教育的未来发展方向有哪些

物联网将改变人类的生活方式使我们的生活更加轻松

物联网影响着人类生活的方方面面,汽车也不例外。通过智能技术、无线网络、智能手机和语音控制的联网汽车、....
发表于 08-22 15:51 33次 阅读
物联网将改变人类的生活方式使我们的生活更加轻松

机器人市场发展迅速将迎来爆发节点

在国内工业机器人总需求中,中国汽车行业的需求占比超过四成。汽车市场增速放缓,新兴市场却未完全成长起来....
发表于 08-22 15:39 22次 阅读
机器人市场发展迅速将迎来爆发节点

用算法控制机器人可水里工作一小时

在2019世界机器人大会上,瑞士苏黎世联邦理工学院机器人系统实验室主任Marco Hutte做了题为....
发表于 08-22 15:35 15次 阅读
用算法控制机器人可水里工作一小时

AI机器人或将助力人类探索宇宙的能力

俄罗斯“联盟2.1a”运载火箭已将“联盟MS-14”飞船送入环绕地球的预定轨道,而该飞船搭载有俄罗斯....
发表于 08-22 15:32 17次 阅读
AI机器人或将助力人类探索宇宙的能力

5G、工业互联网的应用将为机器人产业带来新机遇

工信部副部长辛国斌表示,柔性制造需求、新兴市场涌现、创新技术发展等都将拓展机器人的应用领域和发展空间....
的头像 倩倩 发表于 08-22 15:31 136次 阅读
5G、工业互联网的应用将为机器人产业带来新机遇

5G强在哪?谁会吃到5G的第一块蛋糕?

隶属于联合国的ITU(国际电联)在定义5G场景的时候,描述了大规模机器通信(mMTC, Massiv....
的头像 倩倩 发表于 08-22 15:28 231次 阅读
5G强在哪?谁会吃到5G的第一块蛋糕?

各类应用软件正推动数字阅读日渐普及,5G技术赋能数字阅读

“数字阅读作为全媒体时代的新型阅读方式,从应运而生到蓬勃发展、蔚然成风,极大丰富了人们的阅读体验和精....
的头像 倩倩 发表于 08-22 15:21 175次 阅读
各类应用软件正推动数字阅读日渐普及,5G技术赋能数字阅读

场景越铺越广,人脸识别解决了什么痛点?

首先,无论商业上如何包装,人脸识别技术都不能算是一项多么尖端的技术,国外的大型科技公司,诸如亚马逊、....
的头像 倩倩 发表于 08-22 14:43 163次 阅读
场景越铺越广,人脸识别解决了什么痛点?

墨奇科技新一代“指纹-身份识别”AI系统

墨奇科技是北京大数据研究院于2016年孵化的人工智能公司,致力于非结构化数据的前沿理论探索与技术应用....
的头像 倩倩 发表于 08-22 14:34 103次 阅读
墨奇科技新一代“指纹-身份识别”AI系统

语音识别的技术历程

深度学习技术自 2009 年兴起之后,已经取得了长足进步。语音识别的精度和速度取决于实际应用环境,但....
的头像 倩倩 发表于 08-22 14:21 93次 阅读
语音识别的技术历程

2019上半年全球智能家居发明专利排行榜

科技是国之利器。企业作为科技创新的主体,是推动科技发展的重要力量。在供给侧结构性改革的背景下,中国企....
的头像 倩倩 发表于 08-22 11:31 132次 阅读
2019上半年全球智能家居发明专利排行榜

科技部印发了《国家新一代人工智能开放创新平台建设工作指引》

随着垃圾分类的推行,北京一小区引入了人脸识别系统,在小区的16个点位安置了26组设备,在智能设备投入....
的头像 倩倩 发表于 08-22 11:12 116次 阅读
科技部印发了《国家新一代人工智能开放创新平台建设工作指引》

人工智能的高效性引领传统营销的改革

人工智能不仅仅在军事和生活上带来突破性的改变,在商业方面,人工智能在企业营销领域的应用也逐渐地在扩大....
发表于 08-22 10:15 36次 阅读
人工智能的高效性引领传统营销的改革

人工智能正在兴起新一轮的产业变革

我国作为全球人工智能领域赛道的领跑者,大力发展人工智能技术的目的,并不仅仅是为增强军事严防的力量,更....
发表于 08-22 10:09 22次 阅读
人工智能正在兴起新一轮的产业变革

医疗机器人的市场规模或将超过汽车机器人

随着社会人口老龄化加重,医疗机器人的应用需求逐渐增加,以康复机器人为主的手术机器人已得到较为广泛的应....
发表于 08-22 09:45 26次 阅读
医疗机器人的市场规模或将超过汽车机器人

市场需求将推动我国服务机器人产业快速发展

2019年上半年,我国机器人市场规模为42.5亿美元,占比全球机器人市场接近三成,业内预计全年市场规....
发表于 08-22 09:41 21次 阅读
市场需求将推动我国服务机器人产业快速发展

瑞士研发的新型四腿机器人崭新亮相

瑞士一机器人公司近日发布了最新的“自主腿”机器人。该机器人坚固耐用,防水防尘,配有一个自动充电的对接....
发表于 08-22 09:38 27次 阅读
瑞士研发的新型四腿机器人崭新亮相

TCL电子发布具创新性和颠覆传统的TCL-XESS智屏

TCL电子控股有限公司(“TCL电子”或“公司”,港交所股份编号:01070.HK)欣然宣布公司于上....
的头像 电子发烧友网工程师 发表于 08-22 09:16 172次 阅读
TCL电子发布具创新性和颠覆传统的TCL-XESS智屏

5G让人工智能反应更迅速

当5G遇上人工智能是何场景?三星为你描绘未来蓝图!
的头像 陈翠 发表于 08-21 17:48 603次 阅读
5G让人工智能反应更迅速

机器视觉的关键技术与应用实例详细分析

本文简要介绍了有关机器视觉概念、系统的组成,并介绍了与机器视觉相关的关键技术,如照明光源、镜头、摄像....
发表于 08-21 17:43 29次 阅读
机器视觉的关键技术与应用实例详细分析

机器视觉系统培训的详细资料合集免费下载

机器视觉系统是指利用机器替代人眼做出各种测量和判断。机器视觉是工程领域和科学领域中的一个非常重要的研....
发表于 08-21 17:09 21次 阅读
机器视觉系统培训的详细资料合集免费下载

人工智能将在新零售行业中发挥作用

如今,零售行业不断发展,数字化的商品信息、高效的仓储和物流,从产品的生产到配送,正形成一个完整的智慧....
发表于 08-21 16:25 27次 阅读
人工智能将在新零售行业中发挥作用

人工智能的商业化才是AI数据真正的突破点

在数字经济下,人工智能作为第四次产业变革的引擎,已逐渐渗透到各行业中,为人类社会和经济发展带来变革。
发表于 08-21 16:21 31次 阅读
人工智能的商业化才是AI数据真正的突破点

Facebook将拟用人工智能进行新闻编辑

据外媒报道,长期以来,Facebook始终依赖于算法来为用户选择想要看的新闻。现在,这家社交网络巨头....
发表于 08-21 16:11 73次 阅读
Facebook将拟用人工智能进行新闻编辑

我国工业机器人产业将迎来快速增长

今年上半年我国的工业机器人市场在行业连续多年高速增长的情况下出现了回落,如汽车、3C等行业在有所下降....
发表于 08-21 15:55 30次 阅读
我国工业机器人产业将迎来快速增长

机器人传感器产业在新市场下该如何发展

传感器技术是信息技术的基础和三大支柱之一,随着“互联网+”形式的普及发展,以及在 “中国制造2025....
发表于 08-21 15:51 33次 阅读
机器人传感器产业在新市场下该如何发展

日本的机器人产业会给我们带来怎样的影响

近年,全球各国在机器人领域都进行大量的投入,这不仅推动了机器人产业的快速发展,也让机器人可以应用于各....
发表于 08-21 15:46 38次 阅读
日本的机器人产业会给我们带来怎样的影响

奇信智能公司携物联网机器人“奇信小π”亮相华为云人工智能高峰论坛

在此次的活动中,汇聚了众多人工智能领域优秀企业,华为生态伙伴之一——奇信智能公司携物联网机器人“奇信....
的头像 倩倩 发表于 08-21 15:32 211次 阅读
奇信智能公司携物联网机器人“奇信小π”亮相华为云人工智能高峰论坛

物联网技术是如何支持预测性维护来实现提高产品质量的

如今,有大量不同的状态监控技术可用于实时跟踪资产健康状况。这意味着您可以非常清楚地看到机器何时处于峰....
发表于 08-21 15:14 70次 阅读
物联网技术是如何支持预测性维护来实现提高产品质量的

为什么劣质数据不会减少推迟物联网计划的原因

理论上听起来都很棒。然而,许多组织正在努力冒险。早在2016年,思科副总裁Maciej Kranz发....
的头像 倩倩 发表于 08-21 15:10 78次 阅读
为什么劣质数据不会减少推迟物联网计划的原因

2019年内蒙古物联网与人工智能峰会在呼和浩特召开

内蒙古自治区科技厅厅长孙俊青在致辞时说,随着5G时代的到来,物联网和人工智能技术将进一步改变我们的生....
的头像 倩倩 发表于 08-21 15:03 202次 阅读
2019年内蒙古物联网与人工智能峰会在呼和浩特召开

2019年“创客中国”物联网应用中小企业创新创业大赛暨颁奖仪式

比赛分为企业组和创客组,最终征集项目188个,其中企业组114个、创客组74个,涵盖“传感器、芯片、....
的头像 倩倩 发表于 08-21 14:36 238次 阅读
2019年“创客中国”物联网应用中小企业创新创业大赛暨颁奖仪式

博为峰致力于将物联网技术和人工智能技术应用于卫浴设备上

智能卫浴设备的质量检测涉及到IOT芯片、人工智能算法、设备交互、人物交互、物物交互、云端控制等多种新....
的头像 倩倩 发表于 08-21 14:33 208次 阅读
博为峰致力于将物联网技术和人工智能技术应用于卫浴设备上

斯塔西奥加入了微软的人工智能(AI)部门

斯塔西奥于2012年加入苹果公司,成为Siri团队的一员,他在该公司工作了7年多,于今年5月份离开了....
的头像 倩倩 发表于 08-21 14:23 356次 阅读
斯塔西奥加入了微软的人工智能(AI)部门

英特尔公司公布了其最新的处理器

英特尔表示,该芯片由位于以色列海法的开发工厂开发,名为Nervana NNP-I或Springhil....
的头像 倩倩 发表于 08-21 14:19 208次 阅读
英特尔公司公布了其最新的处理器

Vicor将在开放式数据中心委员会峰会上展示其最新48V电源模块创新技术

ODCC 峰会是中国主要的数据中心盛会,将领先的云计算及高性能计算专家齐聚一堂,共同讨论高级先进技术....
发表于 08-21 11:41 102次 阅读
Vicor将在开放式数据中心委员会峰会上展示其最新48V电源模块创新技术

《新一代人工智能行业自律公约》全文

作为重要参与成员单位,Testin云测持续发力人工智能行业,旗下AI数据服务品牌——云测数据,通过自....
的头像 倩倩 发表于 08-21 11:39 228次 阅读
《新一代人工智能行业自律公约》全文

云计算与人工智能的关系会越来越密切

人工智能的发展需要三个重要的基础,分别是数据、算力和算法,而云计算是提供算力的重要途径,所以云计算可....
的头像 倩倩 发表于 08-21 11:37 270次 阅读
云计算与人工智能的关系会越来越密切

现有刑法是否能够完全规制人工智能犯罪?

在学校上课时,这位明星法学教授总喜欢从提问开始、启发学生思考。在今天的讲座现场,刘宪权的讲述同样是从....
的头像 倩倩 发表于 08-21 11:33 190次 阅读
现有刑法是否能够完全规制人工智能犯罪?

2019世界机器人大会,“智能新生态,开放新时代”为主题

8月20日,2019世界机器人大会在北京亦创国际会展中心举行,本届大会的主题是“智能新生态,开放新时....
的头像 班组安全 发表于 08-21 11:30 996次 阅读
2019世界机器人大会,“智能新生态,开放新时代”为主题

安徽人工智能产业如何打造?多位省政协委员给出答案

省政协委员,合肥市政协主席韩冰认为,我省人工智能产业发展是由智能语音、机器人等单点技术带动,由此造成....
的头像 倩倩 发表于 08-21 11:27 353次 阅读
安徽人工智能产业如何打造?多位省政协委员给出答案

世界人工智能大会的最高荣誉“SAIL奖”全球品牌推广宣布启动

据了解,论坛主办单位普陀区近年来积极抓住人工智能产业发展的重大契机,不断推进和布局人工智能产业。积极....
的头像 倩倩 发表于 08-21 11:24 180次 阅读
世界人工智能大会的最高荣誉“SAIL奖”全球品牌推广宣布启动

“湾区智谷人工智能孵化器”揭牌仪式在龙华区智慧谷创新园举行

具体机构方面,最高收益为31.73%,由幻方量化旗下相关产品取得,明汯投资以28.10%的收益率位居....
的头像 倩倩 发表于 08-21 11:17 196次 阅读
“湾区智谷人工智能孵化器”揭牌仪式在龙华区智慧谷创新园举行

人工智能与台风——感知、救援、预防

在人工智能问世之前,救援人员通过查看灾区的空中红外成像来寻找被困人员。但是从无人机上筛选照片和视频需....
的头像 倩倩 发表于 08-21 11:14 86次 阅读
人工智能与台风——感知、救援、预防

怎么设计基于DSP和FPGA的机器人声控系统?

机器人听觉系统主要是对人的声音进行语音识别并做出判断,然后输出相应的动作指令控制头部和手臂的动作,传统的机器人听觉系统一...
发表于 08-21 07:51 20次 阅读
怎么设计基于DSP和FPGA的机器人声控系统?

嵌入式模块化机器人的路径怎么规划?

随着科技的进步,机器人技术正在向智能机器和智能系统的方向发展,其发展趋势主要为结构的模块化和可重构化;控制技术的开放化、...
发表于 08-20 07:21 48次 阅读
嵌入式模块化机器人的路径怎么规划?

Gene8310智能家庭服务机器人系统怎么设计?

家庭服务机器人是机器人的发展方向,是我国进一步加强机器人技术研究的突破口。家庭服务机器人旨在将家庭成员从家居的繁琐家务中...
发表于 08-20 06:57 32次 阅读
Gene8310智能家庭服务机器人系统怎么设计?

Firefly集群服务器解决方案

方案背景 移动互联应用的快速发展和云计算、大数据应用的拓展和深化,数据中心已由传统的大型机、小型机逐步转移到x86服务器,...
发表于 08-16 15:09 327次 阅读
Firefly集群服务器解决方案

TDK-Lambda电源在系留无人机及水下机器人中的应用

近来,在与客户工程师的沟通中了解了一些系留无人机和水下机器人等方面的系统应用,两种设备虽然完全属于不同的行业领域,但是供...
发表于 08-16 11:15 210次 阅读
TDK-Lambda电源在系留无人机及水下机器人中的应用

机器人的自主决策可靠吗?机器视觉在智能领域占据什么地位?

工业视觉中,机器人视觉领域在技术和商用程度上均有较好的表现。本文从机器人视觉的市场需求、技术原理以及发展趋势三个层面,深...
发表于 08-16 04:00 148次 阅读
机器人的自主决策可靠吗?机器视觉在智能领域占据什么地位?

RPA是企业在人工智能时代抢占先机的关键

2019年,RPA突然间就火了... UiPath在2019年5月宣布获得5.8亿美元融资,估值70亿美元,成为国际AI领域估值最高的企业之一...
发表于 08-15 15:01 429次 阅读
RPA是企业在人工智能时代抢占先机的关键

旋转编码器怎么节约移动机器人功耗?

商用移动机器人潜力巨大,能够为设备和服务行业培养广阔的市场。根据近期研究判断,预计单单是无人机市场在2022年之前就有机会飙...
发表于 08-13 07:29 36次 阅读
旋转编码器怎么节约移动机器人功耗?

人工智能和机器学习怎么应用于医学?

经美国食品药品监督管理局(FDA)批准后,第一批可穿戴式数字健康监测仪目前刚刚上市,并集成在诸如智能手表之类的消费产品中。...
发表于 08-13 07:22 35次 阅读
人工智能和机器学习怎么应用于医学?