侵权投诉

人工智能的道德拷问与对标

2019-10-08 11:07 次阅读

  目前的AI道德准则更多地是针对科技公司与开发者提出的要求,但AI的使用者不应该成为道德盲区。

  张锐

  鉴于美国、以色列、韩国、俄罗斯和英国等国都在发展智能机器人武器系统,微软公司总裁史密斯日前明确表示,“杀手机器人”的出现未来将无法避免,人类社会应该有一个新的“数字《日内瓦公约》”也就是一套道德标准来约束与引导人工智能(AI)的发展。

  史密斯的判断并不是危言耸听,并且人工智能引发的道德问题也不仅仅存在于武器系统方面,而是辐射到了公众社交生活的各个层面,只不过由于对AI的变革与创新能量存在着猎奇心态与“晕轮效应”,人们往往忽视了AI道德的重要性。拿不久前世界人工智能大会上ZAO推出的“AI换脸APP”为例,用户只需要一张正脸照,就可以替换为影视作品的人物,生成以自己为主角的视频片段,结果,这款APP一夜之间火爆全网,在赢得用户尖叫的同时,支持APP的服务器陷入瘫痪。可是,成功换脸赢得了片刻的刺激与兴奋之后,相信所有的用户都会因绑在自己身上的ZAO协议而惴惴不安。

  根据ZAO的用户协议:用户上传发布内容后,意味着“同意或确保肖像权利人授予‘ZAO’及其关联公司全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利”,而且“侵权了明星肖像,若对方提告,最后责任都在用户”,就此,我们对用户提出以下问题:被换脸的明星如果提出诉讼,你是否还会镇定自如?如果有人就此制作虚假视频并栽赃于你,你是否会义愤填膺?你的人脸被用于刷脸支付,你是否会忐忑不安乃至惊慌失措?如果就这些问题得出了肯定性答案,相信每一个人都不会对AI道德问题熟视无睹。

  其实,类似“换脸APP”引起的AI道德拷问已经不计其数。不久前,Deep Nude 推出一款“一键脱衣”软件,用户只需在该程序上添加一张照片,APP便可以自动“脱掉”女性身上的衣服。在这款软件中,女性无疑成为了最大受害者;还比如斯坦福大学运用AI算法,通过照片便可识别谁是同性恋,黑灰产能够通过AI技术伪造录制场景,保险公司利用脸书数据预测事故发生率就可拒绝用户投保等等,AI突破道德底线并且沦为作恶的工具已经超过了人们的想象,甚至用技术在狂奔,道德在退步来形容一点也不为过。

  对于AI所触发的道德问题,目前形成的一种主流判断是,技术无罪但操控技术的人一定有过。按照墨菲定理,如果一件事情有可能出错,它就一定会出错。也就是说,如果做某项工作有多种方法,而其中有一种方法必然导致错误,那么一定有人会按这种方法去做。一项针对1010名英国科技工作者的研究发现,90%的人认为科技是一种正能量,但59%在人工智能领域工作的人表示,他们从事的项目可能对社会有害,18%的人因为伦理道德问题而辞职。对此,我们想强调的是,尽管AI违背或者践踏道德也只是少数技术操作者的行为,也就是墨菲定理所指的个别人犯错,但这种错误又极易被更多人所模仿,而且借助网络传播的力量无限放大,最终造成的社会危害程度也无法估量。

  但是,如何平衡AI创新与AI道德的确又是一个非常棘手的难题。对于人类社会而言,我们不仅无法抵挡AI的诱惑,而且需要更多的创新成果来提供贴近生产与生活的各种服务,这就需要企业不断地寻求突破,但是,如果套上更多的条条框框,又势必抑制与捆绑AI 探索的脚步与空间。拿AI的基础数据为例,用户的身份、职业、年龄等以及阅读、购物等行为偏好,都是优化推荐算法的关键依据,科技公司获取的隐私数据越多,就越能让AI的服务更精确地贴合公众需求,同时利于商业主体精准发力。但如果注入了道德元素,数据的限制与缺失不仅会使AI的服务功能大打折扣,同时会面临着资本的反制与遗弃,也正是如此,几乎没有哪一家科技公司希望自己在获取用户数据方面受到约束。虽如此,我们还是要强调,任何创新的闸门并不是不可以把控的,人类既然能够让机器变得非常智慧,同样也可让它行走在指定的路径与划定的边界之内,比如一件AI可在哪些场景下使用,以及使用越界时的自动纠正功能等,这样,无论机器具有怎样的学习天赋,我们都可以让它在决策时像人一样在感知是非善恶的前提下正确行事。

  显然,基于创新与发展的需要,不能因为AI的局部不道德而对其实施简单而粗暴的管制,甚至一禁了之。同时,要引导AI变得有道德,首先须让科技公司变成道德主体。对于科技企业来说,科技向善应当成为其恪守与贯彻的道德底线,为人类创造福祉并驱动社会发生积极变革应当成为其存在与发展的最高圭臬。对此,所有的AI 企业都有必要像微软成立人工智能伦理道德委员会那样,创建由工程师、科学家、律师和公司领导组成的监管机构,负责对每一款AI产品的道德伦理风险评估以及运行内外部审查和实施相应的改进机制,保证产品在开发过程中就有成色厚重的道德元素。

  相比于企业对AI的自我审查而言,行业协会是把控人工智能的第一道外部道德关口。目前,除了世界电气电子工程师学会(IEEE)在《人工智能设计的伦理准则》中提出了人权、福祉、问责与透明的伦理标准外,亚马逊、微软、谷歌以及苹果等全球百余家科技巨头还创建了非营利性的人工智能合作组织Partnership on AI,提出了公平、没有伤害、公开透明以及问责等伦理道德框架。各国各行业可以以此为参照建立自己的AI道德评价矩阵与评估流程。相对于企业自我道德评价,作为第三方的行业道德评价可以有效地克服前者在商业诉求与道德诉求上的角色冲突与结果倾斜,同时过滤企业道德评价中的不合理因素,确保AI伦理道德评估结论的公正与可信。值得强调的是,为了更广泛地反映社会不同群体对AI道德的基本诉求,行业道德监督机构应当最大程度地吸收更多利益相关者的加入。

  当然,制定AI伦理道德准则也是各国政府义不容辞的职责,而且衡量一个国家人工智能水平的高低已经不仅仅只有技术指标,道德维度也成为了各国AI竞争的新高地。最新数据显示,美国人工智能企业数量2039家位列全球第一,中国(不含港澳台地区)有1040家,两国占到全球人工智能企业数的一半以上,同时全球36524位顶尖AI人才一半以上在中美。中国与美国在AI领域难分伯仲。而相比之下,欧盟感觉掉队不少,于是便从伦理角度切入,率先推出了涵盖人的能动性和监督能力、安全性、隐私数据管理、透明度、包容性、社会福祉以及问责机制等七项内容的AI伦理道德准则。相比于欧盟,虽然我国有《网络安全法》和《信息安全技术个人信息安全规范》,相关组织发布的《人工智能北京共识》,但在AI的道德界限以及道德标准细化方面仍有待提炼与加工,对此,完全有必要通过“头脑风暴法”的形式邀请社会各界人士参与到人工智能道德准则的补充和完善中来。

  最后需要指出的是,目前的AI道德准则更多地是针对科技公司与开发者提出的要求,但AI的使用者同样不应该成为道德盲区。从ZAO的“AI换脸APP”服务器被挤爆,到Deep Nude “一键脱衣”软件遭到疯抢,足以说明使用者在购买产品时不仅不计成本,而且存在翻越道德门槛的强烈动机,如此种种不仅对开发者的失德之举构成有力声援,而且势必扭曲互联网社交的健康躯体。为此,有必要出台AI使用的道德与法律规则,并建立起可以监控的人工智能平台,对所有使用不道德AI产品的用户进行账号管制,以此倒逼科技公司调整与校准自己的研发行为,进而让AI道德演变成民众信任的基础。

收藏 人收藏
分享:

评论

相关推荐

机器人是如何知轻重的,全靠传感器来帮忙

人体具有压觉,人体皮肤深层结构内存在大量压力感受器。当机械刺激导致皮肤变形时,会引起感受器及神经末梢....
发表于 04-09 23:12 10次 阅读
机器人是如何知轻重的,全靠传感器来帮忙

智能机器人展现抗疫硬实力,服务机器人的拐点已到

众所周知,此次疫情传播渠道极为多样,传播力度也十分强劲,居家隔离成为“热词”。但在防疫中还存在大量简....
发表于 04-09 22:34 20次 阅读
智能机器人展现抗疫硬实力,服务机器人的拐点已到

人工智能技术发展到极致时我们将面临着什么

回顾历史,每次产业技术革命都给人类生产生活带来巨大而深刻的影响。在二十一世纪的今天,人工智能(AI)....
发表于 04-09 22:29 89次 阅读
人工智能技术发展到极致时我们将面临着什么

新基建有没有留给物联网行业发展的机会

从这次疫情中不难看到,整个中国经济“智能化”进程迫在眉睫,“新基建”需求呈现“爆发式增长”。人工智能....
发表于 04-09 17:39 69次 阅读
新基建有没有留给物联网行业发展的机会

嵌入式传感器对于交通的发展有多重要

随着移动即服务(MaaS)被视为智能移动的关键要素,对增长至关重要的一个重要因素是机器人车辆技术,而....
发表于 04-09 16:42 15次 阅读
嵌入式传感器对于交通的发展有多重要

清洁机器人迎来了怎样的新机会

清洁机器人在室外场景的商用发展已经初见端倪。
发表于 04-09 16:37 45次 阅读
清洁机器人迎来了怎样的新机会

安防系统产品的发展前景怎么样

伴随着我国不断推进智慧城市、平安城市发展,带来了增量公共安全需求,我国视频监控市场保持着持续扩大的趋....
发表于 04-09 16:33 23次 阅读
安防系统产品的发展前景怎么样

5G造就超强城市大脑,为智慧城市赋能

日前,习近平总书记在杭州城市大脑运营指挥中心指出,让城市更聪明一些、更智慧一些,是推动城市治理体系和....
的头像 牵手一起梦 发表于 04-09 15:14 172次 阅读
5G造就超强城市大脑,为智慧城市赋能

疫情下的机器人做了些什么

医疗领域,服务机器人主要应用有配送、康复、手术等等环节上,医疗机器人的出现明显地缓解了医务人员的压力....
发表于 04-09 15:05 39次 阅读
疫情下的机器人做了些什么

新基建将会给智慧城市建设带来什么样的益处

数字经济以物联网、云计算、大数据、人工智能、5G等新兴技术的应用为代表,而据《智慧城市技术参考模型》....
的头像 lhl545545 发表于 04-09 15:04 221次 阅读
新基建将会给智慧城市建设带来什么样的益处

机器人系统不提升力矩并实现减低电机的转速可能吗

如题主所说机器人关节末端的减速器是用来减速增距,机器人的关节不可能像汽车一样装个变速箱来适应不同的速....
发表于 04-09 15:00 43次 阅读
机器人系统不提升力矩并实现减低电机的转速可能吗

人工智能引入股票资本市场是为什么

美国银行的数据科学家和工程师就一直在创建预测智能分析机器,这是一个人工智能交易预测系统,它使用了监督....
发表于 04-09 14:56 22次 阅读
人工智能引入股票资本市场是为什么

需关注AI破坏的4个行业

斯坦福大学的计算机科学家兼计算机科学兼教授Andrew Ng最近将AI称为“新力量”,并指出在未来十....
的头像 倩倩 发表于 04-09 14:53 152次 阅读
需关注AI破坏的4个行业

AI+智能客服系统能带来什么服务

AI+智能客服系统,基于人工智能中的自然语言处理技术,对用户输入做问句类型及问点识别、主题词分析等语....
发表于 04-09 14:53 28次 阅读
AI+智能客服系统能带来什么服务

Black&Veatch正在依靠人工智能来自动化为支持其基站

Bigelow说:“我们希望我们的专业人员在工作中有很好的经验。”有时,作为消费者,他们在工作以外的....
的头像 倩倩 发表于 04-09 14:51 72次 阅读
Black&Veatch正在依靠人工智能来自动化为支持其基站

礼来AI自动执行不良反应报告

来公司药品开发部副总裁兼信息官Tim Coleman说:“我们的主要业务推动力是提高生产率并降低处理....
的头像 倩倩 发表于 04-09 14:48 49次 阅读
礼来AI自动执行不良反应报告

Nvidia公司已经收购了SwiftStack Inc.

现有的SwiftStack客户将继续得到支持,其中包括PayPay Holdings Inc.,Ro....
的头像 倩倩 发表于 04-09 14:46 63次 阅读
Nvidia公司已经收购了SwiftStack Inc.

多样化的团队可以帮助减少偏见算法

根据伯恩霍尔茨的说法,所有数据都是有偏见的,因为是人们在收集数据。她强调说:“而且我们正在将偏见建立....
的头像 倩倩 发表于 04-09 14:44 53次 阅读
多样化的团队可以帮助减少偏见算法

日本研发高稳定性MR流体,或将用于机械控制领域

MR流体是将铁等磁性颗粒分散到油等分散介质中的流体,在车辆的制动器和减震器以及机器人的致动器等机械控....
的头像 牵手一起梦 发表于 04-09 14:43 60次 阅读
日本研发高稳定性MR流体,或将用于机械控制领域

Hailo的总融资额达到了8800万美元

B轮融资由现有投资者牵头,ABB Technology Ventures,NEC Corp.和Lat....
的头像 倩倩 发表于 04-09 14:42 55次 阅读
Hailo的总融资额达到了8800万美元

人机大战后人工智能变得怎样

人工智能已经不再是新鲜神秘的“黑科技”。人来人往中,城市“天眼”一刻不停地收录着每张脸上的喜怒哀乐。
发表于 04-09 14:38 26次 阅读
人机大战后人工智能变得怎样

怎样去重构智慧医疗

而在智慧医院的管理方面,也可以将浪潮网络产品作为医疗私有云的基础,让医院内各部门生产数据通过底层网络....
发表于 04-09 14:35 28次 阅读
怎样去重构智慧医疗

研究人员提出了一个名为CommPlan的框架

使用CommPlan,开发人员首先使用数据,领域专业知识和学习算法指定五个模块-任务模型,通信功能,....
的头像 倩倩 发表于 04-09 14:30 113次 阅读
研究人员提出了一个名为CommPlan的框架

一份题为“自动语音识别中的种族差异”的报告

清除语音项目是由Joy Buolamwini创建的算法正义联盟的产品。参与计算机科学艺术作品的参与者....
的头像 倩倩 发表于 04-09 14:28 107次 阅读
一份题为“自动语音识别中的种族差异”的报告

智慧城市当中的实时数据洞察怎样改善

在商业和交通领域,人工智能监控解决方案带来更高效的运营。
发表于 04-09 14:28 22次 阅读
智慧城市当中的实时数据洞察怎样改善

有关招聘AI和ML专业人员的详细指南

在本文中,我们与您分享有关招聘AI和ML专业人员的详细指南,包括寻找技能,根据情况应用的招聘策略以及....
的头像 倩倩 发表于 04-09 14:20 83次 阅读
有关招聘AI和ML专业人员的详细指南

为什么一定要关注智慧城市的发展

“新基建”是5G、人工智能、数据中心、互联网等科技创新领域基础设施,以及教育、医疗、社保等民生消费升....
发表于 04-09 14:19 24次 阅读
为什么一定要关注智慧城市的发展

一个基于Microsoft聊天机器人Tay的示例

当意料之外的事情浮出水面时,我们可以期望的最好的办法就是减少有效应对负担的基础设施。让我们谈谈为AI....
的头像 倩倩 发表于 04-09 14:18 48次 阅读
一个基于Microsoft聊天机器人Tay的示例

加州大学伯克利成功开发出室内机器人导航的新框架

移动机器人应该能够有效地导航现实世界的环境,避免人类或周围环境的其他障碍,才能完成人类设计的任务。
发表于 04-09 14:17 13次 阅读
加州大学伯克利成功开发出室内机器人导航的新框架

人工智能可以为许多营销挑战提供有效的解决方案

如果您有兴趣获取我们将来有关营销应用程序的更新,可以订阅本文底部的AI in Marketing邮件....
的头像 倩倩 发表于 04-09 14:15 70次 阅读
人工智能可以为许多营销挑战提供有效的解决方案

AI如何兼得安全和发展

人工智能技术的应用与发展,离不开对数据的采集与利用,数据不断更新与扩张则会引发信息泄露、侵犯隐私的风....
发表于 04-09 14:11 15次 阅读
AI如何兼得安全和发展

现在的人工智能智商怎么样

深度学习是以人类大脑为基础,要复杂得多。与机器学习不同的是,深度学习可以教会机器忽略声音或图像中所有....
发表于 04-09 11:50 186次 阅读
现在的人工智能智商怎么样

人工智能道德问题为何如此的重要

透明度是有效整合人工智能的关键。企业可能错误地认为道德只是缓解风险的一种行为。这种心态只会让创新陷入....
发表于 04-09 11:47 37次 阅读
人工智能道德问题为何如此的重要

机器人可以消除老人的孤独感吗

即使机器人技术是科技领域最热门的领域之一,但是想要先捕获老年人的眼球却也并不容易。
发表于 04-09 11:43 21次 阅读
机器人可以消除老人的孤独感吗

人工智能迎来怎样的新曙光

人工智能技术已经最终成为足够可靠的监视一切的手段。
发表于 04-09 11:38 18次 阅读
人工智能迎来怎样的新曙光

东北大学研究团队成功研发出了一款健身机器人

1991年出生的龚佳乐是东北大学的博士生,攻读机器人与人机交互方向。他和团队研发的这款“健身教练”机....
发表于 04-09 11:37 13次 阅读
东北大学研究团队成功研发出了一款健身机器人

人工智能为什么可以下围棋

AI技术是用先进的算法来实现本来应该由人工实现的动作,比如无人行驶,智能语音,机器视觉,人脸识别等等....
发表于 04-09 11:32 28次 阅读
人工智能为什么可以下围棋

谷歌人工智能自动呼叫服务Duplex在更多国家上线

根据今天更新的支持页面显示,谷歌的人工智能自动呼叫服务Duplex现在能在美国之外的更多国家上线。援....
发表于 04-09 11:30 17次 阅读
谷歌人工智能自动呼叫服务Duplex在更多国家上线

越南军事技术学院的研究人员开发出了一款Vibot 1a版的机器人

越南军事技术学院所研究名为Vibot 1a版的机器人可以自动将外面的饭菜、药物、必需品等物品搬运到各....
发表于 04-09 11:29 11次 阅读
越南军事技术学院的研究人员开发出了一款Vibot 1a版的机器人

人工智能神经网络你知道是什么吗

人工神经网络是受到人类大脑结构的启发而创造出来的,这也是它能拥有真智能的根本原因
发表于 04-09 11:28 16次 阅读
人工智能神经网络你知道是什么吗

如何使用机器人来抗疫

一旦在街上发现人们将上前并询问对方外出的原因,而对方亦需将其身份证明文件以及其他文件显示于装在机器人....
发表于 04-09 11:24 23次 阅读
如何使用机器人来抗疫

人工智能算法进行人脸识别究竟靠不靠谱

研究人员让研究对象从面部读取情绪的做法已经有好几十年了,包括不同国家的成年人和儿童,甚至还有偏远地区....
发表于 04-09 11:22 20次 阅读
人工智能算法进行人脸识别究竟靠不靠谱

研究人员正在利用机器学习算法来预测电池的健康状况和使用寿命

来自剑桥大学和纽卡斯尔大学的研究人员设计了一种新的方法,通过向电池发送电脉冲并测量其响应来监测电池。....
发表于 04-09 11:18 19次 阅读
研究人员正在利用机器学习算法来预测电池的健康状况和使用寿命

研究人员开发出了一种称为LB-WayPtNav-DH的机器人导航新框架

加州大学伯克利分校的研究人员最近开发了一种新的框架,该框架可以增强办公室,房屋或博物馆等室内环境中人....
发表于 04-09 11:18 9次 阅读
研究人员开发出了一种称为LB-WayPtNav-DH的机器人导航新框架

数据科学和人工智能职业生涯怎样规划比较好

随着数据科学和人工智能领域提供越来越多的职位,行业专家对希望在这两个领域中进行职业生涯规划的人士提出....
发表于 04-09 11:13 11次 阅读
数据科学和人工智能职业生涯怎样规划比较好

怎样克服实现人工智能的障碍

人工智能的试验规模已经很大了,但想要从部署中获取价值依然颇具挑战性。他们建议将IT与业务的协作作为一....
发表于 04-09 11:11 19次 阅读
怎样克服实现人工智能的障碍

机器人学国家重点实验室科研人员提出了一种连续多视角任务学习算法

据了解,多视角多任务学习目前在机器学习和计算机视觉领域应用广泛,然而在诸多实际场景中,当多视角学习任....
发表于 04-09 11:03 12次 阅读
机器人学国家重点实验室科研人员提出了一种连续多视角任务学习算法

为什么要大力发展协作机器人,因为它具有这些优点

近年来,协作机器人(cobots)开始引领机器人市场增长。根据BIS Research的研究数据显示....
发表于 04-09 10:36 37次 阅读
为什么要大力发展协作机器人,因为它具有这些优点

智能化光电传感器的工作原理是什么?

  在复杂环境中工作的机器人必须满足这样的先决条件:能够利用传感器对周围环境进行识别,具有一定的“学习”和“自我调节”能...
发表于 04-08 07:39 52次 阅读
智能化光电传感器的工作原理是什么?

服务机器人的视觉系统怎么设计?

随着计算机科学和自动控制技术的发展,越来越多的不同种类的智能机器人出现在工厂、生活当中,机器人视觉系统作为智能机器人系统...
发表于 04-07 07:27 126次 阅读
服务机器人的视觉系统怎么设计?

硬件小白,请教各位大神,锂电池和树莓派的供电解决方案

我自己是搞软件的,想自己尝试整个机器人自己玩,基于树莓派、多个舵机做关节、马达驱动轮子、锂电池供电等主要部件,最近一直在...
发表于 03-27 23:19 445次 阅读
硬件小白,请教各位大神,锂电池和树莓派的供电解决方案

【战疫专题】第五期:智慧物流,疫情之中显担当

2020年,新型冠状病毒席卷了整个中国,同时也在促进着产业的变革与生活变化。 电子发烧友在此期间推出【战疫专题】活动,持续为...
发表于 03-18 11:00 2186次 阅读
【战疫专题】第五期:智慧物流,疫情之中显担当

智能吸尘机器人的工作效率怎么提高?

吸尘机器人作为服务机器人领域的一个新产品,结合了机器人和吸尘器技术,能在无人看守情况下轻松地完成室内环境的吸尘等清洁工作...
发表于 03-18 06:18 137次 阅读
智能吸尘机器人的工作效率怎么提高?

智能巡航并将机器人怎么实现状态显示输出?

目前许多高等教育院校采用教育机器人进行课堂教学和培养学生的创新能力。本文设计的教育机器人通过红外光电传感器阵列检测路面信...
发表于 03-17 06:59 122次 阅读
智能巡航并将机器人怎么实现状态显示输出?

人工智能、数据挖掘、机器学习和深度学习的关系

人工智能、数据挖掘、机器学习和深度学习之间,主要有什么关系?...
发表于 03-16 11:35 113次 阅读
人工智能、数据挖掘、机器学习和深度学习的关系

人工智能侦查有哪些应用

【人工智能侦查的应用领域】
发表于 03-16 11:28 87次 阅读
人工智能侦查有哪些应用

宅家抗疫DIY:简易避障机器人的实现

这是一个非常简单的避障机器人,甚至简单到没有使用控制芯片和驱动电路,使用的都是我们日常生活中随处可见的一些东西,但是却实...
发表于 03-10 07:00 925次 阅读
宅家抗疫DIY:简易避障机器人的实现

人工智能+边缘计算!米尔NXP工业级物联网板卡8M mini资料分享

响应行业应用和满足客户需求,米尔推出了基于NXP公司i.MX 8M Mini系列芯片的MYC-C8MMX系列核心板及开发板,现已隆...
发表于 03-06 11:44 658次 阅读
人工智能+边缘计算!米尔NXP工业级物联网板卡8M mini资料分享