电子发烧友网 > 人工智能 > 正文

人工智能如何变得有良知

2019年12月03日 17:14 次阅读

在好莱坞的电影中,有很多关于人工智能(AI)在未来世界发生的故事。可以肯定地说,这个未来不会很快到来——虽然人工智能具有很多功能和能力,但人类的创造力和知识能力还有待匹配。这意味着做出的重大决策仍然掌握在人类的手中。

在当今世界,人工智能可以选择求职面试的应聘者,并决定谁有资格获得工作职位,并且可以为患者进行诊断。而在这些情况下采用人工智能取代人类,在速度和效率方面取得了长足的进步。

甚至有人认为,人工智能可以在未来几年内取代30%的劳动力。但是,拥有强大的力量也会有巨大的责任。为了确保获得最佳结果,需要开发可以更公平分享这些好处的人工智能。

事实上,人类可以与新兴技术实现共生发展,虽然这意味着人工智能可以从人类身上得到最好的结果,但它也可能导致最坏的结果,因为人工智能也纳入了一些人们最糟糕的恶习。如果现在不采取必要的措施,无意识的偏见已经是社会最大的挑战之一,这可能会一直持续,甚至成为根深蒂固的结构性偏见。

人工智能如何变得有良知

数据可以告诉人们很多信息,但不会告诉一切。人们最不想看到的是可以评判自己的世界,不是关注的能力或潜力,而是留下的数据线索。很明显,要想让人工智能成为一支良好的力量,它需要针对其设定任务和公平性进行优化。

无意识的偏见是一个数据问题

“垃圾输入,垃圾输出”这个短语在软件开发行业中是一个众所周知的格言,并且有着充分的理由。尽管人工智能已经变得如此复杂和强大,但它仍然是为执行特定任务而设计和训练的一系列算法。人工智能完全依赖于为其发展提供的数据。

它只能分析所拥有的数据,并试图从中获得最佳结果。在行业人士看来,糟糕的决定实际上是从一组糟糕的数据中做出的最佳决策。不过,这并没有降低问题的严重性。

像微软公司的Tay chatter bot或Yandex公司的Alice虚拟助理这样的案例实验很好地展示了当自学习解决方案输入错误数据时会发生什么。在这两种情况下,人们都期望公开、持续的人际互动将有助于解决方案发展出令人信服的个性。不幸的是,与一连串进攻性的接触创造了一种系统,这种人工智能系统学会习惯性地攻击。

然而,当人工智能做出的决定开始影响人们的生活时,其后果可能会严重得多。在未来决策由数据驱动的情况下,人们必须确保数据集中的少数群体不会被剥夺应该获得的权利。

例如一种面部识别算法,该算法只使用浅肤色模型的图像进行训练。当人工智能算法遇到肤色较深的用户时,它可能会错误识别,甚至根本无法识别他们。

如果这项人工智能面部识别技术成为招聘或薪酬体系的基础,想象一下会产生什么样的影响。通过这种方式,某些群体可能处于不利地位,会有更糟糕的用户体验,甚至根本无法获得服务。这种歧视可能不是故意的,但其影响同样具有破坏性。

无意识的人工智能偏见从根本上来说是一个数据问题。如果没有一个包含多样、全面数据的大型数据库,未来的人工智能就有可能在没有完整背景的情况下自动创造出社会的赢家和输家。因此,组织采购最大和最广泛的数据集至关重要。

当然,他们还需要确保他们的人工智能解决方案能够有效地使用所有这些数据。这意味着强大的数据管理工具和政策,确保数据被分类、整合、简化,以供人工智能使用。如果企业缺乏完善的基础设施和治理,那么收集和存储所有这些数据是没有意义的。

数据多样性

解决方案并不像越来越多地收集数据那么简单。仅仅因为企业要从比其他公司拥有更多的数据中提取数据,并不意味着数据集的质量更高,也不会产生更公平的结果。

例如,工程部门的人力资源部门可能有大量的历史数据可供参考,但如果该部门历史上一直由男性员工主导,那么女性应聘者可能很难被人工智能算法视为理想候选人。

要解决人工智能中的无意识偏见,最好的办法就是意识到这些。很多公司将人工智能视为输入和输出的黑盒解决方案,但要确保算法的公平性,就需要深入了解解决方案的工作原理及其与数据的交互方式。

在设计阶段,企业需要清楚地了解想要避免的结果以及想要实现的结果。然后将该理由应用于人工智能将训练的数据集,确保所有性别、社会和种族群体的公平代表性。

企业如何决定什么是“公平”这是一个更大、更微妙的话题,甚至可能解决人工智能中的偏见。道德标准因企业而异,因此企业领导及其员工应制定一个他们能达成一致,并进而影响其解决方案的道德框架。然而,透明度是关键——任何组织都不应害怕向公众或其员工解释这些决定是如何达成的,或是如何实施的。

自上而下的方法并不是一个最好的方法。对一个人来说公平的东西对另一个人来说可能是有问题的,或者看起来是错误的。创建共识的一个好方法是建立一个多元化委员会,由来自企业的利益相关者组成。而多元化委员会的决定可以转化为人工智能解决方案和支持它的数据集。

限制偏见影响

每个人都会被无意识的偏见所困扰,人们可能很难承认这一点,甚至也没有意识到这些偏见。要确保未来发展的人工智能中没有这种偏见,最好的方法是首先承认这种偏见的存在。

然后,人们可以制定减少和限制偏见影响的策略,并确保不将其传递给人工智能技术。同样,对于如何培养和发展人工智能,人们也应该进行培训和发展。

责任编辑:ct

下载发烧友APP

打造属于您的人脉电子圈

关注电子发烧友微信

有趣有料的资讯及技术干货

关注发烧友课堂

锁定最新课程活动及技术直播

电子发烧友观察

一线报道 · 深度观察 · 最新资讯
收藏 人收藏
分享:

评论

相关推荐

四轴机器人编程与应用

主题简介:本次直播主要讲解四轴机器人控制器基本原理及组成。四轴机器人的核心技术内嵌人工智能算法的工业级运动控制技术和伺服
发烧友学院发表于 2018-10-30 00:00 11697次阅读
四轴机器人编程与应用

人工智能背后的人工力量是什么

AI数据标注员被称作“人工智能背后的人工”。“数据是人工智能的血液。
发表于 2019-12-03 17:17 0次阅读
人工智能背后的人工力量是什么

人工智能和大数据有怎样的隐患

有了足够的数据,将会发现计算能力和统计算法的模式。但并不是所有的模式都有意义,因为虚假模式的数量很容....
发表于 2019-12-03 17:11 3次阅读
人工智能和大数据有怎样的隐患

人工智能怎样加快社会治理的现代化

人工智能是科学技术进步的产物,也是人类社会生产力提高的具体表现。人工智能是人类创造的机器智能,是人类....
发表于 2019-12-03 17:06 3次阅读
人工智能怎样加快社会治理的现代化

人工智能通过什么方式加强人类能力

至少在可预见的未来,企业使用人工智能来提高和增强现有能力的价值将远远超过人类开展工作的价值。
发表于 2019-12-03 17:03 3次阅读
人工智能通过什么方式加强人类能力

AI 人工智能落地离不开什么问题

在人工智能等新技术催化下,信息泄密正在围绕“数据”展开,这些数据涉及各类事、物、人、企业、政府部门等....
发表于 2019-12-03 16:59 21次阅读
AI 人工智能落地离不开什么问题

人工智能数据存储需要注意哪一些问题

人工智能和机器学习将成为帮助企业利用其核心数字资产创造竞争优势的两个最重要的工具。
发表于 2019-12-03 16:55 5次阅读
人工智能数据存储需要注意哪一些问题

人工智能怎样做可以更加的智能

近年来保险公司积极运用大数据、云计算、物联网、人工智能和区块链等技术在理赔服务端开展尝试,图像识别技....
发表于 2019-12-03 16:50 3次阅读
人工智能怎样做可以更加的智能

AI落地的关键钥匙是哪一把

发展数字经济可产生的潜在价值巨大,但在实现数据价值的深度挖掘与应用之前, 需要解决开源与使能的问题,....
发表于 2019-12-03 16:43 6次阅读
AI落地的关键钥匙是哪一把

商业人工智能的采用你认为可信吗

对许多组织而言,由于缺乏透明度,人工智能仍然是谜团重重,人们不敢将其投入生产中。
发表于 2019-12-03 16:39 12次阅读
商业人工智能的采用你认为可信吗

使用人工智能和机器学习需要提前知道什么

在业务用例中有效使用人工智能和机器学习技术可以帮助企业领先于其他竞争对手,因为这些技术将会消除困扰其....
发表于 2019-12-03 16:34 6次阅读
使用人工智能和机器学习需要提前知道什么

亚马逊AWS推出AI音乐键盘,帮助程序员简单入门

如何让程序员爱上音乐?亚马逊给出的最新答案是 AI 音乐键盘。
发表于 2019-12-03 16:33 27次阅读
亚马逊AWS推出AI音乐键盘,帮助程序员简单入门

人工智能进入企业后有了怎样改变

人工智能并不是洒落在遗留流程和遗留技术上的神奇精灵,而是对如何做生意的一种根本性的反思。
发表于 2019-12-03 16:30 5次阅读
人工智能进入企业后有了怎样改变

机器学习翻译存在什么局限性

机器学习为企业提供了翻译文档的新机会,他们可以使用机器学习来翻译营销材料和其他文献。
发表于 2019-12-03 16:26 10次阅读
机器学习翻译存在什么局限性

人工智能领域的增速放缓 主要体现在AI应用程序的...

人工智能领域的增速放缓,主要体现在AI应用程序的部署增长方面。原计划23%的数据将在2019年被应用....
发表于 2019-12-03 16:25 18次阅读
人工智能领域的增速放缓 主要体现在AI应用程序的...

华为云底气十足 属于中国AI的黄金时代正在到来

为期两天的 AICon 全球人工智能与机器学习技术大会已落下帷幕,作为一场面向各行业 AI 中高层技....
发表于 2019-12-03 15:46 43次阅读
华为云底气十足 属于中国AI的黄金时代正在到来

数据在无线网络中怎样做才能保持新鲜

在理想的网络中,这些传感器应该能够不断传输更新,为每个可测量的功能提供最新,最新的状态,从轮胎压力到....
发表于 2019-12-03 15:35 9次阅读
数据在无线网络中怎样做才能保持新鲜

在客服行业使用人工智能的好处有哪一些

客户服务机器人是一种可实时提供客户问题交互式答案的技术。组织为机器人提供预先写好的指令,以回答客户通....
发表于 2019-12-03 15:22 27次阅读
在客服行业使用人工智能的好处有哪一些

随着5G以及AIoT的大量应用兴起 宜鼎国际也推...

2019年12月3日消息,闪存市场的工业领域,明年将随着5G以及AIoT的大量应用兴起,陆续推出高规....
发表于 2019-12-03 14:45 29次阅读
随着5G以及AIoT的大量应用兴起 宜鼎国际也推...

人工智能的这三年发生了什么?

据Gartner发布的2017年《技术成熟度报告》显示,其中出现了8项新增技术成果,其中包括5G、人....
发表于 2019-12-03 14:32 125次阅读
人工智能的这三年发生了什么?

人工智能是如何被称为第四次工业革命的催化剂的

人工智能,机器学习,物联网,区块链—随着这些技术的问世,当今人类正在经历一场继互联网之后的重大科技变....
发表于 2019-12-03 14:28 23次阅读
人工智能是如何被称为第四次工业革命的催化剂的

天猫精灵反映了中国AIoT产业带什么情况

着语音交互这条产品路径,天猫精灵正在为中国智能产业化撰写出的独家样本。
发表于 2019-12-03 13:47 30次阅读
天猫精灵反映了中国AIoT产业带什么情况

AI三年的情况是怎样的

围棋所包含的巨大的搜索空间(其状态数远远超过整个宇宙中的原子数)一直是机器学习未能攻克的难题,甚至一....
发表于 2019-12-03 13:38 57次阅读
AI三年的情况是怎样的

中国人工智能芯片行业的规模怎样

随着大数据的发展,计算能力的提升,人工智能近两年迎来了新一轮的爆发。
发表于 2019-12-03 11:50 72次阅读
中国人工智能芯片行业的规模怎样

中国的AI芯片行业能否赶上形式

半导体硅芯片已经成为技术革命的支柱,为移动电话、电脑、无人驾驶汽车和“智能”设备提供动力。
发表于 2019-12-03 11:38 41次阅读
中国的AI芯片行业能否赶上形式

人工智能真正的风险在哪里

面对人工智能的风险,当下存在严重两极化:比如美国加州就决定禁用人脸识别技术,但也有更多企业对风险持视....
发表于 2019-12-03 11:34 22次阅读
人工智能真正的风险在哪里

随着安全需求与经济条件的日益提高 视频监控领域五...

随着人们安全需求与经济条件的日益提高,我国监控摄像头个数逐年增加,在计算机视觉、大数据、云存储等技术....
发表于 2019-12-03 11:32 24次阅读
随着安全需求与经济条件的日益提高 视频监控领域五...

怎样为物联网寻找最佳的投资方式

许多物联网项目的演示方式,大大降低了投资者和客户的吸引力。这将导致项目永远无法启动,即使启动了,也很....
发表于 2019-12-03 11:27 19次阅读
怎样为物联网寻找最佳的投资方式

长沙大规模推进产业智能化 推动新一代人工智能与制...

“未来可能会有许多人工智能中心在世界各个城市崛起,长沙的起步不算早,但是发展却很快,我认为长沙很有机....
发表于 2019-12-03 11:16 41次阅读
长沙大规模推进产业智能化 推动新一代人工智能与制...

山东首个人工智能产业落户 打造新旧动能转换样板

近日,经山东省发展改革委同意,海尔智家股份有限公司将在青岛牵头组建山东省家庭人工智能产业创新中心,联....
发表于 2019-12-03 11:10 34次阅读
山东首个人工智能产业落户 打造新旧动能转换样板

人工智能正在学习量子力学以此来设计新分子

一种新的机器学习算法可以探测分子的量子行为,从而使化学家具有更好的从头开始设计新化合物的能力。
发表于 2019-12-03 10:30 204次阅读
人工智能正在学习量子力学以此来设计新分子

IDC和Forrester对2020年的顶级人工...

IDC和Forrester最近发布了他们对2020年及以后的人工智能(AI)的预测。Forreste....
发表于 2019-12-03 10:28 45次阅读
IDC和Forrester对2020年的顶级人工...

在数据方面人工智能赢得胜利需要一种新颖的存储策略

在数据方面,人工智能就像吃豆人。硬盘驱动器,NAS,常规数据中心和基于云的存储方案无法满足AI对速度....
发表于 2019-12-03 10:22 33次阅读
在数据方面人工智能赢得胜利需要一种新颖的存储策略

人工智能真正落地“刚需场景” 摒弃伪需求非常重要

未来人工智能无处不在,当下各行各业也都贴上了人工智能的标签,而人工智能貌似“无所不能”地渗入百业百态....
发表于 2019-12-03 10:12 26次阅读
人工智能真正落地“刚需场景” 摒弃伪需求非常重要

人工智能技术可以从三个层面对网络进行重构

人工智能加速发展人工智能是研究机器以人类思维方式学习、推理、决策的当前最前沿研究方向之一,是计算机科....
发表于 2019-12-03 10:12 67次阅读
人工智能技术可以从三个层面对网络进行重构

玖富数科集团推出小易机器人,采用最新“端+云”技...

神经网络和深度学习技术的快速发展加速了图像识别、语音识别、自然语言理解等技术的实用化突破,显著提升了....
发表于 2019-12-03 10:05 126次阅读
玖富数科集团推出小易机器人,采用最新“端+云”技...

基于AI的衰老和寿命医疗预测器正在快速兴起

虽然年代和生物年龄的预测因子是在几年前出现的,但最近使用深度学习方法开发的预测因子在研究衰老机理的研....
发表于 2019-12-03 09:54 41次阅读
基于AI的衰老和寿命医疗预测器正在快速兴起

区块链技术对粉丝经济有什么影响

随着粉丝素养不断提升,技术支撑日渐完善,“粉丝经济”正在步入发展快轨,有望保持高速增长的活力。
发表于 2019-12-03 09:53 18次阅读
区块链技术对粉丝经济有什么影响

人脸识别技术和人工智能发展已是大势所趋

人脸识别技术凭借其广阔应用前景被产业各方一致看好,在该领域更是涌现出了一大批明星企业,推动着人脸识别....
发表于 2019-12-03 09:52 122次阅读
人脸识别技术和人工智能发展已是大势所趋

雪亮工程建设智能化 首先需要解决人工智能在雪亮工...

人工智能是计算机科学的分支,它是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的....
发表于 2019-12-03 09:40 30次阅读
雪亮工程建设智能化 首先需要解决人工智能在雪亮工...

人工智能的渗透相对较浅 推出零基础算法开发非常重...

人工智能作为当代很具代表性的使能技术,理应受到各行各业的欢迎,但现阶段,纵观人工智能应用成熟和广泛的....
发表于 2019-12-03 09:23 164次阅读
人工智能的渗透相对较浅 推出零基础算法开发非常重...

【转载】如何从零入门人工智能(AI)具体学习步骤和方法

上次我们讲到人工智能的一些应用,对于计算机专业的小白,我们如果对人工智能感兴趣,我们该如何入手呢?本文主要参考...
发表于 2019-11-28 16:20 102次阅读
【转载】如何从零入门人工智能(AI)具体学习步骤和方法

史上最全AI人工智能入门+进阶学习视频全集(200G)【免费领取】

近几年来,人工智能(AI)概念很火热,几乎人人都在学习人工智能,AI市场人才的抢夺也非常的激烈。根据百科的解释...
发表于 2019-11-27 12:10 235次阅读
史上最全AI人工智能入门+进阶学习视频全集(200G)【免费领取】

高焕堂:VR/AR欺骗大脑,AI赋能大脑,两者结合创意无限

高焕堂,台湾VR/AR产业联盟主席、台湾铭传大学《AI潮流下的创新设计思维》课程讲师、台湾科技大学VR技术培训...
发表于 2019-11-26 13:52 5481次阅读
高焕堂:VR/AR欺骗大脑,AI赋能大脑,两者结合创意无限

传感器和人工智能的关系

  谁来阐述一下传感器和人工智能的关系? ...
发表于 2019-11-25 15:51 177次阅读
传感器和人工智能的关系

5G与人工智能的关系

  谁来阐述一下5G与人工智能的关系?
发表于 2019-11-22 17:08 229次阅读
5G与人工智能的关系

大彩智能屏在美容行业的应用.pdf

大彩智能屏在美容行业的应用:随着用户对显示效果的要求越来越高,传统的数码管已经不能满足客户的要求,智能彩屏显示...
发表于 2019-11-22 16:07 143次阅读
大彩智能屏在美容行业的应用.pdf

NLPIR平台在文本分类方面的技术解析

文本分类问题就是将一篇文档归入预先定义的几个类别中的一个或几个,而文本的自动分类则是使用计算机程序来实现这种文...
发表于 2019-11-18 17:46 205次阅读
NLPIR平台在文本分类方面的技术解析

手册第六节部分算法例程在CCS上无法编译生成.out文件

不知是否有学习过手册中第六节部分算法例程,为什么那些算法例程在CCS上无法编译生成.out文件呢? 为此,我也进行...
发表于 2019-11-08 07:33 101次阅读
手册第六节部分算法例程在CCS上无法编译生成.out文件

【免费直播】AI芯片专家陈小柏博士,带你解析AI算法及其芯片操作系统。

直播内容:人工智能是新一轮科技革命和产业转型的核心驱动力,在海量数据、深度学习和超强算力的支持下,人工智能迎来...
发表于 2019-11-07 14:03 208次阅读
【免费直播】AI芯片专家陈小柏博士,带你解析AI算法及其芯片操作系统。

实现AdaBoost算法的代码

AdaBoost  算法实现
发表于 2019-11-07 09:19 69次阅读
实现AdaBoost算法的代码