电子发烧友网 > 人工智能 > 正文

你对于人工智能存在恐惧吗

2020年04月06日 21:59 次阅读

实施人工智能技术的IT领导人可能会感到一些恐惧,这有着充分的理由。

你对于人工智能存在恐惧吗

人工智能在拥有数十年发展和应用历史的同时却有着奇怪的定位,但对于许多人来说,人工智能仍然是一种未来主义的感觉。实际上人工智能并不是新事物,但它始终是一个永恒的“新”领域。没有人可以确切地知道其发展到底会何去何从。

对于不了解的事物,一些人会感到害怕。而人工智能的未来发展也让很多人彻夜难眠,这是有道理的,尤其是考虑到可能出现的不利后果时。人们可以合理地假设任何重大技术发展都是如此:它们将会产生变化,从而令人感到恐惧。但是,与人工智能相关的恐惧却有不同的优先级。例如,大多数人不知道什么是微服务架构,即使他们每天使用的一些应用程序是以分离的方式构建的。但是像微服务这样的技术进化并不会像人工智能那样对潜在的社会和经济影响产生这样的情感反应。微服务也不会在流行文化中一直存在。

这主要说明了人们对人工智能发展前途并不明朗的担忧,当人们的想象力失控时,就会很难评估它们的有效性。这对于如今试图构建实用人工智能战略的IT领导人和其他高管来说并不是特别有用。然而,很多人会对人工智能感到恐惧,并且有着充分的理由。对于人工智能的入门者来说,他们更容易失败,因为他们通常基于当前的现实,而不是未来的推测。

加州大学欧文分校神经科学研究助理、ContinualAi公司联合负责人Keiland Cooper表示,“人们对人工智能的恐惧类型取决于人们所谈论的人工智能类型。与当今普遍使用的更现实的人工智能算法相比,理论性更强、更遥远的‘通用人工智能’(一种能够完成人类所能做的所有事情的计算机)将引发更多的恐惧。”

以下了解一下当今有关人工智能的五个问题,以及专家为解决这些问题而提供的建议,这样就不会破坏企业实施人工智能的计划。

1. 恐惧:人工智能会产生有偏见的结果

人们越来越关注人工智能系统中的偏见和其他问题及其导致的决策或结果的可能性。与好莱坞电影的一些更富想象力的人工智能故事不同,人们应该对于人工智能的偏见感到恐惧。

SkyMind公司联合创始人兼首席执行官Chris Nicholson说,“人工智能的算法只和训练数据一样好。因此,如果一个数据集包含了组织的历史偏见,那么它所做的预测将反映这一历史行为,例如,如果一家公司通常会将拥有常春藤名校学位的白人男性提升到权威职位,那么经过培训的人工智能算法可以识别出未来的领导才能,并将其重点放在同一类型的应聘者身上,并且忽略不属于该类别的应聘者。”

解决方法:

人们应该接受这种恐惧并采取行动。无需担心人工智能偏见会增加其不受控制地扩散的可能性。

人工智能算法不应免除个人和组织对结果的责任。人工监督和管理是绝对必要的,并且有很好的例子说明了另一种恐惧(不再需要人类)可能有点言过其实。

Nicholson说,“人们不能相信人工智能能够知道一切或做出完美的决定。人工智能算法是由人类创造的,但人类也会犯错。所以每个公司都要做的是建立一个系统来检查人工智能,或者定期抽取人工智能的决策样本并展示给专家,并询问他们:这看起来正确吗?而其结果至少不会比专家差,这是企业最初所希望的结果。”

这在医疗、保险、银行、政府等行业可能尤为重要。但事实上,在任何地方这都是一个重要的问题。

Tara-Ai公司联合创始人兼首席执行官Iba Masood表示,“人工智能从业者和机器学习工程师必须确保他们在一定程度上遵守算法责任制,IT主管应该有专门的数据团队为他们现有的数据集构建消除偏见的程序。这将有助于在利用系统进行决策过程中,特别是在涉及最终消费者的情况下,需要实现一定程度的公平和公正。”

这是一个道德和公平的问题。Masood认为,人工智能伦理也可能成为一种竞争性的区分标准。

Masood说,“我相信,未来五年将会有更多的具有公平意识的消费者,他们希望与那些在人工智能辅助下的决策过程中部署公平机制的公司进行交易。通过努力减轻用于基于决策的系统的数据集的偏差,IT团队可以在这种消费者行为转变中产生重大影响。”

2.恐惧:人们不知道人工智能为什么会这么做

这是对未知事物的另一种自然恐惧:许多人工智能的结果很难解释。

Nicholson说,“人工智能先进的形式能够对数据做出最准确的预测,但也最难解释为什么做出这种预测。”

这有时被称为人工智能的“黑盒”,指的是缺乏对人工智能系统决策的可视性,这对许多组织来说可能是一个重要的问题。

Nicholson说,“在许多情况下,人们都需要知道为什么要做某事。在受到严格监管的行业组织中尤其如此。例如医疗保健行业不希望人工智能算法在不知道为什么做出决定的情况下就患者的诊断或治疗做出决定。”

Cooper提供了另一个场景,指出黑盒模型在出现问题时变得特别重要。

Cooper说,“假设训练一种算法来挑选优秀股票,并且做得很好,可能赚取9%的利润。如果在金融投资中获得了足够或更好的回报(如果Cooper的假设合理的情况下),那么可能就不太在乎其原因。毕竟已经获得。但是如果损失了9%的成本应该怎么办?如果失去了一切那么该怎么办?人们可能会更关心的是为什么。”

他说,“问题在于,在许多情况下,人们不知道为什么要选择它所选择的东西。这很可怕,因为它不仅使人们减少了与正在使用的人工智能系统的联系,而且如果它做错了什么,也不会带来太多的洞察力。”

解决方法:

解决这种恐惧的方法之一是确保即使在人工智能技术得以改进的情况下,人类的智能和决策仍然是任何过程中至关重要的部分,在某些情况下还是最终的部分。换句话说,即使人工智能在这些流程和决策中的作用不断扩展,也可以通过确保人们保留对流程和决策的适当控制来缓解这种恐惧。

Nicholson说:“在医疗保健案例中,最好采用人工智能作为人类专家的决策支持形式。也就是说,不能让人工智能独自运作并且不受监督。可以将人工智能集成到现有的决策过程中,在此过程中可以向人类专家提出建议,并且专家将是做出最终决策的人,他们将能够解释做出该决定的原因。”

3.恐惧:人工智能将会做出错误的决定

人工智能将会做出错误的决定,这是一个非常明确的问题。如何评估人工智能结果的准确性和有效性?如果它做出错误的选择会怎么样?(可以看到这些恐惧的某些组合是如何产生复合效应的:如果人工智能做出错误的决定而无法解释原因,将会发生什么情况?)假设所有人工智能产生的结果都是“良好”的结果,那么即使是对于人工智能应用最乐观的人士也会感到不舒服。

偏见会导致错误的决定。不过,这实际上是一种更为广泛的恐惧,这种恐惧除了其他负面影响之外,还可能导致团队不信任任何的人工智能得出的结果。当人工智能团队之外的人(或者IT部门)分析结果时,这种可能性就更大。它还可能导致组织的业务发展停滞。

Very公司工程主管Jeff McGehee说,“许多人担心人工智能会做出错误的决定。从技术角度来看,这种恐惧通常是非常广泛的,但它总是归结为人们认为“这个决定是不正确的。对于从业者来说,这一点很难确定,尤其是在无法给出‘良好’决策的量化定义的情况下。”

解决方法:

人为因素的重要性再次占据主导地位。如果人们无法量化什么是积极的结果,那么需要提出一个定性的框架,同时确保依靠正确的人员和信息组合来解决诸如偏见之类的实际问题。

McGehee说:“为了确定这样一个定义,利益相关者必须认真考虑所有可能的关于好/坏决策的定义。正确性可能是理想的,但是某些类型的错误通常更容易接受,或者更像是人为的。此外,‘正确性’可能指的是人们是否满足某些标准的预测列表,但如果此列表包含固有的人为因素偏见,这可能是一个不好的目标。当非技术利益相关者评估人工智能决策的质量时,所有这些因素都可以发挥作用。”

4.恐惧:人工智能将导致匿名性的丧失

McGehee指出了一个鲜为人知的问题,它可能成为人工智能安全中一个更引人注目的领域:当匿名性假定为给定时,将会丧失匿名性或隐私性。

McGehee说,“在以前,人工智能从业者普遍认为,一旦机器学习模型得到训练,其权重(使其能够进行预测的参数)就不包含任何可追踪的训练数据。”然而,最近出现了一些技术,这些技术将使恶意行为者能够检查经过训练的机器学习模型,并对用于训练的各个数据点进行有意义的推断。这与个人数据点是否是希望保持匿名的人有关。”

解决方法:

同样,通过认识到恐惧背后的合法问题,人们可以采取措施来解决它。在必要时保护数据的隐私或匿名性是一个组织可以采取主动措施作为其总体安全策略一部分的领域。这也是机器学习中正在进行的一个研究和开发领域。

McGehee说,“虽然这是一种有效的恐惧,但对模型权重进行适当的保护和加密可以减少它们落入坏人手中的可能性,而创造不易受这种威胁影响的新的机器学习技术将是一个活跃的研究领域。”

5.恐惧:人工智能会让人们失业

人们可能面临这个很大的恐惧,它弥合了当前现实和更多推测场景。大多数专家都认为,人工智能将会取代更多的工作岗位。在某些情况下,这将意味着失业。

在可预见的未来,越来越多的人工智能(以及更广泛的自动化)的应用比电脑时代更为广泛,当时电脑的兴起也引发了人们类似的担忧。研究发现,电脑在影响工作岗位的同时创造了更多的工作岗位。

解决方法:

Nicholson说,“从历史上看,新技术不仅使工作实现自动化,而且可能带来新的工作岗位。考虑一下采用电脑完成的所有工作。新技术通常需要人们对其进行掌握、支持和维护,而人工智能也不例外。”

积极应对这种恐惧将是人工智能在商业领域成功的关键,否则人们将无法参与其中。人们将会注意到,以上这些不仅要求人类参与其中,还要积极管理组织中的人工智能。

Nicholson说,“需要理解的关键是,未来的工作将是人类与机器之间的协作。但是机器仍然需要人类来操作和维护。人工智能就是如此。”

责任编辑:ct

下载发烧友APP

打造属于您的人脉电子圈

关注电子发烧友微信

有趣有料的资讯及技术干货

关注发烧友课堂

锁定最新课程活动及技术直播

电子发烧友观察

一线报道 · 深度观察 · 最新资讯
收藏 人收藏
分享:

评论

相关推荐

【5月12】不懂编程没关系,邀请您来学AI

不懂编程没关系,邀请您来学AI活动概述:本活动是现场讲座,由台湾知名AI教育专家、金门创新学院院长、台湾Android技
发烧友学院发表于 2019-05-24 00:00 2393次阅读
【5月12】不懂编程没关系,邀请您来学AI

非结构化数据在AI上有什么用

人工智能(AI)系统的交互过程更像人类,这让一些人感到不舒服,但人工智能并不是要取代人类。
发表于 2020-04-06 22:49 0次阅读
非结构化数据在AI上有什么用

AI如何落地保护数据安全

在人工智能落地安防和泛视频应用的业务当中,不同的企业是基于各种类型的目的,其中绝大多数企业是要抓住人....
发表于 2020-04-06 22:46 9次阅读
AI如何落地保护数据安全

AI对于老师的教学有没有影响

随着近几年的科技方面在人工智能的的飞速发展,人工智能不仅给我们的日常生活带来了一些新鲜的亮点。
发表于 2020-04-06 22:43 0次阅读
AI对于老师的教学有没有影响

人工智能如何用于诊断疾病

人工智能在医疗领域的应用不仅限于诊断疾病,还包括可能的治疗方法。
发表于 2020-04-06 22:41 0次阅读
人工智能如何用于诊断疾病

人工智能在情绪方面的功能怎样

这是一个值得探索的未来。个人探索的这段旅程实际上可能从自我之外开始,并一直延伸到情感人工智能领域的最....
发表于 2020-04-06 22:38 2次阅读
人工智能在情绪方面的功能怎样

AI时代,你的岗位还在吗

AI技术早已经在我们身边越来越多的普及了,虽然我们还未完全觉察,但这项技术已经在悄然的改变我们的生活....
发表于 2020-04-06 22:36 0次阅读
AI时代,你的岗位还在吗

人工智能可实现的视角是怎样的

人工智能一直是计算技术发展的梦想,它总是遥不可及。
发表于 2020-04-06 22:26 4次阅读
人工智能可实现的视角是怎样的

你对于AI存在恐惧吗

人工智能一直是计算技术发展的梦想,它总是遥不可及。
发表于 2020-04-06 22:07 4次阅读
你对于AI存在恐惧吗

机器学习与预测分析存在什么差异

AI是刺激商业发展的一颗新星,取代了以往的资本和劳动力的投入。
发表于 2020-04-06 21:56 14次阅读
机器学习与预测分析存在什么差异

人工智能给智慧景区带来什么

智慧社区通过科技、标准化、智能化,整合业主和物业的需求,以提高服务、节约成本。
发表于 2020-04-06 21:49 10次阅读
人工智能给智慧景区带来什么

人工智能对于医疗保健行业有什么影响

在人工智能应用的许多例子中,医疗保健领域的人工智能显然是行业领先者之一。
发表于 2020-04-06 21:44 6次阅读
人工智能对于医疗保健行业有什么影响

AI艺术的未来该往哪里走

利用人工智能创作而成的画作近年来越来越受瞩目,有的作品甚至能在知名拍卖行拍得高价。
发表于 2020-04-06 21:40 23次阅读
AI艺术的未来该往哪里走

大数据和人工智能怎样一起工作

大数据技术并不像几年前那样广受关注,但这并不意味着大数据技术没有得到发展。
发表于 2020-04-06 21:35 7次阅读
大数据和人工智能怎样一起工作

人工智能对于采矿业有什么影响

在把数据与挖掘两个字眼结合在一起时,大家首先想到的可能是IT与技术共同从企业数据当中提取价值的场景。
发表于 2020-04-06 21:31 45次阅读
人工智能对于采矿业有什么影响

痴呆症患者如何使用上人工智能技术

来自这些设备的所有数据都可以输入到复杂的人工智能中,该人工智能将自动学习人们在家中所做的典型事物。
发表于 2020-04-06 21:27 45次阅读
痴呆症患者如何使用上人工智能技术

新的人工智能编程语言有什么成绩

今天还有很多其他的人工智能技术,比如统计和概率模型,以及仿真引擎。其他一些概率编程系统具有足够的灵活....
发表于 2020-04-06 21:23 10次阅读
新的人工智能编程语言有什么成绩

AI对于日常职业有什么影响

人工智能驱动的私人助理越来越成为专业人士生活中的人工智能面孔。
发表于 2020-04-06 21:17 8次阅读
AI对于日常职业有什么影响

人工智能和自动化改善过程有什么方法

创建企业的数字孪生、识别机器人流程自动化(RPA)等自动化技术并将孤立的任务连接到流程中,是首席信息....
发表于 2020-04-06 21:14 62次阅读
人工智能和自动化改善过程有什么方法

AI频谱对于5G意味着什么

首先是技术上的挑战。频谱共享意味着要让两种无线通讯网络共享统一频段,但信道之间很容易产生相互干扰的兼....
发表于 2020-04-06 21:10 8次阅读
AI频谱对于5G意味着什么

人工智能对于汽车有什么影响

人工智能对汽车行业的影响可分为三个主要方面:车载体验、自动驾驶、智能交通。
发表于 2020-04-06 21:04 146次阅读
人工智能对于汽车有什么影响

人工智能如何变得更加的务实

人工智能并不是洒落在遗留流程和遗留技术上的神奇精灵,而是对如何做生意的一种根本性的反思。
发表于 2020-04-06 20:51 10次阅读
人工智能如何变得更加的务实

机器人行业是如何崛起的

聊天机器人是在许多组织中被广泛使用的、最常见的人工智能应用。
发表于 2020-04-05 22:30 33次阅读
机器人行业是如何崛起的

人工智能面试真的很好吗

在AI的帮助下,人类HR的工作量大大降低,若系统足够成熟,在招聘初期这一阶段,他们的工作就只剩下三件....
发表于 2020-04-05 22:26 60次阅读
人工智能面试真的很好吗

人工智能技术和iot如何改变汽油零售业

网络一直都是企业的神经系统,业务流程和交易靠网络才可以有效地运作。我们在进入数字化转型的新时代,因此....
发表于 2020-04-05 22:18 171次阅读
人工智能技术和iot如何改变汽油零售业

机器学习翻译存在什么局限

机器学习为企业提供了翻译文档的新机会,他们可以使用机器学习来翻译营销材料和其他文献。
发表于 2020-04-05 22:16 195次阅读
机器学习翻译存在什么局限

人工智能技术怎样贴近生活

而在 AI 落地层面,百度借助了中国智能产业化的大趋势,通过云计算将 AI 应用在金融、客服、城市、....
发表于 2020-04-05 22:15 345次阅读
人工智能技术怎样贴近生活

数据转换率较低对于机器学习有什么影响

营销人员可以采用多种策略来使用机器学习算法来优化广告并进行推广。但是,其中一些策略的局限性要比营销人....
发表于 2020-04-05 22:13 155次阅读
数据转换率较低对于机器学习有什么影响

人工智能用例怎样才是正确的

成功的人工智能转型是无所不包的变革。这不仅与技术变革有关,还与文化变革和企业面对来自员工的阻力有关。
发表于 2020-04-05 22:11 21次阅读
人工智能用例怎样才是正确的

AI技术如何影响到企业的通信

工作场所中软件机器人和人工智能(AI)的思想可能会使某些人类工作者感到紧张。
发表于 2020-04-05 22:07 26次阅读
AI技术如何影响到企业的通信

如何将AI技术加入到客户服务当中去

人工智能客户服务机器人无法为每个客户服务问题提供即时解决方案,但是客户服务交互的种类繁多,不需要人工....
发表于 2020-04-05 22:03 28次阅读
如何将AI技术加入到客户服务当中去

人工智能怎样进军心理学领域

人工智能和大数据时代的到来为心理学的研究打开了全新的大门。
发表于 2020-04-05 22:00 140次阅读
人工智能怎样进军心理学领域

人工智能对于销售行业有什么影响

人工智能和机器学习现在很容易采用,并且人们也知道可以使现在执行的许多重复性任务和过程实现自动化。
发表于 2020-04-05 21:57 41次阅读
人工智能对于销售行业有什么影响

统计学对于机器学习有什么作用

统计学和机器学习是两个密切相关的领域。实际上,两者之间的界限有时可能非常模糊。
发表于 2020-04-05 21:51 18次阅读
统计学对于机器学习有什么作用

人工智能对数据中心有什么影响

人工智能在汽车、制造、医疗和国防行业的应用将最为广泛;数据中心和云计算基础设施将成为人工智能训练的主....
发表于 2020-04-05 21:47 232次阅读
人工智能对数据中心有什么影响

web前端可以在AI时代做一些什么

人工智能是计算机科学的一个分支,它企图了解智能的实质,并生产出一种新的能以人类智能相似的方式做出反应....
发表于 2020-04-05 21:45 44次阅读
web前端可以在AI时代做一些什么

人工智能如何让景区拥有智慧

随着5G、人工智能、物联网等技术逐渐成熟,智慧景区成了又一落地应用场景,各地旅游区开始加快智慧景区建....
发表于 2020-04-05 21:42 100次阅读
人工智能如何让景区拥有智慧

哪一些行业需要人工智能带来颠覆

以消费者为中心的人工智能和自动化应用正在帮助消除一些公众的误解,即这些技术只会对企业有益,而对就业和....
发表于 2020-04-05 21:12 154次阅读
哪一些行业需要人工智能带来颠覆

机器设计会受到AI技术的影响吗

人工智能如今应用越来越广泛。在大多数情况下,健壮和自适应的人工智能可以为人类的专业知识提供补充,而不....
发表于 2020-04-05 21:09 23次阅读
机器设计会受到AI技术的影响吗

人工智能真的可以和人类一样学习吗

随着企业将人工智能集成到自己的系统中,科技人员将目光投向了人工智能创新的新领域。
发表于 2020-04-05 21:04 193次阅读
人工智能真的可以和人类一样学习吗

为什么要采用人工智能技术

人工智能能够为企业提供更好、更清晰的视野,从而根据客户需求塑造服务和产品。
发表于 2020-04-05 20:58 167次阅读
为什么要采用人工智能技术

不止是5G技术,AI和Wi-Fi6也将推动家庭网...

机器学习、AI和Wi-Fi 6的结合,将为服务提供商带来前所未有的能力,从而推动家庭Wi-Fi网络市....
发表于 2020-04-05 19:34 327次阅读
不止是5G技术,AI和Wi-Fi6也将推动家庭网...

科技改变生活,OE物联网创造新奇迹

10年前,智能手机、数码产品、互联网、数字经济衍生产业还没有形成现在规模,2G还在向3G迭代,但人们....
发表于 2020-04-05 19:06 419次阅读
科技改变生活,OE物联网创造新奇迹

【战疫专题】第五期:智慧物流,疫情之中显担当

2020年,新型冠状病毒席卷了整个中国,同时也在促进着产业的变革与生活变化。 电子发烧友在此期间推出【战疫专题】活...
发表于 2020-03-18 11:00 2115次阅读
【战疫专题】第五期:智慧物流,疫情之中显担当

人工智能、数据挖掘、机器学习和深度学习的关系

人工智能、数据挖掘、机器学习和深度学习之间,主要有什么关系?...
发表于 2020-03-16 11:35 101次阅读
人工智能、数据挖掘、机器学习和深度学习的关系

人工智能侦查有哪些应用

【人工智能侦查的应用领域】
发表于 2020-03-16 11:28 84次阅读
人工智能侦查有哪些应用

人工智能+边缘计算!米尔NXP工业级物联网板卡8M mini资料分享

响应行业应用和满足客户需求,米尔推出了基于NXP公司i.MX 8M Mini系列芯片的MYC-C8MMX系列核心板及开发...
发表于 2020-03-06 11:44 649次阅读
人工智能+边缘计算!米尔NXP工业级物联网板卡8M mini资料分享

红外传感+人工智能,智能机器人红外发送接收电路解析

该移动音乐机器人以英飞凌16 位单片机XE162FN 处理器为核心,英飞凌开发的16/32 位微控制器具有高度系统集成、无需...
发表于 2020-02-28 07:00 566次阅读
红外传感+人工智能,智能机器人红外发送接收电路解析

【战疫专题】第二期:硬核战“疫”,机器人大有可为

2020年,新型冠状病毒席卷了整个中国,同时也在促进着产业的变革与生活变化。 电子发烧友在此期间推出【战疫专题】活...
发表于 2020-02-25 14:24 5596次阅读
【战疫专题】第二期:硬核战“疫”,机器人大有可为

【瑞芯微RK1808计算棒试用体验】机械臂视觉快速识别

折腾了一个新年,总算勉强有点效果了,这个任务真是大坑啊,关键的识别部分没多大难度,但上位机、下位机、机械结构接...
发表于 2020-02-08 18:13 603次阅读
【瑞芯微RK1808计算棒试用体验】机械臂视觉快速识别

2020艾睿电子解决方案展示会

活动简介 艾睿电子解决方案展示会是艾睿电子自主主办的展会,也是每年一度的 ACT (Arrow Centralized Training...
发表于 2020-01-15 09:40 39032次阅读
2020艾睿电子解决方案展示会

内置NPU的Orange Pi 4B,你怎么看

提起单板电脑,树莓派基金会发布的树莓派系列开发板或许是最广为人知的,该公司坚持使用博通的SOC芯片,以实现不断...
发表于 2019-12-23 21:07 1064次阅读
内置NPU的Orange Pi 4B,你怎么看

串口屏应用案例-自助点餐系统

串口屏应用案例-自助点餐系统 自助点餐系统应景而生,彻底打破了传统,能够有效的减少排队使用的时间。在自助点餐机器...
发表于 2019-12-23 13:15 715次阅读
串口屏应用案例-自助点餐系统