张飞软硬开源基于STM32 BLDC直流无刷电机驱动器开发视频套件,👉戳此立抢👈

解码人脸识别技术 隐私权侵犯引担忧

高工智能未来 2018-08-20 14:54 次阅读

随着数据的积累、计算机算力的跃升和算法的优化,人工智能正在让生活变得高效。语音识别、图像识别使身份认证更可信赖,短短几秒就能证明“你就是你”;智能诊疗和自动驾驶,更让人们看到了战胜疾病、减少事故的新机会;人工智能还可以轻松战胜围棋高手,写出优美的诗句……其自主性和创造性正在模糊人和机器的分野。

但是,当隐私侵犯、数据泄露、算法偏见等事件层出不穷时,人们又不得不反思:人工智能的持续进步和广泛应用带来的好处是巨大的,为了让它真正有益于社会,同样不能忽视的还有对人工智能的价值引导、伦理调节以及风险规制。

“刷脸”应用更广泛,对隐私权的威胁值得重视

“刷脸”进站、“刷脸”支付、“刷脸”签到、“刷脸”执法……人脸识别技术正走进更为广阔的应用场景,与指纹、虹膜等相比,人脸是一个具有弱隐私性的生物特征,因此,这一技术对于公民隐私保护造成的威胁性尤其值得重视。“人脸图像或视频广义上讲也是数据,如果没有妥善保管和合理使用,就会容易侵犯用户的隐私。”中国社会科学院哲学研究所研究员段伟文说。

通过数据采集机器学习来对用户的特征、偏好等“画像”,互联网服务商进而提供一些个性化的服务和推荐等,从正面看是有利于供需双方的一种互动。但对于消费者来说,这种交换是不对等的。就频频发生的个人数据侵权的事件来看,个人数据权利与机构数据权力的对比已经失衡,在对数据的收集和使用方面,消费者是被动的,企业和机构是主动的。段伟文表示,“数据实际上成为被企业垄断的资源,又是驱动经济的要素。”如果商家只从自身利益出发,就难免会对个人数据过度使用或者不恰当披露。

大数据时代,个人在互联网上的任何行为都会变成数据被沉淀下来,而这些数据的汇集都可能最终导致个人隐私的泄露。”湖南师范大学人工智能道德决策研究所所长李伦认为,用户已经成为被观察、分析和监测的对象。

算法应更客观透明,要避免歧视与“杀熟”

在信息爆炸的时代,数据的处理、分析、应用很多都是由算法来实现的,越来越多的决策正被算法所取代。从内容推荐到广告投放,从信用额度评估到犯罪风险评估,算法无处不在——它操作的自动驾驶或许比司机更加安全,它得出的诊断结果可能比医生更准确,越来越多的人开始习惯一个由算法构建的“打分”社会。

作为一种信息技术,算法在拨开信息和数据“迷雾”的同时,也面临着伦理上的挑战:利用人工智能来评估犯罪风险,算法可以影响刑罚;当自动驾驶汽车面临危险,算法可以决定牺牲哪一方;应用于武器系统的算法甚至可以决定攻击的目标……由此引发了一个不容忽视的问题:如何确保算法的公正?

腾讯研究院法律研究中心高级研究员曹建峰认为,即使作为一种数学表达,算法本质上也是“以数学方式或者计算机代码表达的意见”。算法的设计、模型、目的、成功标准、数据使用等,都是编程人员的主观选择,偏见会有意或者无意地嵌入算法,使之代码化。“算法并不客观,在算法决策起作用的诸多领域,算法歧视也并不鲜见。”

“算法决策多数情况下是一种预测,用过去的数据预测未来的趋势,算法模型和数据输入决定着预测的结果,因此这两个要素也就成为算法歧视的主要来源。”曹建峰解释说,除了主观因素以外,数据本身也会影响算法的决策和预测。“数据是社会现实的反映,数据可能是不正确、不完整或者过时的,训练数据本身也可能是歧视性的,用这样的数据训练出来的算法系统,自然也会带上歧视的烙印。”

2016年3月,微软人工智能聊天机器人Tay上线,在与网民互动过程中,很短时间内就“误入歧途”,集性别歧视、种族歧视于一身,最终微软不得不让它“下岗”。曹建峰认为,算法倾向于将歧视固化或放大,使歧视长存于整个算法之中。因此,如果将算法应用在犯罪评估、信用贷款、雇佣评估等关系人们切身利益的场合,一旦产生歧视,就可能危害个人乃至社会的利益。

此外,深度学习还是一个典型的“黑箱”算法,可能连设计者都不知道算法如何决策,因而要在系统中发现是否存在歧视和歧视根源,技术上也较为困难。“算法的‘黑箱’特征使其决策逻辑缺乏透明性和可解释性。”李伦说,随着大数据“杀熟”、算法歧视等事件的出现,社会对算法的质疑也逐渐增多。政府和企业在使用数据的过程中,必须提高对公众的透明度,让选择权回归个人。

加强核查监管,加大对数据滥用等行为的惩戒力度

2017年7月,国务院印发《新一代人工智能发展规划》(以下简称《规划》)。《规划》强调,促进人工智能行业和企业自律,切实加强管理,加大对数据滥用、侵犯个人隐私、违背道德伦理等行为的惩戒力度。

“虽然‘刷脸’的应用越来越多,但人工智能目前仍处于起步阶段,需加大对数据和隐私的保护力度,关注和防范由算法滥用所导致的决策失误和社会不公。”在个人数据权利的保护方面,段伟文建议,应促使数据交易各方对自己的行为负责,让每个人知道自己的数据如何被处理,特别是用于其他用途的情形,减少数据滥用,让人们清楚知道自己的“脸”还是否安全。

段伟文认为,要进一步加强人工智能的伦理设计,对算法的理论预设、内在机制与实践语境等进行全流程追问与核查,从算法决策的结果和影响中的不公正入手,反向核查其机制与过程有无故意或不自觉的曲解与误导,揭示存在的问题,并促使其修正和改进。

在曹建峰看来,应对人工智能带来的伦理问题,一是要构建算法治理的内外部约束机制,将人类社会的法律、道德等规范和价值嵌入人工智能系统;二是在人工智能研发中贯彻伦理原则,促使研发人员遵守基本的伦理准则;三是对算法进行必要的监管,提升算法自身的代码透明性和算法决策的透明性;四是针对算法决策和歧视以及造成的人身财产损害,提供法律救济。

“我们生活在一个人机共生的时代,人类与机器之间势必将发生各种冲突和矛盾,仅靠法律和制度很难完全解决。”李伦表示,人们还应努力提升自身的科学素养,主动维护自身的权利,社会也应尽快建立讨论人工智能伦理问题的公共平台,让各方充分表达意见,促进共识的形成。

原文标题:GGAI 关注 | 人工智能引隐私侵犯担忧 “刷脸”会不会刷走安全

文章出处:【微信号:ggservicerobot,微信公众号:高工智能未来】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
分享:

评论

相关推荐

四轴机器人编程与应用

主题简介:本次直播主要讲解四轴机器人控制器基本原理及组成。四轴机器人的核心技术内嵌人工智能算法的工业级运动控制技术和伺服
发表于 10-30 00:00 11587次 阅读
四轴机器人编程与应用

5G时代能给人工智能带来什么机遇?看华为怎么说

《5G时代,人工智能新机遇》在华为北京研究所于8月19日正式召开,在这场分享会聚集了多位专家、行业名....
的头像 电子魔法师 发表于 08-24 10:48 240次 阅读
5G时代能给人工智能带来什么机遇?看华为怎么说

人工智能+物联网如何带动农业市场的发展

云洋数据打造的AIoT智慧农场管理系统,以作物生长需求和农业生产管理为核心,利用AI算法实现智慧物联....
的头像 电子魔法师 发表于 08-24 10:38 53次 阅读
人工智能+物联网如何带动农业市场的发展

物联网时代网络攻击破坏社会稳定

而这种大环境的变化,也让网络安全行业面临着前所未有的巨变。齐向东说:“在互联网时代,我们主要防止数据....
的头像 倩倩 发表于 08-24 10:14 90次 阅读
物联网时代网络攻击破坏社会稳定

福州马尾:加快打造物联网产业集聚区

据了解,马尾区政府高度重视物联网产业发展,通过构建领导机制、编制产业规划,制定扶持政策等多个方面牵头....
的头像 倩倩 发表于 08-24 10:05 121次 阅读
福州马尾:加快打造物联网产业集聚区

福田打造人工智能应用示范区

在人工智能领域,福田区提出建设人工智能应用示范区,加快推进新型智慧城市暨数字政府建设,实现业务需求与....
的头像 倩倩 发表于 08-24 09:51 133次 阅读
福田打造人工智能应用示范区

人工智能与5G的结合会带来哪些变化?

5G来势汹汹,好在我们跟上了时代的脚步。5G和AI(人工智能),两者都是能够改变时代的颠覆性技术,它....
的头像 电子魔法师 发表于 08-24 09:49 175次 阅读
人工智能与5G的结合会带来哪些变化?

山东企业青睐外来的机器人,人工智能发展如何发力?

针对利津县两家科创中心入驻企业不规范、管理运营混乱等问题,督导组现场办公,督办整改。利津县成立由县委....
的头像 倩倩 发表于 08-24 09:49 72次 阅读
山东企业青睐外来的机器人,人工智能发展如何发力?

到2020年,中国在人工智能的市场规模将接近500亿元

此前,2019中国人工智能峰会(CAIS2019)在南京隆重召开,中国人工智能产业发展联盟组织评选的....
的头像 倩倩 发表于 08-24 09:46 133次 阅读
到2020年,中国在人工智能的市场规模将接近500亿元

如何应对AI将带来的道德伦理问题?

《2019智能网联汽车产业安全研究报告》全面分析当前全球智能网联汽车产业发展趋势和产业安全挑战,并从....
的头像 倩倩 发表于 08-24 09:43 58次 阅读
如何应对AI将带来的道德伦理问题?

智能机器人站上“风口”!国产机器人增速放缓

意大利比萨圣安娜大学教授保罗·达里奥认为,随着物联网不断发展,所有设备都是互联的而且是智能的。“如今....
的头像 倩倩 发表于 08-24 09:40 115次 阅读
智能机器人站上“风口”!国产机器人增速放缓

以“智能融合 创新服务”为主题的“新一代人工智能与自动化论坛

山东大学副校长、山东大学(威海)校长刘建亚在致辞中指出,作为引领未来的战略性技术,人工智能正全面赋能....
的头像 倩倩 发表于 08-24 09:37 69次 阅读
以“智能融合 创新服务”为主题的“新一代人工智能与自动化论坛

首个基于5G网络切片技术设计的电子证据平台

作为新一代移动通讯技术,5G满足了更多场景对无线网络的应用需求。8月23日,青岛仲裁委员会召开《互联....
的头像 电子魔法师 发表于 08-24 09:36 111次 阅读
首个基于5G网络切片技术设计的电子证据平台

科大讯飞发布了2019年半年报,利润增长45%

2018年正值人工智能产业爆发的关键窗口期,科大讯飞持续加大人工智能相关领域的研发投入、生态体系构建....
的头像 倩倩 发表于 08-24 09:35 241次 阅读
科大讯飞发布了2019年半年报,利润增长45%

一座用AI技术打造的奇幻上海在黄浦江边悄然出现

在T-DAY“海上奇遇记“,观众将搭乘T-DAY的“时空列车”,从现实的上海进入由AI打造的奇幻上海....
的头像 倩倩 发表于 08-24 09:33 146次 阅读
一座用AI技术打造的奇幻上海在黄浦江边悄然出现

“中读”举办了以“声音里的知识和AI”为主题的知识大会

随着AI(人工智能)的快速发展,新的内容生产方式出现,旧的方式在革新,增加个性化是媒体能够走向未来的....
的头像 倩倩 发表于 08-24 09:31 65次 阅读
“中读”举办了以“声音里的知识和AI”为主题的知识大会

探索AI制度供给上海责无旁贷

在应用落实方面,上海先是在去年12月,率先发布“人工智能应用场景建设实施计划”。又在今年7月发布上海....
的头像 倩倩 发表于 08-24 09:26 108次 阅读
探索AI制度供给上海责无旁贷

智能驾驶、智能制造、智慧出行“发力”

上汽大通C2B智能制造,由车型的开发阶段开始,就让用户深度参与全过程,从预测发布、用户下单、计划排产....
的头像 倩倩 发表于 08-24 09:23 128次 阅读
智能驾驶、智能制造、智慧出行“发力”

人工智能已经破茧成蝶,逐渐走进了现实

擎朗智能科技(Keenon)成立于2010年,专注于落地普及的室内无人配送机器人。旗下的Peanut....
的头像 倩倩 发表于 08-24 09:21 75次 阅读
人工智能已经破茧成蝶,逐渐走进了现实

人工智能+金融的落地运用

据介绍,自2016年人工智能被总结出算法、算力、数据的三要素之后,2017年,场景的价值也备受热议。....
的头像 倩倩 发表于 08-24 09:18 272次 阅读
人工智能+金融的落地运用

2019世界人工智能大会首设AI国际日和开发者日

想看看名声大噪的微软小冰、德国费斯托、意大利特奥钢琴机器人这些全球范围内最前沿尖端AI科技的现场SH....
的头像 倩倩 发表于 08-24 09:16 60次 阅读
2019世界人工智能大会首设AI国际日和开发者日

科大讯飞翻译机新产品的上线,人工智能语音翻译技术迈上了新的台阶

究其根本,讯飞翻译机是科大讯飞将人工智能技术应用到实际使用场景的典型应用,兼具技术性和实用性,更加贴....
的头像 倩倩 发表于 08-24 09:13 121次 阅读
科大讯飞翻译机新产品的上线,人工智能语音翻译技术迈上了新的台阶

大数据产业这盘棋,各地纷纷“落子”的背后是什么?

对于科技、经济欠发展的地区来说,发展云计算、大数据等战略性新兴产业,既是实现科学发展、转型升级的必然....
的头像 墨记 发表于 08-23 17:24 1143次 阅读
大数据产业这盘棋,各地纷纷“落子”的背后是什么?

物联网打造的新一代的智能物流系统应用介绍

物联网是指万物互联构成的服务网络,通过智能终端和设备给物理世界的物体与环境赋能,使得物与物之间能够互....
发表于 08-23 16:27 46次 阅读
物联网打造的新一代的智能物流系统应用介绍

2019年人工智能所带来的一些热门趋势

人工智能未来将如何发展?最炙手可热的技术也是最复杂的,它无处不在,难以监控、调节和控制。机器学习的发....
发表于 08-23 16:13 360次 阅读
2019年人工智能所带来的一些热门趋势

5G要推广,但4G网络的薄弱环节要加强补短

互联网连接一切的时代,“网速就是生命”。用户对网速的体验也历来“敏感”,加之当前恰逢5G推广应用前夕....
的头像 电子发烧友网工程师 发表于 08-23 15:51 74次 阅读
5G要推广,但4G网络的薄弱环节要加强补短

人工智能影响医疗行业的方式有哪一些

从慢性病和癌症到放射学和风险评估,医疗保健行业似乎有着无数的机会利用技术在患者护理方面部署更精确、高....
发表于 08-23 15:12 190次 阅读
人工智能影响医疗行业的方式有哪一些

5G网络将成为2019世界人工智能大会的主要载体

上海市经信委22日发布消息称,2019世界人工智能大会的5G网络建设整体工程已基本完成,5G网络将成....
的头像 电子发烧友网工程师 发表于 08-23 15:05 89次 阅读
5G网络将成为2019世界人工智能大会的主要载体

小米手机不送配耳机,但让用户用最低的价格获得更好的体验

小米本身利润就比较低,大家会发现,凡是赠送耳机的厂商都是一些利润比较大的厂商,大多数厂商开始标配送透....
的头像 LiveVideoStack 发表于 08-23 14:27 208次 阅读
小米手机不送配耳机,但让用户用最低的价格获得更好的体验

工信部:从未让运营商降速,4G网络降速受制多种因素

8月22日,工业和信息化部新闻发言人、信息通信发展司司长闻库就近期网络热议的4G降速问题指出,工业和....
的头像 电子发烧友网工程师 发表于 08-23 14:06 110次 阅读
工信部:从未让运营商降速,4G网络降速受制多种因素

如何利用人工智能应对台风

人工智能如何用于应对台风
的头像 陈翠 发表于 08-23 11:04 164次 阅读
如何利用人工智能应对台风

进入生活的人工智能

人工智能逐渐融入百姓生活
的头像 陈翠 发表于 08-23 11:01 223次 阅读
进入生活的人工智能

人工智能或为智能的人工?

人工智能背后的人类
的头像 陈翠 发表于 08-23 10:55 218次 阅读
人工智能或为智能的人工?

哪些人工智产业将最先实现商业化

近日,围绕现在AI的定位、未来AI的发展状况、如何抵达未来三个话题,老牌信息技术研究分析公司Gart....
发表于 08-23 10:23 32次 阅读
哪些人工智产业将最先实现商业化

AI有优也有忧

人工智能的优与忧
的头像 陈翠 发表于 08-23 10:20 175次 阅读
AI有优也有忧

谷歌AI技术可以瞬间识别出癌细胞

以AI技术为橄榄枝,谷歌集结了GSK、强生、赛诺菲、吉利德等业内大佬,一同推动AI在医疗领域的纵深发....
发表于 08-23 10:15 26次 阅读
谷歌AI技术可以瞬间识别出癌细胞

拥抱人工智能迎接更美好的未来

当下云计算、大数据、区块链技术、AI技术的指数级发展,人工智能成为社会讨论技术变革的热点话题。
发表于 08-23 10:12 29次 阅读
拥抱人工智能迎接更美好的未来

移动医疗将是慢性病管理的新思路

目前,我国心血管病常规的治疗模式是,急性期在医院接受救治,慢性期居家治疗,定期到医院取药和检查,表面....
发表于 08-23 09:26 48次 阅读
移动医疗将是慢性病管理的新思路

目前市场上无线通信主要有哪些类型

无线通信可以按传输信号形式、无线终端状态、电磁波波长、传输方式和通信距离等进行分类。
发表于 08-22 16:49 29次 阅读
目前市场上无线通信主要有哪些类型

大数据与人工智能的主要发展趋势

技术的进步推动着经济和生活的全面数字化,对数据的重视提到了前所未有的高度,“数据是资产”已经被广泛认....
发表于 08-22 16:15 68次 阅读
大数据与人工智能的主要发展趋势

​没等到iPhoneSE2,苹果一口气推出了四个互联网软件服务

在这次发布会上,苹果一口气推出了四个互联网软件服务,包括 Apple News+、Apple Car....
的头像 集成电路应用杂志 发表于 08-22 16:13 626次 阅读
​没等到iPhoneSE2,苹果一口气推出了四个互联网软件服务

量子智能系统中的经典机器学习

机器学习是一门多领域交叉学科,专门研究计算机怎样模拟或实现人类的学习行为,以获取新的知识或技能,重新....
发表于 08-22 16:11 28次 阅读
量子智能系统中的经典机器学习

智能教育的未来发展方向有哪些

自从多年前的AlphaGo将专业围棋手击败之后,人工智能已经成为一个媒体上最常见的字眼,人工智能并非....
发表于 08-22 16:06 20次 阅读
智能教育的未来发展方向有哪些

物联网将改变人类的生活方式使我们的生活更加轻松

物联网影响着人类生活的方方面面,汽车也不例外。通过智能技术、无线网络、智能手机和语音控制的联网汽车、....
发表于 08-22 15:51 107次 阅读
物联网将改变人类的生活方式使我们的生活更加轻松

5G强在哪?谁会吃到5G的第一块蛋糕?

隶属于联合国的ITU(国际电联)在定义5G场景的时候,描述了大规模机器通信(mMTC, Massiv....
的头像 倩倩 发表于 08-22 15:28 295次 阅读
5G强在哪?谁会吃到5G的第一块蛋糕?

各类应用软件正推动数字阅读日渐普及,5G技术赋能数字阅读

“数字阅读作为全媒体时代的新型阅读方式,从应运而生到蓬勃发展、蔚然成风,极大丰富了人们的阅读体验和精....
的头像 倩倩 发表于 08-22 15:21 318次 阅读
各类应用软件正推动数字阅读日渐普及,5G技术赋能数字阅读

在5G推广应用之际,4G真的“知难而退”吗?

8月21日,记者又针对不同的4G套餐进行测速,于中午12时30分在马场西路某处室内环境中进行测速,下....
的头像 倩倩 发表于 08-22 15:18 173次 阅读
在5G推广应用之际,4G真的“知难而退”吗?

智能技术与网络通信技术在交通领域得到迅速应用

互联网提供的信息交互与共享通道使得每个终端自身的信息与数据存储空间被无限地扩大了,可调用资源和数据进....
的头像 倩倩 发表于 08-22 15:13 163次 阅读
智能技术与网络通信技术在交通领域得到迅速应用

Firefly集群服务器解决方案

方案背景 移动互联应用的快速发展和云计算、大数据应用的拓展和深化,数据中心已由传统的大型机、小型机逐步转移到x86服务器,...
发表于 08-16 15:09 343次 阅读
Firefly集群服务器解决方案

机器人的自主决策可靠吗?机器视觉在智能领域占据什么地位?

工业视觉中,机器人视觉领域在技术和商用程度上均有较好的表现。本文从机器人视觉的市场需求、技术原理以及发展趋势三个层面,深...
发表于 08-16 04:00 163次 阅读
机器人的自主决策可靠吗?机器视觉在智能领域占据什么地位?

RPA是企业在人工智能时代抢占先机的关键

2019年,RPA突然间就火了... UiPath在2019年5月宣布获得5.8亿美元融资,估值70亿美元,成为国际AI领域估值最高的企业之一...
发表于 08-15 15:01 501次 阅读
RPA是企业在人工智能时代抢占先机的关键

人工智能和机器学习怎么应用于医学?

经美国食品药品监督管理局(FDA)批准后,第一批可穿戴式数字健康监测仪目前刚刚上市,并集成在诸如智能手表之类的消费产品中。...
发表于 08-13 07:22 40次 阅读
人工智能和机器学习怎么应用于医学?

人工智能后续以什么形式发展?

从2014年开始,人工智能逐渐成为科技领域最热门的概念,被科技界,企业界和媒体广泛关注。作为一个学术领域,人工智能是在1956年...
发表于 08-12 07:53 159次 阅读
人工智能后续以什么形式发展?

AI发展对芯片技术有什么影响?

现在说AI是未来人类技术进步的一大方向,相信大家都不会反对。说到AI和芯片技术的关系,我觉得主要体现在两个方面:第一,A...
发表于 08-12 06:38 231次 阅读
AI发展对芯片技术有什么影响?

AI在智能手机有什么玩法?

下一波新体验将源自支持智能手机中 AI 新使用情形的应用,其中包括语言处理、人类活动预测和增强型数据加密等。...
发表于 08-12 06:35 166次 阅读
AI在智能手机有什么玩法?

生物学与人工智能的合作

生物智能与AI——关乎创造、关乎理解(上)
发表于 08-08 14:31 75次 阅读
生物学与人工智能的合作

怎么在数据中找到金箔?

数据大杂烩看起来像什么? 美光商务拓展经理Eric Caward说,他将数据集合想象成一座山,其中每块泥土和岩石均代表一条信息。乍...
发表于 08-08 06:33 84次 阅读
怎么在数据中找到金箔?

视觉物联网方案的进展如何?

物联网(IoT)将涉及大量的边缘设备,需要由FOG节点将处理后的数据进行聚合,进而发送到云/数据中心,然后从云/数据中心再发送...
发表于 08-07 08:42 85次 阅读
视觉物联网方案的进展如何?