侵权投诉

简述AI驱动的内容检测技术的功能和局限性

2018-11-28 09:40 次阅读

各平台和其他互联网参与者使用自动程序对其系统上的非法内容进行处理,如仇恨言论或恐怖主义内容。他们还使用相同的技术来要求其用户强制执行自己的自愿服务条款,以维护网络环境的稳定性和吸引力。

来自监管部门的压力,要求更多地依赖自动化来进行内容删除,这有可能会削弱网络空间的合法性。

由“民主与科技中心(Center for Democracy and Technology)”在布鲁塞尔主办的小组讨论会中,我讲述了AI驱动的内容检测技术的功能和局限性。其他小组成员包括现在就职于标普全球公司(S&P Global)的Armineh Nourbakhsh,她讲述了在路透社协助开发的Tracer工具,然后在“民主与科技中心”就职的Emma Llansó讲述了她最近参与合著的论文《混合信息?自动社交媒体内容分析的局限性》。来自欧盟委员会的Prabhat Agarwal提出了一个富有洞察力的决策者观点。

各平台和其他互联网参与者使用自动程序对其系统上的非法内容进行处理,如仇恨言论或恐怖主义内容。他们还使用相同的技术来要求其用户强制执行自己的自愿服务条款,以维护网络环境的稳定性和吸引力。最后,有一种中间类型的内容,它不仅不吸引人,本身并不完全违法,但它是有害的,需要加以控制。虚假消息传播活动就属于这一类。

来自政府的压力要求使用自动化系统,这一情况日益增长

现在我们讨论将这些内容自动删除的原因不仅仅是在技术上的。政策制定者非常关注用于内容检测的系统的有效性,并且正在推动平台来做越来越多的工作。有时这会渗透到监管的法规要求中。

最近欧盟宣布的防止网上恐怖主义内容的试行条例就是一个很好的例子。人们非常关注于该条例,其允许欧盟成员国的国家主管机关来要求各个平台在收到通知后一小时内删除特定的恐怖主义内容。但更令人担忧的是,该条例要求各平台采取“主动措施”,以便从一开始就防止恐怖主义内容出现在平台上。由于主动措施是一些针对恐怖主义内容的自动屏蔽系统,因此该试行条例明显削弱了当前电子商务指令的效力,以强制监测系统担负起监督恐怖主义内容。更糟糕的是,如果某一家公司收到过多的删除指令,却无法与监管机构所设计的改进目标达成一致,则该公司可能需要部署和维护监管机构所指定的某个自动内容删除系统。

需要采取保护措施以使内容删除决定变得公平

内容删除决定必须有明确的标准,这些标准必须透明,以便用户对超出范围和可接受范围能形成预期。此外,需要对单个内容删除决定进行解释,这一决定应说明触发该决定的内容的特定特征或方面。最后,因为没有一个系统是完美的,所以需要一个补救机制,以便在内容被错误删除后能够恢复。作为一个榜样,请看看美国信贷业的做法,他们数代人将这些透明度、解释说明和补救机制融入其工作中。

出于EmmaLlansó在她的论文中概述的原因,单纯依靠自动化系统进行内容删除是错误的。由于错误率太高,所以始终需要人工审查以确保在内容删除之前充分考虑其内容的上下文和含义。

这些自动化系统具有积极且有益的作用

首先,这些系统可用于非常具体和有价值的目的。Armineh说道,由路透社开发的Tracer系统可扫描Twitter以发现一些突发新闻故事,并将其传递给路透社的编辑和记者进行审查。该系统可检测到大多数(但并非全部)的虚假谣言和故意误导内容,并只传递这些极有可能具有新闻价值的内容,从而使记者能够更有效地工作。然而,即使在路透社,也需要采取保护措施,以避免例如特定来源或用户的信息被分析。

第二个重要用途是筛选可能需要删除的内容。当系统在现代社交网络的范围内运行时,对所有潜在有害内容进行人工审查是根本不可能的。自动化系统可以提供一个可管理的问题内容列表,以供人工审阅者来确定是否删除。

最后,自动系统可以非常有效地防止上传那些先前已被识别并删除的内容。该模型可有效地应用于儿童色情图片,并通过一个自动内容识别系统来防止未经授权来上传受版权保护的内容。

前进的道路上我们可采取公私合作伙伴关系

对于自动内容删除的担忧并不意味着会削弱从在线系统中删除危险内容的一般性主张,鉴于恐怖主义的严重挑战,删除危险内容是一个极为紧迫的问题。但是,我们必须着眼未来以及我们的迫切需要,并应谨慎建立保障措施,以防止在极为不同的政治环境中滥用任何新的监管权力,而在这种情况下,风险可能是来自政府机构的过度干预。

在前进的道路上我们要认识到,所面对的问题要比技术更严重。恐怖主义事件来自技术行业没有形成且不能自行改善的基础社会、政治和经济过程中。但是,他们的体系不应该被用来使问题变得更糟,他们的内容删除工作将从公私合作伙伴关系中受益,这种公私合作关系依赖于政府提供信息和引荐以及召集行业参与者来制定和实施行业最佳实践。

然而,一个重大的危险是政策制定者似乎愿意忽视错误的实际成本,很明显,他们认为,只要能成功地删除危险内容,犯错误就是值得的。毕竟,他们似乎认为,各平台总能恢复那些因错误而被删除的内容。

这种观点忽视了许多在线交流内容的时效性,在这种情况下,花费几周甚至几天后所恢复的内容是毫无意义的。而且,所涉及的错误范围很容易被低估。数十亿次使用中的一个很小的错误率可能意味着不是数百,不是数千,而是数亿次的错误。综合起来,随着时间的推移,这个错误的量级将损害这些体系的可信性和合法性,使其失去多种合法政治话语权的好处。

原文标题:AI驱动的内容检测永远不会是完美的

文章出处:【微信号:D1Net08,微信公众号:AI人工智能D1net】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
分享:

评论

相关推荐

ICT融合推动企业智慧业务前行,融合高效管理带来全新智能化体验

  从行业用户的需求出发,紫光股份旗下新华三集团在8月13日举办了“小网关 大融合-- 新华三ICT....
的头像 牵手一起梦 发表于 08-14 21:20 194次 阅读
ICT融合推动企业智慧业务前行,融合高效管理带来全新智能化体验

高文:构建自主可控和开放协作的全球价值网络是当务之急

  在今天召开的“2020全球人工智能产品应用博览会上”,新一代人工智能产业技术创新战略联盟理事长高....
的头像 牵手一起梦 发表于 08-14 17:57 155次 阅读
高文:构建自主可控和开放协作的全球价值网络是当务之急

李兰娟:在抗疫中人工智能和大数据等技术都发挥了重要作用

14日,2020全球人工智能产品应用博览会在苏州开幕。会上,中国工程院院士李兰娟发表主旨演讲,阐述了....
的头像 如意 发表于 08-14 17:44 200次 阅读
李兰娟:在抗疫中人工智能和大数据等技术都发挥了重要作用

国内整体云服务市场最高增速达57.1%,中国电信蝉联中国市场第三

近日,国内知名数据研究机构艾瑞咨询发布《2020年中国基础云服务行业发展洞察》报告,报告显示2019....
的头像 牵手一起梦 发表于 08-14 17:43 130次 阅读
国内整体云服务市场最高增速达57.1%,中国电信蝉联中国市场第三

李兰娟:人工智能技术将从四个方面推动医疗健康新变革

在今天召开的“2020全球人工智能产品应用博览会上”,中国工程院院士李兰娟表示,AI将从四方面推动医....
的头像 牵手一起梦 发表于 08-14 17:40 211次 阅读
李兰娟:人工智能技术将从四个方面推动医疗健康新变革

七种充分利用AI聊天机器人的方法

如今,商务专业人员正在寻找一些先进技术来提高市场回报。人工智能(AI)已经证明了其优势,可以与世界各....
发表于 08-14 17:39 55次 阅读
七种充分利用AI聊天机器人的方法

探究人工智能及如何搭建可靠的人工智能系统

几十年来的发展普及,让初创公司和创业者已经养成了将人工智能和机器学习融入几乎每一个项目的习惯。大家利....
的头像 如意 发表于 08-14 17:33 106次 阅读
探究人工智能及如何搭建可靠的人工智能系统

俄罗斯的 RuNet 成为世界上最大的内联网?

俄政府称测试期间普通用户感觉不到任何变化。俄方表示测试旨在确保俄网络在任何情况下都能无间断运行,甚至....
发表于 08-14 16:25 40次 阅读
俄罗斯的 RuNet 成为世界上最大的内联网?

健身房中的智能魔镜,智能黑科技时代已来临

随着大家越来越关注健康,健身的方式和方法也变得越来越多,健身房智能魔镜可以让运动健康定位于数据。 为....
发表于 08-14 16:22 29次 阅读
健身房中的智能魔镜,智能黑科技时代已来临

SpaceX将继续开展 Q/V/Ka 等频段的通信性能测试

简单来说,这就是要用地面测控站追踪到卫星,与卫星进行“对话”。通过“天地对话”获取卫星当前的工作状态....
发表于 08-14 16:17 75次 阅读
SpaceX将继续开展 Q/V/Ka 等频段的通信性能测试

SCHA600 系列 6 轴惯性传感器与SCC3000 系列第 3 代组合传感器的区别

慕尼黑上海电子展在国家会展中心(上海)隆重举办。全球知名的电子元器件和解决方案厂商村田制作所(以下简....
的头像 lhl545545 发表于 08-14 16:10 93次 阅读
SCHA600 系列 6 轴惯性传感器与SCC3000 系列第 3 代组合传感器的区别

华为提供5G+AI 技术,加速万物互联、万物智能方面的普及

华为公司董事、首席信息官陶景文表示,随着 5G、AI、物联网等技术的发展,加上 5G 基站建设、大数....
的头像 lhl545545 发表于 08-14 16:06 276次 阅读
华为提供5G+AI 技术,加速万物互联、万物智能方面的普及

高通公司启动首个 AI 研究项目,推动人工智能规模化普及

大会期间,高通公司产品管理副总裁 Ziad Asghar 也对分布式智能进行了深入讲解。他表示,高通....
发表于 08-14 15:59 142次 阅读
高通公司启动首个 AI 研究项目,推动人工智能规模化普及

广州移动加快网络智能化转型和升级

在5G天馈调整工作中,因场景复杂、需求多变,五维天线权值的可选组合会达到上万种,在基站初始部署完成后....
发表于 08-14 15:48 26次 阅读
广州移动加快网络智能化转型和升级

华为积累5G运维知识资产,降低了人为失误所带来的风险?

“随着5G规模上量,网络架构更加复杂,业务愈趋于多元化,用户也更加注重网络体验,传统运维模式面临运维....
的头像 lhl545545 发表于 08-14 15:44 98次 阅读
华为积累5G运维知识资产,降低了人为失误所带来的风险?

上海联通树立5G+AI智慧园区集成专家品牌

产业园区作为千行百业转型升级的重要承载,在“新基建”风口下备受关注。中国联通上海公司(下称“上海联通....
发表于 08-14 15:34 45次 阅读
上海联通树立5G+AI智慧园区集成专家品牌

中国电信:数字信息化引领发展新时代

自2015年以来,中国电信甘肃甘南分公司认真贯彻州委、州政府部署要求,聚焦信息化扶贫,结合甘南城乡通....
发表于 08-14 15:26 73次 阅读
中国电信:数字信息化引领发展新时代

大数据存储等产业助力电子信息产业实体经济快速恢复

开幕论坛上,北京大学教授、工业和信息化部原副部长杨学山,中国电子信息产业集团有限公司董事长芮晓武,中....
发表于 08-14 15:02 95次 阅读
大数据存储等产业助力电子信息产业实体经济快速恢复

一款AI模型Foley Music,它可以根据演奏手势完美还原乐曲原声!

身体关键点:由AI系统中的视觉感知模块(Visual Perception Model)来完成。它会....
的头像 传感器技术 发表于 08-14 14:58 94次 阅读
一款AI模型Foley Music,它可以根据演奏手势完美还原乐曲原声!

连云港移动灌云分公司助力医院建设和谐、安全的医疗环境

日前,连云港移动灌云分公司党支部与中共灌云县人民医院党委举行“党建和创”签约仪式,以共建凝聚共识、增....
发表于 08-14 14:56 46次 阅读
连云港移动灌云分公司助力医院建设和谐、安全的医疗环境

科技赋能生命,智能医疗时代将大有可为

为响应国家号召,积极推动健康中国国家战略,推进人工智能在医学领域的应用,2020AIIA杯人工智能医....
的头像 电子观察说 发表于 08-14 14:56 103次 阅读
科技赋能生命,智能医疗时代将大有可为

涂鸦智能应用智能化网络推出了云模组

“万物互联的特点是什么?多品牌、多产品在同一个场景里面能够互联互通,而且能够去服务消费者和家庭。这需....
的头像 lhl545545 发表于 08-14 14:44 233次 阅读
涂鸦智能应用智能化网络推出了云模组

三大电信运营商正式开启与腾讯竞争 5G 应用大幕?

阿里正式进军 5G,中国互联网 5G 军团再添一员。阿里透露,旗下达摩院已正式成立 XG 实验室,该....
的头像 lhl545545 发表于 08-14 14:41 415次 阅读
三大电信运营商正式开启与腾讯竞争 5G 应用大幕?

数据中心是互联网发展到一定阶段的必然产物

随着互联网及大数据的强劲发展,信息基础建设也如火如荼。其中,数据中心(IDC)作为各行各业的信息基础....
的头像 如意 发表于 08-14 14:40 54次 阅读
数据中心是互联网发展到一定阶段的必然产物

第八届中国电子信息博览会在深圳盛大开幕,为行业发展提振信心

8月14日,第八届中国电子信息博览会(简称CITE2020)在深圳会展中心开幕。
发表于 08-14 14:37 107次 阅读
第八届中国电子信息博览会在深圳盛大开幕,为行业发展提振信心

5G 业务带动边缘计算等大规模增长和网络需求

比如阿里巴巴相继在张北、深圳、上海、青岛等地定制数据中心;腾讯在上海、深圳、重庆、天津进行东南西北数....
的头像 lhl545545 发表于 08-14 14:22 115次 阅读
5G 业务带动边缘计算等大规模增长和网络需求

新一代集成电路圆片产量比去年同期增长 15.3%

据统计,上海一季度第三产业行业内部走势出现分化,部分行业形成有力支撑。受疫情影响较大的批发和零售业增....
的头像 lhl545545 发表于 08-14 14:17 64次 阅读
新一代集成电路圆片产量比去年同期增长 15.3%

星链互联网的目标是找到干扰天文观测解决方案?

昨日下午,美国太空探索技术公司 SpaceX 成功发射了第七批 60 颗星链(Starlink)卫星....
发表于 08-14 14:11 35次 阅读
星链互联网的目标是找到干扰天文观测解决方案?

详谈机器学习及其三大分类

本节概述机器学习及其三个分类(监督学习、非监督学习和强化学习)。首先,与机器学习相关的术语有人工智能....
的头像 如意 发表于 08-14 12:24 63次 阅读
详谈机器学习及其三大分类

上海临港新片区将重点引进芯片设计研发

“信息飞鱼”全球数字经济创新岛最终设想建成超过 100 万方的办公研发、生产生活空间,支撑和服务全球....
的头像 lhl545545 发表于 08-14 12:00 95次 阅读
上海临港新片区将重点引进芯片设计研发

华为云通过端云协同技术优势,帮助和赋能互联网企业出海

市场饱和与能量积蓄,必然推动中国互联网行业将对准全球市场。与 2012 年之后的第一轮互联网出海高潮....
的头像 lhl545545 发表于 08-14 11:55 216次 阅读
华为云通过端云协同技术优势,帮助和赋能互联网企业出海

IOT 物联网终端操作系统带动 GDP促进发展

中央统筹推进新冠肺炎疫情防控和经济社会发展工作部署会议:一些传统行业受冲击较大,而智能制造、无人配送....
的头像 lhl545545 发表于 08-14 11:49 172次 阅读
IOT 物联网终端操作系统带动 GDP促进发展

大众汽车集团推出具备情感能力的人工智能机器人Viva

大众汽车集团全球执行副总裁,驾智能科技有限公司董事、首席执行官苏伟铭先生在“2019中国汽车产业峰会....
的头像 我快闭嘴 发表于 08-14 11:48 362次 阅读
大众汽车集团推出具备情感能力的人工智能机器人Viva

工业互联网和人工智能有什么关系?

2013 年,通用电气公司正式提出了工业物联网革命的概念。这也是工业物联网第一次被正式提出来。
的头像 lhl545545 发表于 08-14 11:37 484次 阅读
工业互联网和人工智能有什么关系?

到本世纪中叶,我国工业互联网综合实力将进入世界前列?

预计 2020 至 2025 年,工业互联网的历年新增投资规模合计在 6000 亿 -7000 亿之....
的头像 lhl545545 发表于 08-14 11:27 144次 阅读
到本世纪中叶,我国工业互联网综合实力将进入世界前列?

SpaceX 的卫星互联网推进社会进入“万物互联”时代

对于 SpaceX 的卫星互联网来讲,目前还是一个私有系统,没有公开其底层规范及将来互联互通计划,但....
发表于 08-14 11:25 182次 阅读
SpaceX 的卫星互联网推进社会进入“万物互联”时代

用人工智能建设美好世界

尽管人工智能行业发展很快,但是,发展的过程中也面临着很多挑战。其中最关键的就是安全性。尤其是在某些场....
发表于 08-14 11:22 270次 阅读
用人工智能建设美好世界

新技术驱动充电基础设施行业将迎来新一轮发展周期

不过,短期内有序充电可行性更高,V2G商业化落地需要时间。从国内已经探索的车网协同的应用场景中来看,....
发表于 08-14 11:12 19次 阅读
新技术驱动充电基础设施行业将迎来新一轮发展周期

中国工业互联网平台落地的提供数字化解决方案

经过多年发展——2020 年的今天,大洋彼岸的中国,工业互联网已经作为“新基建”的重要组成部分,担当....
的头像 lhl545545 发表于 08-14 11:08 96次 阅读
中国工业互联网平台落地的提供数字化解决方案

中国卫通积极发展信息网络,进一步满足公众对卫星互联网的期待

青岛航空 QW9771 航班完成首航在此之前,乘客们坐飞机必须得把手机开飞行或者关掉,避免网络波动对....
发表于 08-14 11:04 28次 阅读
中国卫通积极发展信息网络,进一步满足公众对卫星互联网的期待

服务器不够智能会给企业带来什么影响?

互联网企业总是会反复经历业务极限场景,非常考验服务器的承压能力。爆点事件造成访问崩溃的事件早已屡见不....
的头像 lhl545545 发表于 08-14 11:00 291次 阅读
服务器不够智能会给企业带来什么影响?

QQ浏览器以用户需求出发精准触达,以抢占市场先机

说到QQ浏览器,大家肯定很熟悉吧。QQ浏览器可是腾讯科技最重要的项目之一,在国内浏览器市场中占据着重....
的头像 火花 发表于 08-14 10:59 91次 阅读
QQ浏览器以用户需求出发精准触达,以抢占市场先机

互联网健身 VS 传统健身,新趋势正在到来

Mirror 是 2016 年在纽约成立的一家互联网健身公司,在 2018 年的“TechCrunc....
的头像 lhl545545 发表于 08-14 10:56 233次 阅读
互联网健身 VS 传统健身,新趋势正在到来

以色列研发水果采摘无人机,可有效提高水果产量

以色列是中东地区的科技强国,其科技力量在世界上占据着重要的地位。很多黑科技,人工智能,高技术产品,都....
发表于 08-14 10:56 34次 阅读
以色列研发水果采摘无人机,可有效提高水果产量

华为云新推出昇腾处理器,助互联网企业拥抱 5G

因此,只有 5G+云+AI 的多技术融合,才能铸就未来智能数字世界创新基石。互联网企业同样需要基于 ....
的头像 lhl545545 发表于 08-14 10:53 215次 阅读
华为云新推出昇腾处理器,助互联网企业拥抱 5G

从这几方面判断一个区块链项目的优劣

相比较5G和人工智能,区块链是一个更普世的机会。由于数字货币的存在,让大量的普通人得以入局,也同时区....
发表于 08-14 10:52 41次 阅读
从这几方面判断一个区块链项目的优劣

文科生从事IT行业该选择人工智能还是数据科学?

首先,当前数据科学与人工智能这两个方向都是不错的选择,数据科学相关技术已经开始陆续落地应用了,所以未....
发表于 08-14 10:25 32次 阅读
文科生从事IT行业该选择人工智能还是数据科学?

亚马逊推出卫星网络技术,为光缆等覆盖不到的地方提供高速互联网服务

亚马逊表示,他们还将使向新地区部署 5G 和其他无线服务的无线运营商受益。“柯伊珀项目”的卫星将分五....
发表于 08-14 10:24 15次 阅读
亚马逊推出卫星网络技术,为光缆等覆盖不到的地方提供高速互联网服务

70年人工智能研究,解读研究者最大的惨痛教训经验

自1956年达特茅斯学院那场著名会议以来,人工智能研究走过了这么多年的旅途,经历许多高峰也走过很多低....
发表于 08-14 10:21 34次 阅读
70年人工智能研究,解读研究者最大的惨痛教训经验

请问互联网视频监控摄像头兼容问题?

现在在做一个项目,准确地说就是买一个基于安装智能手机或IOS的APP;功能是:通过手机开启远程摄像头实现现场监控。 问...
发表于 08-10 02:30 0次 阅读
请问互联网视频监控摄像头兼容问题?

自动驾驶车的人车交互接口设计方案

随着高精度传感、自动化、人工智能等技术的飞速发展,预计到2021年市场上会出现第一批完全没有方向盘等驾驶控制器的自动驾驶量产...
发表于 07-30 07:57 102次 阅读
自动驾驶车的人车交互接口设计方案

路侧停车系统的利弊

互联网已经成为我们主要的发展方向,这也是我们最近关注的热点之一。传统制造正在逐渐被智能化制造取代,因为智能产品不仅对生态...
发表于 06-23 22:32 443次 阅读
路侧停车系统的利弊

人工智能改变客户体验的10种方式

  1)为客户提供准确,个性化的建议   人工智能可以分析客户的购买历史,然后为他们可能感兴趣的其他产品和服务提供建议。这...
发表于 06-19 11:20 268次 阅读
人工智能改变客户体验的10种方式

数字孪生再现旅行者号轨迹,可视化拉开航天新时代

[quote]做为数据可视化的一线重度参与者,本着技术为本,持续的奔波在自主研发的道路上。2020年,国家发改委多次点名‘数字孪生’...
发表于 06-18 09:29 230次 阅读
数字孪生再现旅行者号轨迹,可视化拉开航天新时代

vr消防火灾模拟逃生设备,vr安全体验馆设备有哪些

vr消防火灾逃生   根据用户特点和灾害强弱程度的分析,交互式的vr培训平台可以针对特定用户和组织做出独特的处理。vr应用可以...
发表于 06-13 15:55 413次 阅读
vr消防火灾模拟逃生设备,vr安全体验馆设备有哪些

大彩串口屏在智能档案柜上面的应用

二、产品优势 1. 智能档案柜集手动、电动、电脑控制于一体,操作方便、移动平稳、安全可靠。2. 采用红外感应方式对仓位的状态进行...
发表于 05-28 16:19 226次 阅读
大彩串口屏在智能档案柜上面的应用

延迟和指令呈现百度人工智能交互设计院的最新研究

有屏智能设备的多维对话:延迟和指令呈现  百度人工智能交互设计院最新研究...
发表于 05-25 09:46 116次 阅读
延迟和指令呈现百度人工智能交互设计院的最新研究

如何使用人工智能来发挥传感器数据的协同作用

人工智能(AI)目前正在为社会的方方面面带来革新。比如,通过结合数据挖掘和深度学习的优势,如今可以利用人工智能来分析各种...
发表于 05-19 08:13 303次 阅读
如何使用人工智能来发挥传感器数据的协同作用

电路设计行业未来将会转为人工智能

现在的社会正慢慢转向人工智能和电路的方向,而不是纯粹的电路设计。 未来,有可能超市不需要服务员,仅仅需要部分理货人员。 ...
发表于 05-18 15:51 353次 阅读
电路设计行业未来将会转为人工智能