张飞软硬开源基于STM32 BLDC直流无刷电机驱动器开发视频套件,👉戳此立抢👈

简述AI驱动的内容检测技术的功能和局限性

AI人工智能D1net 2018-11-28 09:40 次阅读

各平台和其他互联网参与者使用自动程序对其系统上的非法内容进行处理,如仇恨言论或恐怖主义内容。他们还使用相同的技术来要求其用户强制执行自己的自愿服务条款,以维护网络环境的稳定性和吸引力。

来自监管部门的压力,要求更多地依赖自动化来进行内容删除,这有可能会削弱网络空间的合法性。

由“民主与科技中心(Center for Democracy and Technology)”在布鲁塞尔主办的小组讨论会中,我讲述了AI驱动的内容检测技术的功能和局限性。其他小组成员包括现在就职于标普全球公司(S&P Global)的Armineh Nourbakhsh,她讲述了在路透社协助开发的Tracer工具,然后在“民主与科技中心”就职的Emma Llansó讲述了她最近参与合著的论文《混合信息?自动社交媒体内容分析的局限性》。来自欧盟委员会的Prabhat Agarwal提出了一个富有洞察力的决策者观点。

各平台和其他互联网参与者使用自动程序对其系统上的非法内容进行处理,如仇恨言论或恐怖主义内容。他们还使用相同的技术来要求其用户强制执行自己的自愿服务条款,以维护网络环境的稳定性和吸引力。最后,有一种中间类型的内容,它不仅不吸引人,本身并不完全违法,但它是有害的,需要加以控制。虚假消息传播活动就属于这一类。

来自政府的压力要求使用自动化系统,这一情况日益增长

现在我们讨论将这些内容自动删除的原因不仅仅是在技术上的。政策制定者非常关注用于内容检测的系统的有效性,并且正在推动平台来做越来越多的工作。有时这会渗透到监管的法规要求中。

最近欧盟宣布的防止网上恐怖主义内容的试行条例就是一个很好的例子。人们非常关注于该条例,其允许欧盟成员国的国家主管机关来要求各个平台在收到通知后一小时内删除特定的恐怖主义内容。但更令人担忧的是,该条例要求各平台采取“主动措施”,以便从一开始就防止恐怖主义内容出现在平台上。由于主动措施是一些针对恐怖主义内容的自动屏蔽系统,因此该试行条例明显削弱了当前电子商务指令的效力,以强制监测系统担负起监督恐怖主义内容。更糟糕的是,如果某一家公司收到过多的删除指令,却无法与监管机构所设计的改进目标达成一致,则该公司可能需要部署和维护监管机构所指定的某个自动内容删除系统。

需要采取保护措施以使内容删除决定变得公平

内容删除决定必须有明确的标准,这些标准必须透明,以便用户对超出范围和可接受范围能形成预期。此外,需要对单个内容删除决定进行解释,这一决定应说明触发该决定的内容的特定特征或方面。最后,因为没有一个系统是完美的,所以需要一个补救机制,以便在内容被错误删除后能够恢复。作为一个榜样,请看看美国信贷业的做法,他们数代人将这些透明度、解释说明和补救机制融入其工作中。

出于EmmaLlansó在她的论文中概述的原因,单纯依靠自动化系统进行内容删除是错误的。由于错误率太高,所以始终需要人工审查以确保在内容删除之前充分考虑其内容的上下文和含义。

这些自动化系统具有积极且有益的作用

首先,这些系统可用于非常具体和有价值的目的。Armineh说道,由路透社开发的Tracer系统可扫描Twitter以发现一些突发新闻故事,并将其传递给路透社的编辑和记者进行审查。该系统可检测到大多数(但并非全部)的虚假谣言和故意误导内容,并只传递这些极有可能具有新闻价值的内容,从而使记者能够更有效地工作。然而,即使在路透社,也需要采取保护措施,以避免例如特定来源或用户的信息被分析。

第二个重要用途是筛选可能需要删除的内容。当系统在现代社交网络的范围内运行时,对所有潜在有害内容进行人工审查是根本不可能的。自动化系统可以提供一个可管理的问题内容列表,以供人工审阅者来确定是否删除。

最后,自动系统可以非常有效地防止上传那些先前已被识别并删除的内容。该模型可有效地应用于儿童色情图片,并通过一个自动内容识别系统来防止未经授权来上传受版权保护的内容。

前进的道路上我们可采取公私合作伙伴关系

对于自动内容删除的担忧并不意味着会削弱从在线系统中删除危险内容的一般性主张,鉴于恐怖主义的严重挑战,删除危险内容是一个极为紧迫的问题。但是,我们必须着眼未来以及我们的迫切需要,并应谨慎建立保障措施,以防止在极为不同的政治环境中滥用任何新的监管权力,而在这种情况下,风险可能是来自政府机构的过度干预。

在前进的道路上我们要认识到,所面对的问题要比技术更严重。恐怖主义事件来自技术行业没有形成且不能自行改善的基础社会、政治和经济过程中。但是,他们的体系不应该被用来使问题变得更糟,他们的内容删除工作将从公私合作伙伴关系中受益,这种公私合作关系依赖于政府提供信息和引荐以及召集行业参与者来制定和实施行业最佳实践。

然而,一个重大的危险是政策制定者似乎愿意忽视错误的实际成本,很明显,他们认为,只要能成功地删除危险内容,犯错误就是值得的。毕竟,他们似乎认为,各平台总能恢复那些因错误而被删除的内容。

这种观点忽视了许多在线交流内容的时效性,在这种情况下,花费几周甚至几天后所恢复的内容是毫无意义的。而且,所涉及的错误范围很容易被低估。数十亿次使用中的一个很小的错误率可能意味着不是数百,不是数千,而是数亿次的错误。综合起来,随着时间的推移,这个错误的量级将损害这些体系的可信性和合法性,使其失去多种合法政治话语权的好处。

原文标题:AI驱动的内容检测永远不会是完美的

文章出处:【微信号:D1Net08,微信公众号:AI人工智能D1net】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
分享:

评论

相关推荐

四轴机器人编程与应用

主题简介:本次直播主要讲解四轴机器人控制器基本原理及组成。四轴机器人的核心技术内嵌人工智能算法的工业级运动控制技术和伺服
发表于 10-30 00:00 11587次 阅读
四轴机器人编程与应用

机器人用减速器传动形式上存在什么差异

通过5G连接的服务型机器人将在公共安全和急救人员、关键资产检查、物流交付和运输、农业机械、现场安装和....
发表于 07-22 17:25 20次 阅读
机器人用减速器传动形式上存在什么差异

6000元的戴森扫地机器人值不值得购买?

在解放双手实现家务自动化的进程上,扫地机器人应该是目前大众接受度最高的产品之一。它和「不想做家务」这....
的头像 爱范儿 发表于 07-22 17:15 66次 阅读
6000元的戴森扫地机器人值不值得购买?

智能化的体验何时才能普及

基于AI人脸识别技术的企业客户管理,通过来访的企业客户实时通过人脸进行存档,形成企业客户由普通的用户....
发表于 07-22 17:05 10次 阅读
智能化的体验何时才能普及

如何利用大数据,而不是被牵着鼻子走

相信自己,还是相信数据?
的头像 大数据文摘 发表于 07-22 17:01 66次 阅读
如何利用大数据,而不是被牵着鼻子走

紫光股份名列榜单第187位,连续6年榜单排名稳步提升

近日,财富中文网发布了最新的2019年《财富》中国500强排行榜以及中国500强分行业榜,紫光股份以....
的头像 西安紫光国芯半导体 发表于 07-22 17:00 61次 阅读
紫光股份名列榜单第187位,连续6年榜单排名稳步提升

有什么事情是人工智能做不了的吗

5G生活智能化,应该指智能家居,物联网的技术。
发表于 07-22 16:59 13次 阅读
有什么事情是人工智能做不了的吗

人工智能的普及对哪些的工作人员造成威胁

人工智能的实质表面上看代替人工作了 并生产出一种新的能源方式做出反应。
发表于 07-22 16:57 17次 阅读
人工智能的普及对哪些的工作人员造成威胁

Al的趋势你能想象得到吗

随着物联网、大数据等技术的快速发展,AI正通过不同的技术方向向应用场景开始融入大家的生活中。
发表于 07-22 16:34 12次 阅读
Al的趋势你能想象得到吗

人工智能会改变你的舌尖味蕾吗

人工智能技术企业开始做舌尖上的生意,帮助食品企业制造更有竞争力的产品。
发表于 07-22 16:28 10次 阅读
人工智能会改变你的舌尖味蕾吗

对于人工智能3.0时代你了解多少

人工智能正在进行着突飞猛进的发展。
发表于 07-22 16:24 17次 阅读
对于人工智能3.0时代你了解多少

物联网时代的创新 创业仍在奋力探索商业模式

关注物联网时代的创新创业需求有些疲软,供给也不痛不痒。市场很大很诱人,一批创业企业仍在奋力探索商业模....
的头像 联动原素 发表于 07-22 16:10 90次 阅读
物联网时代的创新 创业仍在奋力探索商业模式

机器视觉如此之火,“智慧之眼”谁能胜任?

ToF方案成为拍照亮点频频出现在多款手机产品中,迅速蹿升为3D视觉领域的主流方案。事实上,各大应用市....
的头像 墨记 发表于 07-22 15:58 212次 阅读
机器视觉如此之火,“智慧之眼”谁能胜任?

张振宇作了“泛在物联技术在大电网柔性调度中的探索与实践”主题演讲

2019年7月20日,第二届“清洁能源发展与消纳”专题研讨会在西安召开。研讨会主题为“三型两网、能源....
的头像 电网智囊团 发表于 07-22 15:09 63次 阅读
张振宇作了“泛在物联技术在大电网柔性调度中的探索与实践”主题演讲

5G对互联网技术和金融创新的影响有多大

物联网的高度应用和物联终端的普及将会使5G时代成为万物互联的新时代。
发表于 07-22 15:08 95次 阅读
5G对互联网技术和金融创新的影响有多大

人工智能如何为垃圾分类赋能

随着科技的发展,垃圾处理及其他环境问题需要更智能化的解决方案。
的头像 李开复 发表于 07-22 14:58 47次 阅读
人工智能如何为垃圾分类赋能

亚马逊仓库机器人 机器人是否会抢走人类的工作?

亚马逊日前在MARS人工智能大会上最新发布的仓库机器人Pegasus,该机器人已正式加入亚马逊Kiv....
的头像 机器人大讲堂 发表于 07-22 14:56 80次 阅读
亚马逊仓库机器人  机器人是否会抢走人类的工作?

“瓶盖挑战”火遍网络,我们的机器人也来挑战了

像MIT计算机科学与人工智能实验室(CSAIL)这样的即年轻,又超级聪明的学生在繁忙的课业和研究之余....
的头像 机器人博览 发表于 07-22 14:50 38次 阅读
“瓶盖挑战”火遍网络,我们的机器人也来挑战了

智能机器人加入制酒产业

7月15日,中信重工智能机器人生产基地项目落户泸州纳溪,生产消防智能机器人,同时针对泸州市优势产业,....
的头像 机器人大讲堂 发表于 07-22 14:46 43次 阅读
智能机器人加入制酒产业

2019报告:100家“最有前景”的AI创业公司,中国公司就有6家

日前,硅谷最强智库之一的CB Insights发布AI 100 2019报告,在全球范围内评选出了1....
的头像 人工智能学家 发表于 07-22 14:28 121次 阅读
2019报告:100家“最有前景”的AI创业公司,中国公司就有6家

谁牵住了科技创新的牛鼻子,谁就能占领先机、赢得优势

科技创新是一个国家提高综合国力的关键支撑,是社会生产方式和生活方式变革进步的强大引领,谁牵住了科技创....
的头像 人工智能学家 发表于 07-22 14:20 63次 阅读
谁牵住了科技创新的牛鼻子,谁就能占领先机、赢得优势

介绍你需要的图建模论文,图中的各种隐藏知识、强大且复杂的工具

图嵌入、图表征、图分类、图神经网络,这篇文章将介绍你需要的图建模论文,当然它们都有配套实现的。
的头像 通信信号处理研究所 发表于 07-22 11:41 237次 阅读
介绍你需要的图建模论文,图中的各种隐藏知识、强大且复杂的工具

智慧安防和人工智能的结合的落地场景有哪些

人工智能在安防发展上起了极大的推进作用,人工智能的5大应用场景也是安防发展的重要需求推动力。
发表于 07-22 11:33 32次 阅读
智慧安防和人工智能的结合的落地场景有哪些

长波通信、中波通信、短波通信和微波通信都属于无线通信方式

很高兴这个问题落到了我的专业领域,问题中提及的长波通信、中波通信、短波通信和微波通信,都属于利用电磁....
的头像 对讲机世界 发表于 07-22 11:23 80次 阅读
长波通信、中波通信、短波通信和微波通信都属于无线通信方式

NBA总决赛上月正式落幕,体育领域的竞赛才刚刚开始让我们敬请期待!

NBA总决赛上月正式落幕,多伦多猛龙队成为新的总冠军,但是在线体育领域的竞赛才刚刚开始。
的头像 流媒体网 发表于 07-22 11:08 140次 阅读
NBA总决赛上月正式落幕,体育领域的竞赛才刚刚开始让我们敬请期待!

SaaS的未来和AI之间存在什么联系

人工智能驱动的虚拟助手可以帮助营销人员收集有关消费者趋势和行为模式的数据。
发表于 07-22 10:53 26次 阅读
SaaS的未来和AI之间存在什么联系

人工智能成功的标准是什么

人们在应用人工智能时可能比使用其他技术更难以导航。
发表于 07-22 10:48 25次 阅读
人工智能成功的标准是什么

怎样促进新一代人工智能健康发展

人工智能是模拟和扩展人类智能的理论、方法和技术的统称,是新一轮科技革命和产业变革的重要驱动力量。
发表于 07-22 10:44 29次 阅读
怎样促进新一代人工智能健康发展

英国电信已选择思科作为互联网升级的主要供应商

“随着企业和消费者采用世界上任何地方托管基于云的服务,对等容量是任何提供商基础设施的关键能力。”英国....
发表于 07-22 10:41 25次 阅读
英国电信已选择思科作为互联网升级的主要供应商

全新算法助机器学习如何抵抗干扰

机器学习虽然可以在大数据训练中学到正确的工作方法,但它也很容易受到恶意干扰。
发表于 07-22 10:40 21次 阅读
全新算法助机器学习如何抵抗干扰

互联网+回收会迎第二春吗

随着垃圾强制分类落地,曾经艰难生存的互联网回收平台或许将迎来第二春。
发表于 07-22 10:36 68次 阅读
互联网+回收会迎第二春吗

怎样以人工智能赋能万物互联

新一代人工智能正在全球范围内蓬勃兴起,为经济社会发展注入了新动能,正在深刻改变人们的生产生活方式。
发表于 07-22 10:33 25次 阅读
怎样以人工智能赋能万物互联

人工智能以后会取代同传吗

人机耦合不仅在翻译领域,在人工智能落地的几乎所有领域,都应该代表未来。
发表于 07-22 10:29 14次 阅读
人工智能以后会取代同传吗

AI如何助力药物研究

人工智能的介入,能够为马拉松式的药物研发找到新的突破点。
发表于 07-22 10:25 23次 阅读
AI如何助力药物研究

你见过人工智能办的画展吗

或许,在另一个可能的世界,人工智能才是艺术的创造者,而人类,也是他们的发明之一。
发表于 07-22 10:21 30次 阅读
你见过人工智能办的画展吗

人工智能对科学传播有什么影响

而当下人工智能的兴起,将对科学传播的发展产生积极的影响,并在一定程度上建构未来的科学传播。
发表于 07-22 10:18 27次 阅读
人工智能对科学传播有什么影响

昨天结束的发布会上马斯克展示最新的研究成果——大脑芯片植入!

在昨天结束的发布会上,被人称之为“科学狂人”的马斯克用难以抑制的兴奋向大众展示了其最新的研究成果——....
的头像 WPR 发表于 07-22 10:14 137次 阅读
昨天结束的发布会上马斯克展示最新的研究成果——大脑芯片植入!

智能产业知识产权如何保护

人工智能技术日新月异,智能产业发展风起云涌。
发表于 07-22 10:03 30次 阅读
智能产业知识产权如何保护

智慧生活下的垃圾如何分类

实质是利用先进的信息技术,实现城市智慧式管理和运行,促进城市和谐、可持续成长。
发表于 07-22 09:58 143次 阅读
智慧生活下的垃圾如何分类

Patrick Winston教授今天去世,他曾领导了MIT人工智能实验室25年

MIT人工智能实验室的前主任Patrick Winston教授今天去世,享年76岁。他曾领导了MIT....
的头像 新智元 发表于 07-22 09:36 63次 阅读
Patrick Winston教授今天去世,他曾领导了MIT人工智能实验室25年

5G动作传感仿生机器人,新鲜出炉

这是目前国内研发生产的第一台5G动作传感仿生机器人。它使用新型芯片,将三维空间动态控制、平衡原理与先....
的头像 MEMS 发表于 07-22 09:32 255次 阅读
5G动作传感仿生机器人,新鲜出炉

德州扑克牌被认为是难度远超其他游戏的人工智能挑战项目

德扑被认为是难度远超其他游戏的人工智能挑战项目。然而CMU和Facebook联合打造的AI赌神Plu....
的头像 新智元 发表于 07-22 09:31 63次 阅读
德州扑克牌被认为是难度远超其他游戏的人工智能挑战项目

谷歌发布2019年版的学术指标:AI进入榜单Top100,CVPR更是进入前10!

今天,谷歌发布了2019最新版学术指标,对收录的会议和期刊的影响力进行排名。AI类的多个顶会进入榜单....
的头像 新智元 发表于 07-22 09:24 51次 阅读
谷歌发布2019年版的学术指标:AI进入榜单Top100,CVPR更是进入前10!

科技快讯|大疆回应美企CAPE将停止合作 戴森智能吸尘机器人

大疆回应美企CAPE将停止合作;戴森智能吸尘机器人;美国垃圾分类机器人每分钟分拣80件物品;佐治亚理....
的头像 机器人大讲堂 发表于 07-22 09:10 152次 阅读
科技快讯|大疆回应美企CAPE将停止合作  戴森智能吸尘机器人

继围棋、德扑之后,AI现在又在魔方领域碾压人类

UCI的研究人员创造了一种人工智能系统,可以在没有任何领域知识和人类游戏指导的情况下,在1.2秒复原....
的头像 新智元 发表于 07-22 09:10 97次 阅读
继围棋、德扑之后,AI现在又在魔方领域碾压人类

科技快讯 韩国压力反馈VR手套,欧洲自动驾驶小公交撞行人

韩国科学家设计了一款硅胶VR手套,在指尖位置装有传感器,可以模拟触摸、控制不同材质物体的感觉,甚至让....
的头像 机器人大讲堂 发表于 07-22 09:03 170次 阅读
科技快讯 韩国压力反馈VR手套,欧洲自动驾驶小公交撞行人

机器学习科研的十年

十年前,MSRA的夏天,刚开始尝试机器学习研究的我面对科研巨大的不确定性,感到最多的是困惑和迷茫。
的头像 新智元 发表于 07-22 08:46 80次 阅读
机器学习科研的十年

陈生强分析法分析了中国金融行业的生态和未来发展前景

中国互联网金融科技已经进入下半场。在过去短短数年之中,人们已经习惯了移动支付、互联网理财等线上服务,....
的头像 哈佛商业评论 发表于 07-22 08:41 173次 阅读
陈生强分析法分析了中国金融行业的生态和未来发展前景

前十的AI专利拥有者中美国占一半,无中国企业

排名前十的人工智能专利拥有者中有5家美国公司,2家日本公司,1家韩国公司,1家德国公司和1家荷兰公司....
的头像 Blue5 发表于 07-21 18:36 1068次 阅读
前十的AI专利拥有者中美国占一半,无中国企业

揭秘大脑植入芯片背后公司Neuralink的雄心与壮志

Neuralink的目标是,最终将其技术植入瘫痪或其他疾病的患者体内,使得他们能够用意念控制电脑。该....
的头像 Blue5 发表于 07-21 17:45 911次 阅读
揭秘大脑植入芯片背后公司Neuralink的雄心与壮志

面对对象和正则表达式如何处理

面对对象是软件开发的方法。面对对象的概念和应用已超越了程序设计和软件开发,扩展到如数据库系统、交互式界面、应用结构、应用...
发表于 07-18 08:26 188次 阅读
面对对象和正则表达式如何处理

人工智能的神奇复活

1月底,计算领域经历了两个不同寻常的里程碑——很多人都没有注意到。一个记录了开拓者的逝去:人工智能(AI)领域先驱、导师Ma...
发表于 07-16 09:00 260次 阅读
人工智能的神奇复活

嵌入式计算产品

2008年10月20日:英特尔嵌入式与通信产品事业部总经理兼数字企业事业部副总裁Douglas L. Davis先生在中国台北英特尔信息技术峰...
发表于 07-16 07:30 64次 阅读
嵌入式计算产品

【技术杂谈】用python实现自己的小说阅读器

前一段时间书荒的时候,在喜马拉雅APP发现一个主播播讲的小说-大王饶命。听起来感觉很好笑,挺有意思的,但是只有前200张是免...
发表于 07-16 04:00 372次 阅读
【技术杂谈】用python实现自己的小说阅读器

5G技术发展历程科普

互联网改变了世界,移动互联网重新塑造了生活,“在家不能没有网络,出门不能忘带手机”已成为很多人的共同感受。人们对动互联网...
发表于 07-11 06:11 46次 阅读
5G技术发展历程科普

无缝覆盖的公众移动通信网络

网络融合的大潮正在滚滚而来,其最终目的是构建起无所不在、无所不能的信息网络。这个庞大的信息网络中将广泛吸纳各种创新的IC...
发表于 07-09 06:46 196次 阅读
无缝覆盖的公众移动通信网络

嵌入式智能传感器的定义及特点

作者:王立刚 引言 传感器技术是一项当今世界令人瞩目的迅猛发展起来的高新技术之一,也是当代科学技术发展的一个重要标志...
发表于 07-09 06:03 333次 阅读
嵌入式智能传感器的定义及特点

【Toybrick RK3399Pro AI开发板试用体验】ACT I:开箱+板载资源详解

很开心,在90+的申请者中脱颖而出,得到RockChip以及发烧友的青睐,获得本次Toybrick TB-RK3399Pro开发板试用机会,同...
发表于 07-06 17:29 334次 阅读
【Toybrick RK3399Pro AI开发板试用体验】ACT I:开箱+板载资源详解

无线射频识别助力电信业推进信息化

RFID(无线射频识别)技术,又称为电子标签或者无线标签,是一种利用无线射频通信实现的非接触式自动识别技术,被列为21世纪...
发表于 07-05 07:40 286次 阅读
无线射频识别助力电信业推进信息化

【Toybrick RK3399Pro AI开发板试用申请】机器人激光与视觉融合的导航模块

项目名称:机器人激光与视觉融合的导航模块 试用计划:申请理由 本人在机器人SLAM领域有4年开发经验,从最开始激光SL...
发表于 07-03 10:50 403次 阅读
【Toybrick RK3399Pro AI开发板试用申请】机器人激光与视觉融合的导航模块