侵权投诉

用AI对抗AI——基于视频人脸篡改的检测

2019-07-16 10:10 次阅读

还记得权力的游戏第八季么? Jon Snow也加入了千万骂编剧的粉丝的阵营,并且因此向粉丝道歉。

这个视频当然是假的,他嘴巴的移动方式看起来就很奇怪。

这是一个DeepFake生成的视频,一个用来娱乐或欺骗大众人工智能产物。

之前文摘菌也报道过,这项技术的上线后就广受诟病,后来又有一个小团队开发出一款新的应用DeepNude,可以一键实现脱衣,之后也因为反响恶劣而被迫下架。

人们对于无法分辨真假的恐惧是合理的,毕竟这种技术的出现将会滋生出许多想象不到的新的犯罪手段的诞生。

最近,南加州大学信息科学研究所计算机的研究人员发表一篇论文,研究通过训练AI寻找视频画面中的不一致性来检测AI生成的假视频,论文同时也被提交到CVPR 2019。

用AI对抗AI,来看看如何实现

对于伪造生成的假视频,研究人员发现,用于生成虚假视频的主流AI模型(以及其他方法,如2016年的Face2Face程序),都是通过逐帧修改视频且并不注意时间的连贯性。这会使得生成视频中的人物移动看起来非常笨拙,人们通常会注意到这类奇怪的动作。

为了实现找出奇怪动作这一过程的自动化,研究人员首先要训练一个神经网络—这种人工智能程序以个人的海量视频为基础,可以用来“学习”人类在说话时如何移动的重要特征。

然后,研究人员使用这些参数将伪造视频的堆叠帧输入AI模型,以检测视频随时间的不一致性。根据该论文,这种方法可以判断“AI伪造视频”,准确率超过90%。

研究人员使用的模型是一个递归卷积模型(Recurrent convolutional model),这个深度学习模型能够很好的提取到视频中的信息。

整个过程分为两步:

将视频中的人脸进行裁剪对齐

对于获取人脸区域,研究人员使用由FaceForensics++提供的模型。

论文链接:

https://arxiv.org/abs/1901.08971

研究人员尝试了两种人脸对齐技术的结合:

显式使用面部坐标对齐,在参考坐标系中,人的面部是先天决定的,所有的面孔是使用同一个参考坐标系;

隐式排列对齐,使用STN。

在后一种情况下,网络根据输入图像预测对齐参数,因此可能学会缩放人脸的特定部分,必要时可将训练集中的预期损失最小化。

在这两种情况下,核心思想都是我们希望循环卷积模型将人脸“tubelet”作为输入,这是一个跨越视频帧的时空紧密对齐的人脸序列。

所有篡改类型的检测精度。结果表明,采用线性和双向递归网络的DenseNet性能最好

基于视频人脸篡改的检测

对于人脸篡改的检测,我们使用一个类似于用于视觉识别的Long-term循环卷积网络。

论文链接:

https://arxiv.org/abs/1411.4389

其中输入是来自查询视频的帧序列,这个模型背后是在利用跨帧的时间差异。由于篡改是在逐帧的基础上进行的,研究人员认为图像中会存在时间差异。因此,由对人脸的篡改引起的低层次的差别则有可能表现为跨帧不一致特性的时间差异。

骨干网络(Backbone encoding network)

在实验中,研究人员探索了ResNet和DenseNet两种架构作为模型的CNN分量。

无论采用何种架构,首先对主干网络进行FF++训练分割,使交叉熵损失最小化,进行二值分类,形成特征,从合成人脸中识别真实人脸。然后用RNN对Backbone进行扩展,最后在多种策略下形成端到端训练。

RNN的训练策略

研究人员使用放置在骨干网络不同位置的多个循环模型进行实验:用它将骨干网络连接在一起,用来进行特征学习,将特征传递给随时间推移聚合输入的RNN。

在这里研究人员也尝试了两种策略:一是在骨干网的最终特性基础上,简单地使用单一的递归网络;二是尝试在骨干网结构的不同层次上训练多个递归神经网络。

所有篡改类型的ROC曲线。每一行对应一个不同的篡改类型。左列为线性图,右列为线性对数图

希望能从源头阻止deepfake假视频

研究的共同作者Wael AbdAlmageed表示,这种模式可以被社交网站和视频网站用于大规模识别deepfake假视频,因为它不需要通过“学习”特定个体的关键特征来进行识别,而是通用的。

“我们的模型对于任何人来说都是通用的,因为我们不关注某个人的身份,而是关注面部运动的一致性,”AbdAlmageed说,“我们将发布自己的模型,所以社交网络无需训练新的模型。网站只需要在其平台中加上该检测软件,以检查上传到平台的视频是否为deepfake生成的假视频。”

机器学习的出现让造假的成本逐渐变低,很多玩火不嫌事大的开发者还开发出许多不需要写代码直接可以造假的小软件,尽管他们不一定是出于恶意,但是不排除软件最后被用到“作恶”的地方。

虽然还有许多方法可以反“AI造假”(例如在拍摄图片时生成"噪声水印"),但利用AI来识别AI造假,并且将这项技术加载到视频网站的审查过程中,那么从源头大规模地阻止假视频流向公众,或许可以成为现实。

原文标题:解铃还须系铃人!南加大训练AI检测Deepfake“假视频”,准确率超90%

文章出处:【微信号:BigDataDigest,微信公众号:大数据文摘】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
分享:

评论

相关推荐

【半导体/5G/IoT/AI/汽车】一周科技热评

8月7日,华为消费者业务CEO余承东今日在“中国信息化百人会2020峰会”上表示。麒麟系列芯片9月1....
的头像 21克888 发表于 08-09 06:36 1122次 阅读
【半导体/5G/IoT/AI/汽车】一周科技热评

无人机在梅雨季和台风大展身手,未来前景可期

近期,伴随着梅雨季的悄然退场,热辣的台风季正声势浩大的袭来。8月1日-3日,今年的第3号台风“森拉克....
发表于 08-08 08:59 75次 阅读
无人机在梅雨季和台风大展身手,未来前景可期

疫情冲击,传统健身房或将被人工智能替代

近日,《Forbes》杂志对2000名美国人进行了调查,发现72%的人在不能去健身房的情况下,依然保....
发表于 08-08 08:55 359次 阅读
疫情冲击,传统健身房或将被人工智能替代

AI实时换脸项目Avatarify已成功制作成APP

人类对于角色扮演的热情永远不会消退,这也是 AI 换脸广受追捧的原因。三个月前,机器之心曾介绍过一个....
发表于 08-08 08:42 207次 阅读
AI实时换脸项目Avatarify已成功制作成APP

2018-2023年边缘AI软件市场将达11.5亿美元,北美将成最大市场

据市场调研机构MarketsandMarkets预测,全球边缘人工智能(Edge AI)软件市场规模....
发表于 08-08 08:42 346次 阅读
2018-2023年边缘AI软件市场将达11.5亿美元,北美将成最大市场

网络安全中AI的三大影响用例和贡献

据《纽约时报》报道,到2021年,全球AI网络安全工作市场将见证350万个未填补的网络安全工作。此外....
的头像 如意 发表于 08-07 17:28 382次 阅读
网络安全中AI的三大影响用例和贡献

AI新基建浪潮已至,CCF-GAIR全球人工智能与机器人峰会今日开幕!

2020 年8 月7日,中国深圳,中国国内最具影响力的前沿科技活动——由中国计算机学会(CCF)主办....
发表于 08-07 16:17 321次 阅读
AI新基建浪潮已至,CCF-GAIR全球人工智能与机器人峰会今日开幕!

人工智能(AI)推动声纹识别技术应用落地

这被称为固定文本的认证方式。“但会造成两个问题,第一是用户体验不好,每次都被要求生硬地念一段文本,无....
发表于 08-07 16:12 399次 阅读
人工智能(AI)推动声纹识别技术应用落地

机器学习案例 解码古埃及象形文字

关注的人都知道,谷歌 “Arts & Culture”总会发布些有趣的应用来增强人们与艺术和历史间的....
发表于 08-07 16:09 98次 阅读
机器学习案例 解码古埃及象形文字

工控安全作为工业互联网发展的保障,其市场潜力巨大

  中海创投认为,长扬科技自身优势明显:长扬科技具备行业主流工业协议分析能力,具有较强的技术研发能力....
的头像 我快闭嘴 发表于 08-07 15:35 247次 阅读
工控安全作为工业互联网发展的保障,其市场潜力巨大

未来5G新基建 亚信科技5G+AI助力中国电信中国联通5G共建共享

2020年TMForum(国际电信管理论坛) Digital Transformation Worl....
的头像 电子观察说 发表于 08-07 15:31 477次 阅读
未来5G新基建 亚信科技5G+AI助力中国电信中国联通5G共建共享

互联网从投资驱动型转向务实经营,客户结构在发生改变

WebEye正是抓住了数字营销的变革与机遇,如今已发展成为一个超过400人的团队,拥有智能化投放平台....
的头像 我快闭嘴 发表于 08-07 15:17 504次 阅读
互联网从投资驱动型转向务实经营,客户结构在发生改变

AI视觉技术在智能边缘加速落地

据 Intel 技术专家介绍,AI 计算盒参考设计硬件平台以 Intel 通用计算平台 CPU 为主....
发表于 08-07 14:47 693次 阅读
AI视觉技术在智能边缘加速落地

如何看待AI智能外呼机器人开启销售模式

电话销售是当今商业领域发展最快、使用最多的一种营销形式,但是电话销售模式一直存在无法解决的弊端:
发表于 08-07 14:26 102次 阅读
如何看待AI智能外呼机器人开启销售模式

数据等创新技术正在加速投入疫情防控的关键应用

疫情暴发前,牛津经济研究院曾预测,到2030年,全球2000万个制造业工作岗位将被机器人取代。报告指....
发表于 08-07 14:14 314次 阅读
数据等创新技术正在加速投入疫情防控的关键应用

英特尔技术专家推出从原型到生产加速智能边缘的解决方案

针对边缘计算中,不同应用场景对算力需求灵活,并且会使用不同神经网络模型的特点,英特尔AI计算盒参考设....
发表于 08-07 11:56 399次 阅读
英特尔技术专家推出从原型到生产加速智能边缘的解决方案

重庆市携科技“出海”,点亮城市智慧之光

创办五年来,特斯联布局全国各地,出走海外,以AIoT(人工智能物联网)赋能传统行业,跃升成为科技赛道....
发表于 08-07 10:48 265次 阅读
重庆市携科技“出海”,点亮城市智慧之光

日本即将超智能社会5.0?

次时代是一个和人工智能有关的概念,大意是指,人类制造了一种机器,这种机器有高超的人工智能,假设称为机....
发表于 08-07 10:23 582次 阅读
日本即将超智能社会5.0?

物联网、5G的兴起一直在推动将计算带入网络边缘的需求

解决方案具有AI功能(特别是机器学习),可为业务流程解决方案提供支持,该解决方案可跨工作负载提供可预....
发表于 08-07 10:13 104次 阅读
物联网、5G的兴起一直在推动将计算带入网络边缘的需求

人工智能已经全面应用到儿童看病中,智能云听诊器发挥大作用

听诊在儿童重大疾病筛查、常见病症诊断和疗效评判等方面发挥着重要作用。在每个人的印象里,医生的形象就是....
发表于 08-07 10:13 263次 阅读
人工智能已经全面应用到儿童看病中,智能云听诊器发挥大作用

钟南山院士团队与腾讯AI Lab利用AI预测COVID-19患者病情发展至危重概率的研究成果

医护人员只需输入患者的临床特征,重症早期分诊系统就可以返回患者在5、10和30天内病情发展至危重的概....
的头像 机器人技术与应用 发表于 08-07 09:49 259次 阅读
钟南山院士团队与腾讯AI Lab利用AI预测COVID-19患者病情发展至危重概率的研究成果

旷世推出了基于AI的智能测温系统,帮助控制疫情的扩散

根据艾伦人工智能研究所去年的一份分析报告显示,中国在发表人工智能论文方面已经超过美国。如果按照目前的....
发表于 08-07 09:41 164次 阅读
旷世推出了基于AI的智能测温系统,帮助控制疫情的扩散

人工智能机器视觉这一分支技术开始进入动物识别领域?

动物识别这条路之所以行得通,其原因在于动物与人类相仿,都有能够进行识别的生物特性。最典型的代表便是狗....
发表于 08-07 09:35 390次 阅读
人工智能机器视觉这一分支技术开始进入动物识别领域?

基于5G与未来6G,AI技术为人工智能和5G的融合注入新动能

今年7月,由联合国国际电信联盟(以下简称ITU)发起的“全球AI in 5G”大赛正式拉开帷幕,中兴....
发表于 08-07 09:09 227次 阅读
基于5G与未来6G,AI技术为人工智能和5G的融合注入新动能

华为在今年下半年宣告5GtoB生态圈正式启动

5G商业成功离不开行业的共同努力,构建一个广泛而联系紧密的生态系统至关重要。在今日的5“机”峰会上,....
发表于 08-07 08:54 311次 阅读
华为在今年下半年宣告5GtoB生态圈正式启动

5G+云+AI助力全球经济快速复苏

今日,以 “新价值 新机遇”为主题的5“机”峰会(5G for Good Summit)在沪上成功举....
发表于 08-07 08:29 277次 阅读
5G+云+AI助力全球经济快速复苏

加速5G产业集聚,华为助力上海打造协同创新生态体系

今日,由上海市经济与信息化委员会(以下简称经信委)指导,华为技术有限公司(以下简称华为)承办的5“机....
发表于 08-07 08:29 399次 阅读
加速5G产业集聚,华为助力上海打造协同创新生态体系

段然:面向DICT融合,构建以AI为驱动的“i无线”智慧极简5G网络

段然介绍:“通过对行业网需求分析,以及无线网解决方案分解,我们发现无线网自身的AI能力升级与业务侧引....
发表于 08-07 08:27 196次 阅读
段然:面向DICT融合,构建以AI为驱动的“i无线”智慧极简5G网络

5G驱动联接、云、AI、计算和行业应用五大产业升级

在产业规模方面,到2021年底,上海5G产业实现三个千亿的目标,即5G的制造业、软件和信息服务业、5....
发表于 08-07 08:19 142次 阅读
5G驱动联接、云、AI、计算和行业应用五大产业升级

用声音训练基于家庭的AI应用?

“用于开发基于机器学习的交互的方法已经变得如此容易,以至于现在它正在收集正确的数据,以创建不仅可以听....
发表于 08-06 17:22 171次 阅读
用声音训练基于家庭的AI应用?

人工智能与机器人,未来人类会被取代吗?

在解决人类无法采取安全措施或无法采取安全措施的问题时,人工智能(简称AI)非常有用。借助存储在其中的....
发表于 08-06 17:03 408次 阅读
人工智能与机器人,未来人类会被取代吗?

人工智能技术在3D打印中的应用

一旦打印机设置好并准备就绪,代码的比较部分就会启动。模型的每一层,在打印时,都会与数字副本中的一个分....
发表于 08-06 16:52 275次 阅读
人工智能技术在3D打印中的应用

天津移动开始推进AI智能基站节能方案

AI智能节能方案可自动进行话务预测、节能策略生成与下发、参数配置的优化,无需人工干预,大大降低了节能....
发表于 08-06 16:36 174次 阅读
天津移动开始推进AI智能基站节能方案

人工智能(AI)居然会犯罪?

  研究人员从学术论文、新闻和时事报道、小说和流行文化中收集了20项人工智能犯罪。然后,他们召集了3....
发表于 08-06 16:10 436次 阅读
人工智能(AI)居然会犯罪?

计算形态在5G网络环境下拥有哪三大优势?

“5G+计算,构筑无处不在的‘端边云’协同形态。”他指出,为了应对大量产生在边缘侧的需求,就必须将部....
发表于 08-06 15:58 116次 阅读
计算形态在5G网络环境下拥有哪三大优势?

大唐移动提出了基于场景化的智慧网络解决方案

针对森林场景,大唐移动提出“广覆盖‘平’时打底,高热点‘急’时保障”的“平急”结合方案。平时利用地面....
发表于 08-06 15:33 158次 阅读
大唐移动提出了基于场景化的智慧网络解决方案

CMU研究团队打造出了一款拥有人类「常识」的导航机器人

例如,让机器人去拿放在「植物」旁边的遥控器,机器人几乎立即检测出了「植物」盆栽所在的位置,从而检测到....
的头像 机器人大讲堂 发表于 08-06 15:28 530次 阅读
CMU研究团队打造出了一款拥有人类「常识」的导航机器人

学习与工作不耽误,便携式AI录音笔值得拥有

学习是贯穿一个人一生的主题,学生时代主要任务就是学习,工作时期各种会议、培训都是学习的机会。不过每个....
发表于 08-06 15:20 86次 阅读
学习与工作不耽误,便携式AI录音笔值得拥有

达摩院遥感AI升级将提高5倍处理速度

阿里巴巴达摩院表示,在一周内升级了遥感AI技术,开发出应用于防汛的水体识别算法,支持水利部相关监测与....
发表于 08-06 15:08 128次 阅读
达摩院遥感AI升级将提高5倍处理速度

人工智能可能会统治全人类,最怕的是谷歌DeepMind?

在国际象棋、中国象棋先后落败后,人类一度把围棋视为人类最后的智慧高地。而在2016年, AlphaG....
的头像 机器人大讲堂 发表于 08-06 14:44 249次 阅读
人工智能可能会统治全人类,最怕的是谷歌DeepMind?

到2025年,全球5G小基站的部署和升级将达到1025万台

顾名思义,小基站的“身材”比宏基站要小,发射功率、覆盖范围等也相应缩小。身材虽小,功能却不容小觑。5....
发表于 08-06 13:13 192次 阅读
到2025年,全球5G小基站的部署和升级将达到1025万台

2024年人工智能市场全球收入将超过3000亿美元

“ AI应用程序在企业中的作用正在迅速发展。它正在改变您的客户购买,供应商交付和竞争对手竞争的方式。....
发表于 08-06 11:53 240次 阅读
2024年人工智能市场全球收入将超过3000亿美元

人工智能(AI)技术对医学的临床实践会有所帮助?

电子病历是现代医学中最严重的一次失败,因为它仅出于商业目的(用于计费)而建立,而没有考虑对医生,患者....
发表于 08-06 11:46 216次 阅读
人工智能(AI)技术对医学的临床实践会有所帮助?

人工智能和机器学习能为更多的公司维持在家工作(WFH)文化?

对WFH的批评之一是企业监视外部工人的生产力和质量的能力。幸运的是,人工智能和机器学习可以帮助您。团....
发表于 08-06 11:40 230次 阅读
人工智能和机器学习能为更多的公司维持在家工作(WFH)文化?

盘点AI技术在多媒体中的应用场景

AI作为一门技术性科学,近年来日渐成为科技行业关注的热门话题。
发表于 08-06 11:30 42次 阅读
盘点AI技术在多媒体中的应用场景

快讯:科学家研制可通过加热来应对不同任务的折叠式微型机器人

7 月 30 日,在美国宇航局 NASA 成功发射的 MARS 2020 任务中,「宇宙神 5」型运....
的头像 机器人大讲堂 发表于 08-06 11:27 249次 阅读
快讯:科学家研制可通过加热来应对不同任务的折叠式微型机器人

超低时延的5G网络,大大提升了电子竞技的激烈程度

高效稳定的电竞器材与接近现实的虚拟赛场对于游戏玩家来说有何意义?正如高通近期在社交媒体上推送的骁龙E....
发表于 08-06 11:14 137次 阅读
超低时延的5G网络,大大提升了电子竞技的激烈程度

物联网技术对零售业务有何影响?

视频分析应用程序可以通过分析客户行为并为零售管理提供可行的见解来优化运营。通过评估客户在商店中花费的....
发表于 08-06 11:02 73次 阅读
物联网技术对零售业务有何影响?

中国首款车规级AI芯片:地平线征程2

中国是全球最大的物流市场之一,低速和限定场景下的无人配送被视为是自动驾驶技术率先落地应用的场景之一。....
发表于 08-06 09:27 377次 阅读
中国首款车规级AI芯片:地平线征程2

小器件拥有大市场,中天科技成立“5G及未来光网络研究所”

光模块作为高速数据通信的关键器件,是通信设备制造商和通信运营商重要的上游产品。作为业内熟知的光纤光缆....
发表于 08-06 08:50 162次 阅读
小器件拥有大市场,中天科技成立“5G及未来光网络研究所”