张飞软硬开源基于STM32 BLDC直流无刷电机驱动器开发视频套件,👉戳此立抢👈

用AI对抗AI——基于视频人脸篡改的检测

大数据文摘 2019-07-16 10:10 次阅读

还记得权力的游戏第八季么? Jon Snow也加入了千万骂编剧的粉丝的阵营,并且因此向粉丝道歉。

这个视频当然是假的,他嘴巴的移动方式看起来就很奇怪。

这是一个DeepFake生成的视频,一个用来娱乐或欺骗大众人工智能产物。

之前文摘菌也报道过,这项技术的上线后就广受诟病,后来又有一个小团队开发出一款新的应用DeepNude,可以一键实现脱衣,之后也因为反响恶劣而被迫下架。

人们对于无法分辨真假的恐惧是合理的,毕竟这种技术的出现将会滋生出许多想象不到的新的犯罪手段的诞生。

最近,南加州大学信息科学研究所计算机的研究人员发表一篇论文,研究通过训练AI寻找视频画面中的不一致性来检测AI生成的假视频,论文同时也被提交到CVPR 2019。

用AI对抗AI,来看看如何实现

对于伪造生成的假视频,研究人员发现,用于生成虚假视频的主流AI模型(以及其他方法,如2016年的Face2Face程序),都是通过逐帧修改视频且并不注意时间的连贯性。这会使得生成视频中的人物移动看起来非常笨拙,人们通常会注意到这类奇怪的动作。

为了实现找出奇怪动作这一过程的自动化,研究人员首先要训练一个神经网络—这种人工智能程序以个人的海量视频为基础,可以用来“学习”人类在说话时如何移动的重要特征。

然后,研究人员使用这些参数将伪造视频的堆叠帧输入AI模型,以检测视频随时间的不一致性。根据该论文,这种方法可以判断“AI伪造视频”,准确率超过90%。

研究人员使用的模型是一个递归卷积模型(Recurrent convolutional model),这个深度学习模型能够很好的提取到视频中的信息。

整个过程分为两步:

将视频中的人脸进行裁剪对齐

对于获取人脸区域,研究人员使用由FaceForensics++提供的模型。

论文链接:

https://arxiv.org/abs/1901.08971

研究人员尝试了两种人脸对齐技术的结合:

显式使用面部坐标对齐,在参考坐标系中,人的面部是先天决定的,所有的面孔是使用同一个参考坐标系;

隐式排列对齐,使用STN。

在后一种情况下,网络根据输入图像预测对齐参数,因此可能学会缩放人脸的特定部分,必要时可将训练集中的预期损失最小化。

在这两种情况下,核心思想都是我们希望循环卷积模型将人脸“tubelet”作为输入,这是一个跨越视频帧的时空紧密对齐的人脸序列。

所有篡改类型的检测精度。结果表明,采用线性和双向递归网络的DenseNet性能最好

基于视频人脸篡改的检测

对于人脸篡改的检测,我们使用一个类似于用于视觉识别的Long-term循环卷积网络。

论文链接:

https://arxiv.org/abs/1411.4389

其中输入是来自查询视频的帧序列,这个模型背后是在利用跨帧的时间差异。由于篡改是在逐帧的基础上进行的,研究人员认为图像中会存在时间差异。因此,由对人脸的篡改引起的低层次的差别则有可能表现为跨帧不一致特性的时间差异。

骨干网络(Backbone encoding network)

在实验中,研究人员探索了ResNet和DenseNet两种架构作为模型的CNN分量。

无论采用何种架构,首先对主干网络进行FF++训练分割,使交叉熵损失最小化,进行二值分类,形成特征,从合成人脸中识别真实人脸。然后用RNN对Backbone进行扩展,最后在多种策略下形成端到端训练。

RNN的训练策略

研究人员使用放置在骨干网络不同位置的多个循环模型进行实验:用它将骨干网络连接在一起,用来进行特征学习,将特征传递给随时间推移聚合输入的RNN。

在这里研究人员也尝试了两种策略:一是在骨干网的最终特性基础上,简单地使用单一的递归网络;二是尝试在骨干网结构的不同层次上训练多个递归神经网络。

所有篡改类型的ROC曲线。每一行对应一个不同的篡改类型。左列为线性图,右列为线性对数图

希望能从源头阻止deepfake假视频

研究的共同作者Wael AbdAlmageed表示,这种模式可以被社交网站和视频网站用于大规模识别deepfake假视频,因为它不需要通过“学习”特定个体的关键特征来进行识别,而是通用的。

“我们的模型对于任何人来说都是通用的,因为我们不关注某个人的身份,而是关注面部运动的一致性,”AbdAlmageed说,“我们将发布自己的模型,所以社交网络无需训练新的模型。网站只需要在其平台中加上该检测软件,以检查上传到平台的视频是否为deepfake生成的假视频。”

机器学习的出现让造假的成本逐渐变低,很多玩火不嫌事大的开发者还开发出许多不需要写代码直接可以造假的小软件,尽管他们不一定是出于恶意,但是不排除软件最后被用到“作恶”的地方。

虽然还有许多方法可以反“AI造假”(例如在拍摄图片时生成"噪声水印"),但利用AI来识别AI造假,并且将这项技术加载到视频网站的审查过程中,那么从源头大规模地阻止假视频流向公众,或许可以成为现实。

原文标题:解铃还须系铃人!南加大训练AI检测Deepfake“假视频”,准确率超90%

文章出处:【微信号:BigDataDigest,微信公众号:大数据文摘】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
分享:

评论

相关推荐

【5月12】不懂编程没关系,邀请您来学AI

不懂编程没关系,邀请您来学AI活动概述:本活动是现场讲座,由台湾知名AI教育专家、金门创新学院院长、台湾Android技
发表于 05-24 00:00 0次 阅读
【5月12】不懂编程没关系,邀请您来学AI

Arm布局物联网市场推动AI市场的发展

“我们AI的策略是以计算平台为核心,首先在终端侧优势领域落地,逐步切入云端、边缘侧,核心还是通过提供....
发表于 08-17 10:02 17次 阅读
Arm布局物联网市场推动AI市场的发展

机器人的发展将在未来渗透我们的各行各业

技术的快速发展让机器人渗透进各行各业,也越来越接近消费终端。在人工智能的助推下,服务型机器人正快速崛....
发表于 08-17 09:45 13次 阅读
机器人的发展将在未来渗透我们的各行各业

安防运维领域发展迅猛,企业该如何把握机遇

在安防边界日益扩大的今天,以AI视频监控为代表的安防产品已经带有跨地域、跨行业、跨应用、数量巨大的特....
发表于 08-17 08:13 14次 阅读
安防运维领域发展迅猛,企业该如何把握机遇

Microchip推可显著降低功耗的模拟存储器技术——SuperFlash memBrain

随着人工智能(AI)处理从云端转移至网络边缘,电池供电的深度嵌入式设备在执行AI任务(如计算机视觉和....
发表于 08-16 17:31 53次 阅读
Microchip推可显著降低功耗的模拟存储器技术——SuperFlash memBrain

鲁勇:三大核心引擎驱动产品智能升级和企业数字化转型

昨日在广州举行的华为云城市峰会2019上,华为公司高级副总裁、中国区总裁鲁勇演讲时表示,“当前,5G....
的头像 牵手一起梦 发表于 08-16 17:31 324次 阅读
鲁勇:三大核心引擎驱动产品智能升级和企业数字化转型

AI技术能否改善医疗行业资源不均的问题

轰轰烈烈的开始,悄无声息的消失。这是创业的常态,也是不少医学影像AI公司的真实写照。
发表于 08-16 15:03 42次 阅读
AI技术能否改善医疗行业资源不均的问题

紫光虎贲T710芯片领先骁龙855 Plus,暂居世界第一

苏黎世联邦理工学院主导的AI Benchmark最新榜单显示,紫光展锐的虎贲T710芯片综合获评28....
的头像 电子发烧友网工程师 发表于 08-16 12:04 131次 阅读
紫光虎贲T710芯片领先骁龙855 Plus,暂居世界第一

决策智能化是人工智能时代的重要理论

决策智能化是一种新学术理论,它涉及到选择的方方面面。决策智能科学将数据科学、社会科学、管理科学融为一....
发表于 08-16 10:11 14次 阅读
决策智能化是人工智能时代的重要理论

目前救援机器人的应用困境是什么

NCCR(瑞士国家机器人能力研究中心)的研究人员回顾了救援机器人技术进展,并对其未来发展进行了评估。
发表于 08-16 09:25 20次 阅读
目前救援机器人的应用困境是什么

三大驱动因素推动发展,全球AI市场规模持续增长

目前全球人工智能市场仍呈现加速增长态势,主力厂商着重抢先布局人工智能产业生态链。
的头像 机器人大讲堂 发表于 08-15 16:58 96次 阅读
三大驱动因素推动发展,全球AI市场规模持续增长

人工智能+教育将实现AI未来教育

未来五年,主导技术革新的应该来自AI。从提升效率到承担实际任务,AI任重道远但目标可期。
发表于 08-15 16:18 42次 阅读
人工智能+教育将实现AI未来教育

人工智能其实带来的不是失业而是就业

未来几年,由人工智能引发的失业潮将会令人恐慌。但正如每一次工业革命一样,技术的变革将会替换到一些行业....
发表于 08-15 16:12 34次 阅读
人工智能其实带来的不是失业而是就业

物联网的发展潜力巨大2022年全球物联网支出将突破1万亿美元大关

2000 年PC互联网时代为人类消除时间的阻碍,拉近与世界的距离; 2010 年移动互联网时代进一步....
发表于 08-15 15:59 107次 阅读
物联网的发展潜力巨大2022年全球物联网支出将突破1万亿美元大关

科学家开发出了一种多功能的新型机器人

机器人擅长做的一件事就是一遍又一遍地重复,而面对不同形状和大小的物体并采取不同的行动,这显然属于更高....
发表于 08-15 15:29 26次 阅读
科学家开发出了一种多功能的新型机器人

AI技术将为医疗行业打开更大的空间

近年来,人工智能、大数据、5G等技术与医疗行业深度融合,为健康事业插上了智能翅膀。
发表于 08-15 15:14 85次 阅读
AI技术将为医疗行业打开更大的空间

英特尔新出AI工具包将全面提升FPGA能力

在终端侧部署人工智能,还有着数据处理的实时性更高、低延时,更低的带宽需求的优势。比如在自动驾驶领域,....
发表于 08-15 14:57 20次 阅读
英特尔新出AI工具包将全面提升FPGA能力

Nvidia打破实时对话AI的训练和推理用时记录

Nvidia用于开发和运行可理解和响应请求的对话式AI的GPU强化平台,已经达成了一些重要的里程碑,....
的头像 FPGA开发圈 发表于 08-15 14:26 56次 阅读
Nvidia打破实时对话AI的训练和推理用时记录

普惠AI的路上,有哪些难题困扰着业界?

普惠AI意味着为万物赋能,从云端到边缘的大势所趋也是AiRiA研究院作为AI芯片的后来入局者直接选择....
的头像 人工智能学家 发表于 08-15 11:29 117次 阅读
普惠AI的路上,有哪些难题困扰着业界?

对于2019年的AI玩家们来讲,有哪些不可错过的演进趋势?

AI算力和智力从云端下沉到边缘,为物联网提供火眼金睛和灵敏大脑,成为AI和IoT一拍即合的“共识”。
的头像 人工智能学家 发表于 08-15 11:24 183次 阅读
对于2019年的AI玩家们来讲,有哪些不可错过的演进趋势?

带你了解一些比较前端的新潮机器人

UR人机协作机器人具有出色灵活的6轴关节,其操作简便,易于安装,结合灵巧手的24个自由度,能做出与人....
发表于 08-15 09:17 29次 阅读
带你了解一些比较前端的新潮机器人

未来的医疗健康领域会有什么样的变化

目前医疗健康行业正逐步发现这些机遇,为重塑健康而制定战略并做出判断的需求(无论是作为医疗机构、医生或....
发表于 08-15 09:13 79次 阅读
未来的医疗健康领域会有什么样的变化

AI赌神赢的背后,只是8天的训练

Facebook与CMU学Noam Brown、Tuomas Sandholm的最新研究成果——Pl....
的头像 人工智能学家 发表于 08-15 09:06 101次 阅读
AI赌神赢的背后,只是8天的训练

数据、AI和社会:潮流在转变

这是数据领域又一个激烈动荡的年头,令人兴奋,但又错综复杂。
的头像 人工智能学家 发表于 08-15 08:46 93次 阅读
数据、AI和社会:潮流在转变

AI重塑网络安全未来图景

人工智能(Artificial Intelligence)是研究、开发用于模拟、延伸和扩展人的智能的....
的头像 人工智能学家 发表于 08-15 08:43 85次 阅读
AI重塑网络安全未来图景

AI技术在工业自动化控制中的落地应用

人工智能在风口上已经飞了很长一段时间了,一直以来,不乏有市场人士指出其概念炒作,但在另一面,依托于人....
发表于 08-14 11:46 57次 阅读
AI技术在工业自动化控制中的落地应用

从荣耀智慧屏,看AI如何赋能家庭大屏生态?

屏幕作为人机交互的重要载体,AI赋予了它超越自身的更大的想象空间。智慧屏展示了中国的科技巨头对家庭生....
的头像 墨记 发表于 08-14 10:44 1832次 阅读
从荣耀智慧屏,看AI如何赋能家庭大屏生态?

关于AI技术在视频会议系统中的应用

云视频会议可以实现人脸识别!通过AI技术集成或硬件集成都可以在会议中实现人脸识别。
发表于 08-14 10:19 25次 阅读
关于AI技术在视频会议系统中的应用

该如何搭建人工智能数据平台

在以往,企业数据管理都以传统的IT架构为基础。当技术部门为业务部门解决问题时,需要从业务需求的探查、....
发表于 08-14 09:52 43次 阅读
该如何搭建人工智能数据平台

赛灵思囊括AIIA AI端侧芯片测评板卡类6项性能冠军

Xilinx公司人工智能平台首获第三方行业组织性能专业认证,是本轮参测硬件中可支持模型最多的加速平台
的头像 算法工匠 发表于 08-13 18:52 126次 阅读
赛灵思囊括AIIA AI端侧芯片测评板卡类6项性能冠军

Xnor最新推出嵌入式AI平台AI2Go

Xnor推出了AI2Go平台,该平台可让开发人员和制造商制作针对设备内人工智能优化的预建AI模型。
发表于 08-13 17:02 42次 阅读
Xnor最新推出嵌入式AI平台AI2Go

AI高位视频技术将是未来停车的大势所趋

从进站人脸识别、站内机器人导航,到交通电子警察、卡口规范社会秩序,再到停车诱导、共享车位资源,这几年....
发表于 08-13 15:55 46次 阅读
AI高位视频技术将是未来停车的大势所趋

人工智能技术制高点怎样抢占

人工智能是原创性大工程,必须从基础做起,从原创起步。
发表于 08-13 15:34 40次 阅读
人工智能技术制高点怎样抢占

人工智能机器人的时代已经到来

据外媒报道,亚马逊公司正式宣布将在加州欧文地区及更大范围内对无人送货机器人Scout进行测试,此前的....
发表于 08-13 15:24 68次 阅读
人工智能机器人的时代已经到来

互联网医疗的作用之医疗流程的再造

从医学的角度,互联网医疗和实体医疗一样,仍然是依据诊疗常规对患者做诊断,出治疗方案,并将线下的资源组....
发表于 08-13 15:13 131次 阅读
互联网医疗的作用之医疗流程的再造

晶泰与辉瑞以AI模拟技术驱动新药的研发

以算法驱动创新的AI医药研发公司晶泰科技宣布和辉瑞制药签订战略研发合作,将融合量子物理与人工智能,建....
发表于 08-13 14:34 39次 阅读
晶泰与辉瑞以AI模拟技术驱动新药的研发

智能时代推动半导体创新的复兴之路

在物联网、大数据和人工智能 (AI) 的推动下,从交通运输、医疗保健到零售和娱乐等众多行业将走上转型....
的头像 哎咆科技 发表于 08-13 11:41 180次 阅读
智能时代推动半导体创新的复兴之路

医疗保健系统怎样利用人工智能重塑

AI辅助技术在美国也适用,能够为数百万人提供更多医疗服务。
发表于 08-13 11:20 40次 阅读
医疗保健系统怎样利用人工智能重塑

AI技术将驱动视频领域的智能进化

在新一代信息技术的驱动下,互联网正全面视频化,以视频作为主要信息传递介质和功能载体的互联网形态——视....
发表于 08-13 10:18 109次 阅读
AI技术将驱动视频领域的智能进化

如何通过AI换脸视频技术而带来利润

说起AI,想必大家都有所耳闻,听得最多的无非是,三星、小米、华为等智能手机厂商通过AI技术,让每个人....
发表于 08-13 10:14 127次 阅读
如何通过AI换脸视频技术而带来利润

在医疗领域人工智能可以做些什么

自改革开放以来,我国医学领域发展迅速,信息化程度也在逐渐提高。但是随着医疗设备更新迭代,数据的格式和....
发表于 08-13 09:13 154次 阅读
在医疗领域人工智能可以做些什么

新型模拟技术可以合成各种各样的声音

据国外媒体报道,一家名为“华丽琴鸟”(Lyrebird)的加拿大初创公司发明了一套人工智能系统,用户....
发表于 08-12 17:38 46次 阅读
新型模拟技术可以合成各种各样的声音

英伟达嵌入式电脑可为机器人设计引入AI算力

英伟达在硅谷召开了GTC 2019主题演讲,英伟达 CEO黄仁勋发表演讲,正式发布了机器人开发者工具....
发表于 08-12 17:09 47次 阅读
英伟达嵌入式电脑可为机器人设计引入AI算力

人工智能开发药物是什么

开发了一种计算机程序,可以生成数万亿种化合物,让SAM决定哪些化合物可能成为新药的候选者。
发表于 08-12 16:16 42次 阅读
人工智能开发药物是什么

用AI实现自动化分子制造可能吗

在人工智能和机器人平台的支持下,麻省理工学院研究人员开发的系统向自动化小分子生产迈进了一步。
发表于 08-12 16:13 42次 阅读
用AI实现自动化分子制造可能吗

家庭网络安全的标准是怎样的

家庭网络上的设备识别是提供端点安全性,网络安全性和数字育儿的基础。
发表于 08-12 15:46 26次 阅读
家庭网络安全的标准是怎样的

如果机器人能够承载你的所有回忆

第一款记忆机器人——MemBot z2000问世时,全球轰动。上了年纪的人喜欢用它让自己沉浸在人生最....
发表于 08-12 15:24 30次 阅读
如果机器人能够承载你的所有回忆

AI机器时代什么时候可以到来

AI已经开始贩卖起某些领域中的焦虑了。
发表于 08-12 11:01 39次 阅读
AI机器时代什么时候可以到来

医疗领域的AI可以干什么

人工智能在医疗健康领域应用的质量标准、准入体系、评估体系也未设置详细的准则, 无法对AI数据和算法进....
发表于 08-12 10:29 43次 阅读
医疗领域的AI可以干什么

AI技术是如何成为照妖镜的

人工智能会开创一个新时代。造物主应用技术,更多希望用技术造福人类,而不是毁灭理想生活。
发表于 08-12 10:20 57次 阅读
AI技术是如何成为照妖镜的

中国走向人工智能化道路的最大问题

一项新的分析显示,在过去十年中,中国人工智能研究人员的数量增加了十倍,但他们大多数生活在国外。
发表于 08-12 09:58 204次 阅读
中国走向人工智能化道路的最大问题