微软和合作伙伴宣布Deepfake检测挑战

Facebook，微软，人工智能合作伙伴关系以及来自几所大学的研究人员发起了Deepfake检测挑战赛（DDC），该竞赛旨在生产可以检测由AI产生的误导性图像和视频的AI。挑战包括使用DDC的真实视频和虚假视频数据集，为创建最佳AI解决方案的团队提供数个奖项和奖励。

在最近的博客文章中，Facebook的首席技术官Mike Schroepfer宣布，Facebook将为这项工作以及包含付费演员视频的精选数据集捐款1000万美元。该数据集将“免费提供给社区”，这笔钱将用于为产生获奖解决方案的开发商提供研究经费和现金奖励。

Deepfakes是“基于人工智能的人类图像合成技术”。简而言之，它们是由深度学习模型创建的“虚假”图像和视频。图像处理当然不是什么新鲜事，但是创建逼真的假视频直到最近才需要好莱坞电影的巨额预算。随着无处不在的云计算，深度学习框架以及“面子交换”技术的开源实现的出现，门槛大大降低了。尽管该技术确实仅具有娱乐性的应用，例如用一个演员的脸代替另一个演员的脸，但许多人担心，深造假冒可能被恶意使用，以***舆论或作为“社会工程”。对可能滥用其深度学习结果的类似担忧促使OpenAI不发布其完整的GPT-2文本生成模型。

Facebook和DDC的其他合作伙伴希望通过建立现金奖励的“ Kaggle风格”竞赛来设置AI以赶上AI 。参赛者将下载DDC数据集，该数据集将包含真实视频和伪造视频，并使用这些数据训练可以成功识别伪造品的机器学习模型。挑战包括“测试机制”，该机制将在不公开的数据集子集上对竞争对手的模型评分，而仅将其保留以进行测试。

Deepfake检测已经是参与挑战的大学之间积极研究的领域。例如，成思危教授吕 在 大学奥尔巴尼分校，纽约州立大学 发表了一份关于该主题的几篇论文。Lyu指出，伪造视频中的人通常不会眨眼。图像生成算法还留下了其他更细微的“指纹”，这些指纹可以由深度学习系统检测到。

有人担心DDC本身可能导致更有说服力的假货。大多数Deepfake模型都基于生成对抗网络 （GAN）架构，该架构由两个相互竞争的神经网络组成：学习生成令人信服的图像的生成网络，以及判断图像质量的判别网络。在AI“军备竞赛”中同时训练两个网络，直到生成的网络可以产生逼真的图像。