论Deepfake科技是怎样工作与优缺点

如果某人能在其曾祖母的一张旧照片上看到她眨眼微笑，会有什么感觉？毫无疑问，这会让你感到害怕，但也会让你怀旧吗？根据传统，可能会怀旧。

家谱公司MyHeritage最近推出了一项新功能，名为Deep Nostalgia，允许用户在家庭照片中设置人脸动画。根据MyHeritage的数据，仅在最初的48小时内，就有超过100万张照片被制作成动画。他们的一个博客说：“用户对此感到惊奇和感慨：有些人看到他们从未见过的祖先，有些是100多年前的祖先，他们行动、眨眼和微笑，有些人则感动得流下了眼泪，见证了他们逝去的亲人在这么多年后的运动，只有静止的照片来纪念他们。”

该网站在其常见问题解答中承认，人们可能会觉得这些视频令人毛骨悚然。尽管如此，这项功能现在已经成为一种新的趋势，很多人都在用它来见证失去已久的亲人的感动。

根据MyHeritage的说法，他们从D-ID公司获得了这项技术的许可，D-ID是一家以色列公司，专门从事使用深度学习的视频再现。

这家初创公司透露，他们没有包括演讲，以防止滥用这项技术，以创造深假的活着的人。尽管如此，他们已经制作了一个宣传视频，用演讲和音频让亚伯拉罕•林肯复活。难道不应该被认为是假的吗？Deepfake技术在传播虚假新闻方面引起了广泛的负面关注和关注。因此，他们的边界需要适当地设定，以决定这是否是一种威胁。

Deepfake是怎么工作的？

Deepfake使用基于人工智能的技术来操纵图像、音频和视频，使它们看起来真实可信。这项技术使用机器学习系统以最小的成本快速合成视频和音频。像生成对抗网络（GANs）这样的神经网络被用来训练具有真实画面的数据集，使它们能够理解一个人的真实声音、行为和表情。使用两个独立的机器学习模型，一个用于对提供的数据集进行训练并制作图像，另一个用于监控这些制作并对合成进行分级。如今，深度假货是由人工智能和非人工智能算法创建的，不涉及GANs。

Deepfake在很多方面都是一种威胁，比如利用Deepfake音频敲诈钱财，诈骗者针对名人和政客传播假新闻等。

早在2019年，美国众议院议长南希•佩洛西的一段视频就在社交媒体上流传开来，她讲话异常缓慢和高亢。这段视频后来被认为是假的，因为它改变了原来的速度，使她的讲话似乎含糊不清。这段视频的目的是给她带来负面影响，这不是第一次。有很多这样的事件，被操纵的视频四处传播。

有什么好消息吗？

Deepfake技术利用人工智能模拟人类行为来制作视频，它们因传播错误信息而臭名昭著。然而，有些领域实际上可以从深度伪造中获益。电影业可以利用深度伪造技术编辑视频，而无需重新拍摄，还可以重现在屏幕上去世的演员。培训和教育视频可以利用Deepfake来实现虚拟材料，而无需人工干预。深度假冒技术还有其他好处，因此如果在道德基础上使用，可以产生积极影响。

例如，MyHeritage推出的新功能可能会吸引很多人，但除非它跨越了界限。如果它以任何方式制造了错误信息，它可能会受到严格的审查，因为已经有关于深假技术的法规，许多立法正计划将非自愿的Deepfake定为犯罪行为。
编辑：lyn