AI换脸安全风险如何应用？用魔法打败魔法，AI检测模型上线

电子发烧友网报道（文/莫婷婷）ChatGPT横空出世，人工智能市场迎来快速的增长。数据显示，2022年我国人工智能市场规模达到2680亿元，预计2023年全年将达到3200亿元，同比增长达到33.8%。

如今，AI技术席卷各个行业，“AI歌手”就是其中的一个例子。只不过，若是科技不向善，AI就不是科技行业的“战士”，反而会成为一个“刺客”。在AI换脸技术为娱乐圈、直播圈带来新意时，一些因为AI换脸带来的骗局也是来势凶猛。如何用技术手段解决AI安全问题，成为业内人士需要解决的挑战。

当前，AI换脸技术制作出虚假的视频和图片可以以假乱真，用肉眼难以分辨出来。此前，有网友称接到熟人的视频电话，需要帮助其转账，在放松警惕之后受害人给对方转了132万。发现被骗后，受害人迅速报警追回被骗的132万元。

在AI换脸技术里面，“Deepfake”是比较知名的技术之一。Deepfake由deep machine learning（深度机器学习）和fake photo（假照片）组合而成。但这些技术也并非找不到破绽。用肉眼难以判断人脸是否真实存在还是由AI机器生成，而AI图像篡改检测模型等模型结构可以很好地进行鉴别。

合合信息智能创新事业部总经理唐琪在公开演讲时分享了以AI机器生成人脸的相关鉴别技术，他提到，由AIGC生成的视频，因为视频本身具有连续的特征，所以会在人脸的周围会形成细微伪影。因此合合信息在特征提取器的浅层引入纹理增强模块放大浅层特征中的细微伪影，增强模型对真实人脸和伪造人脸的感知与判断准确度。

AI人脸和真实人脸的对比（图源：合合信息）

“因为不同的AIGC模型或者不同AIGC生成的形式，会在整个神经网络的不同层次留下不同的特征行为。所以我们引入了注意力机制，让模型可以很好地关注神经网络不同层级的特征和纹理特征，有效融合这些特征，从而增强模型对于不同AIGC生成的人脸相关图像的辨别和感知能力，从而提高模型的有效性。”结合自身的研发方向和技术积累，合合信息推出了AI图像安全技术的解决方案。

AI换脸技术在几年前就已经被滥用，并且形成了黑色产业链，例如以前在淘宝、贴吧等平台搜索关键词，就会有相应的店铺或者商家出现在首页上。好消息是，随着人们安全意识的增强，相关平台都加大了审核力度。如今在淘宝上打入“AI换脸”等关键词已经不会出现相关店铺。

只不过店铺的关注并不意味这条产业链已经断裂，特别是随着AIGC技术的成熟，不法分子利用AI技术的犯罪手段也越来越“高明”，他们利用伪造人脸进行身份验证、信用卡诈骗、身份冒用、远程会议等犯罪行为。

当这些假借AI的名头进行欺诈的现象大量涌现时，让人们开始质疑AI技术的安全性和可靠性。而AI技术带来的问题，最终仍需依赖于更为成熟、先进的科技手段和方法来逐一解决。现阶段，用AI检测模型已经成为解决AI安全的手段之一。