ADVANCE.AI利用AI技术守护直播社交安全，有效防范合成身份伪造风险

全球短视频与直播社交行业在过去几年经历了显著增长，已成为当今互联网时代最具代表性与成长性的产业之一。2023年全球直播市场估值约606.3亿美元，预计2032年将达到2565.6亿美元。全球市场上，行业头部的TikTok最新月活用户已超15.82亿，而另一代表YouTube全球月活用户已达24.9亿。而国内市场上，最大短视频与直播社交平台抖音月活用户已超8亿。巨大的用户基数与势头迅猛的增长趋势，为直播社交行业创造了商机丰富的生态，同时也吸引了欺诈团伙的目光。

欺诈者在直播社交行业实施欺诈行为主要基于深度伪造技术，合成虚假的身份进行欺诈。例如冒充名人或网红进行直播诈骗、制作虚假色情直播内容诈骗、伪造身份注册直播账号进行违法活动，或冒充亲友诈骗直播社交软件用户，以及制作虚假广告欺骗用户。

得益于生成式人工智能技术飞跃发展，由此衍生的深度伪造 (Deepfake)技术也越来越成熟，基于深度伪造的欺诈具有技术门槛低、生成效果逼真、应用场景多样化与检测难度高等“优点”，这无疑给直播社交行业的从业者带来了严重的挑战。

深度伪造是指经过操纵或合成的媒体，通过使用人工智能和机器学习算法来创建令人信服的虚假内容。这些复杂的技术使犯罪分子能够将一个人的脸部叠加到另一个人身体上，或者改变他们的面部表情、声音或手势。文本、图像、音频、视频等各类内容都成为了深度伪造的对象。以深度伪造视频为例，视频图像主要基于生成对抗网络(GAN)生成，通过训练大量的面部图像数据，模型可以学习面部特征之间的潜在关系，进而生成与真实面部特征高度相似的虚假面部特征。随着技术的演进，创建深度伪造视频的成本越来越低，所需的训练时间越来越少，生成的视频质量也越来越高，更加难以辨别和检测。

不法分子可以利用生成的深度伪造视频等内容，结合现成的伪造工具结合模拟器和特定软件，就能绕过传统的防护检测，渗透到线上会议、社交网络和工作流程中。由于没有数字痕迹和IP地址等信息，导致追踪系统很难察觉。

基于深度伪造AI技术的合成身份、虚假身份欺诈，因其以假乱真的逼真程度，往往让受骗者防不胜防，因为深度伪造制作的材料是个人音频、图片、视频，这些数据越多，训练出的视频就越逼真，所以社交媒体上相关数据较多的博主、明星容易成为深度伪造的目标。全球知名歌手泰勒·斯威夫特(Taylor Swift)不止一次受到深度伪造欺诈造成的困扰。今年1月她遭遇AI合成不雅照事件，其后不久一则由AI生成的斯威夫特带货广告又在海外社交媒体上疯传。这则虚假广告利用深度伪造技术，合成了斯威夫特的声音，并将声音及她的形象和Le Creuset品牌炊具广告片段拼凑在一起，宣称免费向粉丝赠送炊具，引导受害者点击并支付运费，但炊具不会真的送出。

而即便是互联网上资料痕迹少的普通人，也一样有概率被欺诈团伙盯上，利用深度伪造技术合成虚假身份完成欺诈，造成经济财产损失。2023年福州市某公司法人郭先生就不幸遭遇了10分钟内被骗430万元的经历。诈骗者伪装成他的好友，通过微信视频联系到他，称自己的朋友在外地竞标，需要430万元保证金，想借用郭先生公司的账户走账。基于对好友的信任，加上已经视频聊天“核实”了身份，郭先生在10分钟内，在收到转账截图后没有核实钱款到账就立马“转回去”430万元。事后，郭先生拨打好友电话才得知被骗。

个人案例之外，欺诈团伙针对企业的大规模合成身份欺诈行为，更是严重破坏直播社交行业生态发展的“顽疾”。在用户拉新和注册上，AI换脸技术使得创建虚假用户和机器人账号变得容易，大批量的合成虚假账号扰乱平台的社区生态，影响真实用户的体验和参与度；虚假账号可能用于欺诈活动，如虚假打赏、将直播间观众导流到其他平台施行诈骗等，损害平台和用户的利益。在资金层面，伪造身份可以通过直播间进行洗钱操作，给平台带来财务风险和监管挑战。这些伪造账户和身份同时还可能用于发布虚假广告和推广，欺骗其他用户，损害平台的公信力和用户体验。

所有这些欺诈行为，都将迫使直播社交平台投入更多的资金与人力进行欺诈检测、用户审核以及应对合规层面的压力，产生大量额外的支出。

加强用户注册与登录环节的身份验证和活体检测、加强内容层面的审核与监测，加强员工的安全培训、提升对深度伪造关联欺诈的防范意识，都是直播社交行业企业可以采取的措施，但从实际出发，要想从专业层面提升企业的反欺诈能力，同时对未来潜在难度升级的深度伪造欺诈保持对应防范，企业应当与拥有先进反欺诈技术的身份验证服务商或安全厂商进行合作。

迎接深度伪造挑战 ADVANCE.AI助力直播社交行业防范欺诈

针对深度伪造技术下合成身份欺诈为直播社交行业企业造成的困扰，ADVANCE.AI 着眼于客户痛点，专注于技术创新，为企业提供了精准防范深度伪造欺诈的解决方案。“数字身份验证(E-KYC)”解决方案可用于合成身份欺诈检测，包括证件质量检测（IQA）、证件识别（ID OCR）、假证检测、活体检测、人脸比对、人脸搜索、身份验证等功能。

真实人脸与真实身份证件对直播社交行业防范欺诈攻击起到很关键的作用。验证直播社交用户账号的身份真实性是防范合成身份欺诈的主要手段之一，可以检测身份冒用，当前主流解决方案以采用生物识别技术（如人脸识别、声纹识别）为主，而欺诈份子针对此类检测手段，通常会实施活体攻击来绕过生物识别验证，从而进行身份冒充和欺诈活动。在多种活体攻击类型中，屏幕攻击与注入攻击占比较高。ADVANCE.AI针对活体攻击的活体检测解决方案可帮助直播社交企业高效率检测此类攻击，该解决方案可基于运动、纹理与光学的活体检测以及多因素验证在内的技术手段完成检测，并在此基础上还提供了更适用于合成身份欺诈防范的3D活体检测产品，拥有更强的交互性，攻击拦截率高达99.95%。

而在直播社交行业新用户注册环节，要求账号持有人提供多重身份证明材料也是防范欺诈份子注册虚假账号实施欺诈的另一项防范手段。然而存在于金融科技、跨境电商等行业领域的假证问题，在直播社交行业同样存在，欺诈团伙会利用假证等多项资料合成虚假身份，大量注册虚假账户实施欺诈。ADVANCE.AI数字身份验证解决方案下的“ID Forgery Detection（假证检测）全自动解决方案“支持识别多国不同证件类型，轻松解决假证识别问题。其中支持识别假证类型包括屏幕翻拍、黑白复印、彩色打印、人脸篡改、文字篡改等，可以大量减少企业繁琐审核工作，降低运营成本支出。

采取上述防范措施解决合成身份欺诈对直播社交行业的困扰与危害，可以让企业的平台产品恢复正常的运营，让真实用户流畅使用产品与服务，企业能在符合合规要求下安全展业，还维护了平台的公信力。

深耕反欺诈多年 ADVANCE.AI为出海企业保驾护航

合成身份欺诈是直播社交行业必须面对的问题，随着技术的不断发展，欺诈手段也在不断更新。 作为全球领先的数字身份验证服务公司， ADVANCE.AI 能够为企业提供先进的深度伪造检测解决方案，以有效降低风险。通过结合先进的人工智能算法、机器学习模型、成熟的业务知识和落地经验，ADVANCE.AI使企业能够验证用户身份并防范与深度伪造相关的欺诈。

ADVANCE.AI 一直致力于走在技术进步的最前沿，不断增强自身产品对Deepfake深度伪造的检测能力。通过与 ADVANCE.AI合作，企业客户可以对用户身份真实性进行可靠验证，并保护自己免受不断变化的威胁环境的影响。我们相信，借助 ADVANCE.AI 的技术力量，出海企业能够更加轻松地应对深度伪造欺诈的挑战并赢得市场。

审核编辑 黄宇