“如果一台机器能够与人类展开对话（通过电传设备）而不能被辨别出其机器身份，那么称这台机器具有智能”——1950年，艾伦·图灵提出了著名的图灵测试。

图灵测试不仅首次从行为的角度对“智能”做出了清晰定义，也直接引申出了科技发展所具有的两面性，一方面机器智能会越发接近或超过人类，而另一方面更强的AI也不可避免会带来更多人类无法辨别的风险。

2023年以来，伴随各类生成式超大模型爆发，“通过AI换脸和拟声技术佯装熟人实施诈骗”等AI新型骗局频繁登上新闻头条，引发广泛社会关注。

除了提高全民反诈意识，还有哪些方法可以预防“新科技”骗局？

推动AI可信，强化新技术安全治理。针对“AI深度伪造（DeepFake）内容”在全球范围内病毒式传播，商汤科技从技术源头出发，针对性打造两把技术盾牌，并快速应用于各类AI产品中。 ▎深伪检测+数字水印，让AI诈骗显行

商汤在涉及隐私保护、数字取证及伪造检测等领域的人像合成技术有着广泛积累，并逐步开发了基于生成、鉴伪和溯源三位一体的综合鉴伪解决方案。

为在伪造鉴别这场“攻防战”中夺得先机，商汤打造了高效的对抗体系。

包括自建囊括数十种先进攻击手段的伪造生成平台，为鉴伪检测和溯源提供丰富多样的攻击案例和海量数据支持。并可通过持续集成先进伪造算法，在zero/few-shot场景下快速响应难例样本和长尾类型，帮助提升鉴伪算法的泛化性。

“防”的层面，商汤训练的伪造检测大模型，可充分利用面部表情一致性、动作序列连贯性，并结合频谱、声音和文字等多模态信息，准确鉴别包括PS、换脸、活化以及各种先进扩散模型（如：Stable Diffusion）合成的高清人像。主流评测数据集上算法检测精度可达到99%以上，在应对新技术复合伪造方法上（如：通过MidJourney），检测能力也高出行业同类产品20%以上。

作为伪造鉴别中的最后一环，溯源可追踪伪造数据的数据物料源头、伪造过程以及核心伪造方法。商汤通过自研基于解耦-重建的伪造检测算法，能够从伪造数据中分离出真实内容及伪影痕迹。在针对10余种主流伪造算法溯源上，准确率超过90%，同时还可给出数据中的相关伪造痕迹，提高检测算法的可解释性和可信度。这一技术为行业首创，并作为数字取证技术成功落地司法领域。目前，商汤综合鉴伪解决方案已投入实战，为十余家银行的安全系统提供服务，对各类灰黑产攻击拦截成功率超行业同类产品20%以上，有效防范了灰黑产身份盗取、支付盗刷等网络诈骗。

在AIGC技术大爆发时代，每天都会出现新的生成方法，仅仅依靠深伪检测技术存在一定漏检风险，从生成平台源头加入数字水印技术可以构成强力双保险。

商汤数字水印结合频域分析、深度学习、扩散模型等技术，将特定信息嵌入到数字载体中，同时不影响载体的使用价值，也不易被人的知觉系统察觉，只有通过特定的解码器和专属密钥才能提取，可实现篡改内容的检测且水印不可窃取。 数字水印技术可在AIGC相关产品发布时加入，能够有效增强深伪检测的可靠性，甚至进一步影响生成效果，从源头上遏制深度伪造，实现主动防御。具体应用中，商汤数字水印技术可用于版权保护，防伪溯源等场景，支持图像、视频、音频、文本等各种模态的数字载体，在不同程度的干扰下(裁剪、压缩等)能保证99%+的水印提取精度，且不影响数据本身质量(如高清图画质)，在保证水印信息容量大(256位)以及安全性(通过密钥加密)的同时具备足够的隐蔽性以及鲁棒性。此外，数字水印技术也响应了《生成式人工智能服务管理办法（征求意见稿）》监管要求。

目前，商汤数字水印技术已服务于“商汤秒画SenseMirage”、 “商汤如影SenseAvatar”等多个产品，以及内容创作、大数据客户。

▎持续推进可信AI体系化建设

提升AI安全治理水平、推动AI可持续发展，是行业健康成长的根基，也是商汤科技的责任。

多年来，商汤积极释放在可信AI领域的技术沉淀和实践经验，产生一系列成果：