智能时代的攻守之道！瑞莱智慧如何为AI产业打好安全底座？

（电子发烧友网报道 文/章鹰）2021年，随着5G网络和AI应用的大规模部署，更多数据、更多设备进入互联网络，终端AI、边缘AI、云上AI大规模运行，但同时AI算法自身的安全漏洞、AI技术滥用，还有AI系统引入的第三方组件被黑客攻击等新型安全问题给企业智能化转型带来日益严峻的挑战，如何在AI技术大规模发展的当下，构建智能安全的新底座，建立防护机制？

图：瑞莱智慧科技公司副总裁 唐家渝

12月27日，在深圳会展中心举办的第十八届中国国际社会公共安全博览会上，来自清华人工智能研究院的官方产学研机构瑞莱智慧科技公司的副总裁唐家渝接受电子发烧友专访，就瑞莱智慧公司的市场定位是什么？瑞莱智慧安全AI领域的旗舰产品如何助力智能企业做好安全防护？带来了精彩的市场前瞻和产品分析。

应对严峻的安全挑战，瑞莱智慧建立独辟蹊径的商业定位

2018年7月，瑞莱智慧RealAI公司成立，它是清华大学人工智能研究院发起成立的科技成果转化企业，是全球领先的安全可控人工智能基础设施和解决方案提供商。团队由中国科学院院士、清华大学人工智能研究院名誉院长张钹和清华大学计算机系教授朱军共同担任首席科学家，清华大学计算机系博士田天出任CEO。团队博士占比超30%，累计获得各项知识产权百余项，授权发明专利近五十项。

图：瑞莱智慧安博会展台

瑞莱智慧副总裁唐家渝表示，伴随规模化建设和应用加速发展，保证人工智能“安全、可靠、可控”成为其未来发展最重要的趋势。瑞莱智慧聚焦安全、可控的人工智能基础设施建设。围绕这一战略定位，瑞莱智慧首先在底层技术上发展第三代人工智能新范式。

据悉，清华大学人工智能研究院院长、中国科学院院士张钹教授最早提出发展“第三代人工智能”。他认为，第三代 AI 发展的思路是把第一代的知识驱动和第二代的数据驱动结合起来，通过利用知识、数据、算法和算力等4个要素，构造更强大的 AI，建立新的可解释和鲁棒的AI 理论与方法，发展安全、可信、可靠和可扩展的 AI 技术，这是发展 AI 的必经之路。

其次在核心业务上，瑞莱智慧聚焦三大方向：首先算法可靠，基于世界领先的对抗攻防技术检测算法漏洞，提供防御加固，进一步提升AI系统安全性。其次数据安全，针对AI落地过程中可能引发的隐私数据泄漏等问题，采用隐私计算等新兴技术手段，实现数据可用不可见，保障数据的安全流通和使用；最后针对AI换脸等技术滥用现象，开发相应的检测工具，引导技术的可控应用。

唐家渝表示，人工智能应用是集算法、数据、业务于一体的有机整体，涉及训练、检验、运行等生命周期阶段，所以应面向所有关键流程和要素，布局全面且有针对性地应对措施。同时他表示，随着公众对于AI安全性的关注度提升，以及监管政策的出台和引导，未来AI行业将进入发展与治理协同的新阶段，如何保证AI应用的安全性是一个重要命题，安全AI这一新兴领域将很快迎来爆发。

AI安全防火墙+AI杀毒软件 两大旗舰产品展示

“今年比较出圈的一件事情是，我们通过一幅对抗样本图像可以解锁多种多样的人脸识别系统，无论是安防门禁、考勤系统和手机刷脸解锁都可以攻破。”唐家渝解释道，“数据驱动”的深度学习算法存在不可靠、不可解释等局限性，即便是开发者也难以理解其内在的运行逻辑，这就导致系统可能遭受到难以被察觉的恶意攻击。

记者在走访瑞莱智慧的展台时，一件AI版“隐身衣”引人瞩目。瑞莱智慧开发的这款特制T恤，衣服上印刷了特定的图案，能够让识别算法出错、捕捉不到目标，人一旦穿上便可以实现“隐身”。据介绍，衣服上看似奇怪的图案就是针对算法漏洞生成的“对抗样本”图案，能够误导识别算法使其出错。

图：AI版“隐身衣”演示

除此，还有更多新型攻击手段出现。唐家渝补充道，“一些黑产分子通过不法手段采集到人脸识别信息数据后，用AI算法驱动它生成各种各样的表情，这样的图像可以成功地攻破某些银行的APP，攻破人脸识别系统，后续的登录操作、转帐操作都可以正常进行，这也是数据泄漏很直观的风险所在。”

为了抵御类似的攻击，瑞莱智慧研发了业内首个AI安全防火墙系统，通过集成多项国际领先的对抗防御算法，能够有效检测和抵御对抗样本攻击和AI换脸等新型攻击风险，实现人脸识别、目标检测等计算机视觉场景的安全加固升级，可用于安防门禁、人脸身份核验、人脸解锁等场景的安全防护，大幅提升人工智能系统的安全性。

除此，瑞莱智慧推出了业内首个业务级人工智能安全平台RealSafe，提供模型安全性测评及防御加固的端到端解决方案，类似于AI系统的杀毒软件。相较于IBM ART、Google CleverHans等开源工具，该平台开箱即用，无需具备专业的算法安全知识和研发经验，同时首创黑盒测评，支持在被测方不暴露被测AI模型参数等信息的情况下进行测评，优势显著。

“这是深度学习算法存在的结构性缺陷，刷脸支付、刷脸解锁等人脸识别应用，智能手机、智能闸机，以及线上APP、第三方支付平台等智能系统均面临对抗样本攻击、数据投毒等攻击威胁。为此，瑞莱智慧基于RealSafe平台，能够全面挖掘模型漏洞，从根本上发掘并解决可能影响业务正常运行的安全漏洞。” 唐家渝重点介绍道。

谈及两大产品的不同之处，唐家渝表示，AI防火墙是通过检测外部访问、输入数据、行为决策等抵御安全风险，人工智能安全平台则是为算法模型进行全面的体检并提出改进方案，从根本上提升系统安全性。

截止目前，瑞莱智慧AI产品和解决方案已经在政务、金融、能源、互联网等领域落地，服务于中国石油、中国电建、长安汽车、浦发银行等在内的数十家大型企业机构。最后，唐家渝表示，信息领域的安全是攻防博弈的过程，安全AI也同样如此，需要不断升级算法，更快一步的发现和抵御住新型风险。未来，瑞莱智慧将持续聚焦于国际领先的AI安全攻防技术研发和产业化实践，护航智能产业安全可控地蓬勃发展。


本文为原创文章，作者章鹰，微信号zy1052625525，转载请注明以上来源。如需入群交流，请添加微信elecfans999.