清华大学联合发布涵盖数十种典型攻防算法的AI攻防对抗基准平台

人工智能，这项引领新一轮科技革命和产业变革的战略性技术，正成为世界主要国家赢得全球竞争主动权、推动科技跨越式发展、实现产业优化升级的重要战略抓手。

但伴随着全球人工智能规模化建设和应用加速，随之而来的人工智能基础设施、设计研发以及融合应用面临的安全风险日益凸显。

世界上的主要国家纷纷制定人工智能伦理准则、完善法律法规、完善行业管理来开展人工智能安全治理。

人工智能安全提上未来国家战略

《中华人民共和国国民经济和社会发展第十四个五年规划和 2035 年远景目标纲要》里专门提出了要 “加强网络安全关键技术研发，加快人工智能安全技术创新，提升网络安全产业综合竞争力”。

“人工智能安全” 作为未来国家战略、政府工作的组成部分，足以体现了人工智能安全的重要性。

5 月 28 日，最高领导在两院院士大会、中国科协第十次全国代表大会上表示，科技是发展的利器，也可能成为风险的源头。要前瞻研判科技发展带来的规则冲突、社会风险、伦理挑战，完善相关法律法规、伦理审查规则及监管框架。要深度参与全球科技治理，贡献中国智慧，塑造科技向善的文化理念，让科技更好增进人类福祉，让中国科技为推动构建人类命运共同体作出更大贡献。

6 月 3 日，北京智源大会期间，围绕人工智能安全话题展开的 “AI 安全与产业治理” 论坛召开。2018 年图灵奖得主约书亚・本吉奥（Yoshua Bengio）、中国科学院院士鄂维南、清华大学国家金融研究院院长朱民等来自国内外人工智能领域的 200 余位顶尖专家参加了本次会议。

在 “AI 安全与产业治理” 主题论坛中，中国科学院院士、清华大学人工智能研究院院长张钹在致辞中表示，AI 的发展带来了新的风险和安全隐患。因此我们既要抓 AI 的创新发展，又要抓 AI 的治理，两手都要抓。他提出要发展融合第一代的知识驱动和第二代的数据驱动的 “第三代人工智能”，利用知识、数据、算法和算力 4 个要素，建立新的可解释和鲁棒的 AI 理论和方法，从而发展安全、可信、可靠和可扩展的 AI 技术。这样发展第三代 AI 和 AI 治理一起抓，以达到相辅相成共同发展。

中国信息通信研究院安全所信息安全研究部主任魏薇表示，人工智能与数据产业互促发展的同时安全问题也交织影响，一方面人工智能面临的自身数据安全风险、应用导致的数据安全风险以及应用加剧的数据治理挑战日益凸显；另一方面，人工智能也为数据治理工作提供自动化、智能化、高效化、精准化的智慧支撑。魏薇从伦理规范、法律法规、标准体系、技术手段、人才培养等角度提出了多项数据安全治理建议，为实现人工智能行业数据安全合规实践提供理论支撑。

AI 安全评估平台发布

6 月 3 日，北京智源大会期间，在 “AI 安全与产业治理”主题论坛上，清华大学联合 RealAI 等企业发布了一款公平、全面的 AI 攻防对抗基准平台。

此次推出 AI 对抗安全基准基本上包括了目前主流的人工智能对抗攻防模型，涵盖了数十种典型的攻防算法。除此之外，本次发布的 AI 安全排行榜也包括了刚刚结束的 CVPR2021 人工智能攻防竞赛中诞生的排名前 5 代表队的攻击算法，进一步提升了该安全基准的科学性和可信性。

据 RealAI 项目的北京瑞莱智慧科技有限公司 CEO 田天介绍，RealAI 团队目前围绕打造安全可控人工智能基础设施已经进行了一系列布局，基于自主创新的核心技术，研发了围绕数据安全、算法可靠、应用可靠等一系列领先的人工智能算法和平台。包括在数据安全共享基础设施 RealSecure，通过打通数据孤岛将数据计算环节移动到数据端，解决数据风险和隐私泄露的问题，提升人工智能本身效果；在算法的首个人工智能安全平台 RealSafe，通过内置的攻防算法对各类的人工智能提供端到端的攻防解决方案，提高人工智能系统安全性。

清华大学计算机系教授、RealAI 首席科学家朱军介绍说，“通过对 AI 算法的攻击结果和防御结果进行排名、比较不同算法的性能，建立 AI 安全基准具有重要学术意义，可以更加公平、全面地衡量不同算法的效果。”

清华方面介绍，本次发布的 AI 安全基准也是依托清华大学人工智能研究院研发的人工智能对抗安全算法平台 ARES 建立。ARES 作为古希腊神话中的战神，集中体现了 AI 安全算法攻防博弈的特点。该平台对主流的攻防算法实现了模块化的设计，支持数十种主流攻防算法的实现，可以方便研究者和开发人员进行使用，有助于推动 AI 对抗攻防领域的发展。

田天表示，第三代人工智能通过释放“数据、知识、算法、算力”的全新维度，为实现安全可控的新一代人工智能提供可能，让人工智能走出“浅层智能”的舒适区，重塑全新的产业价值。

在安全可控的助力下，“深度智能”时代正加速到来，人工智能在各行业领域的应用广度和深度将不断得到拓展。人工智能的未来图景充满想象，但要实现真正的人工智能，未来的道路仍面临许多挑战。

编辑：jq