阿里携手IJCAI共同发起AI对抗算法竞赛

1月23日，阿里安全、阿里云天池平台联合人工智能领域国际会议IJCAI（International Joint Conference on Artificial Intelligence），共同发起AI对抗算法竞赛，探索在对抗攻击时，如何解决 AI 模型的安全性问题。目前，赛题和日程已在阿里云天池平台公布。

这次比赛主要针对图像分类，包括模型攻击与模型防御，公开110个类目，共计约11万张图片，供选手使用。参赛选手可以作为攻击方，对图片进行轻微扰动生成对抗样本，使模型识别错误或识别成指定的错误类别；同时也可以作为防御方，构建一个更加鲁棒的模型，准确识别对抗样本。

该比赛强调面向真实场景，因此竞赛采用实际场景的图片识别任务进行攻防对抗。除真实数据外，还包括对计算量的严格限制，以及对扰动噪音的限制，这更能还原真实的安全与“黑灰产”的攻防。

据悉，通过大赛发掘安全AI人才是本次大赛的预期目标之一。经过初赛、复赛和答辩，排名前三的队伍，除获得1000-5000美元不等的奖金外，还会被邀请参加今年8月在澳门举办的 IJCAI 会议。

IJCAI 被中国计算机学会推荐为计算机学科领域A 国际会议，从1969年开始，每两年举办一次，自2016年起改为每年举办一次。