CIIS2018高峰论坛“论AI”：智能安全的机遇与安全智能的挑战

11月18日，由360主办的“人工智能与安全专题论坛”在四川成都龙之梦大酒店召开。此论坛是中国人工智能学会主办的2018第八届中国智能产业高峰论坛组成部分，360邀请多位知名专家、学者以及产业界人士从产学研各方面进行深入交流。

在人工智能与安全专题论坛上，360智能安全研究院院长李康，北京顶象技术有限公司合伙人、首席科学家施亮，微众银行人工智能部副总经理陈天健，清华大学副教授张超，中国科学院信息工程研究所研究员、“国家优秀青年科学基金”获得者操晓春等专家学者悉数出席，并分别从AI技术在安全领域的应用实例、AI安全对抗未来等多个方面，进行了深入的交流。

360智能安全研究院院长李康，在题为《人工智能系统实现中的安全风险》演讲中指出，作为一个智能生态系统，AI的先发优势带来了更迅速的应急反应，但人工智能系统的实现细节又引入了新的攻击风险 ，复杂的软件和供应链会导致很高的软件漏洞机率，甚至恶意构造的攻击可以造成分类逃逸，数据投毒等攻击结果。

可以说人工智能是把双刃剑，为科技带来发展的同时也引发了许多安全问题。如何解决人工智能在技术、应用上可能存在的漏洞与威胁，就成了目前最需要讨论的问题。对此，顶象技术合伙人兼首席科学家施亮、微众银行人工智能部副总经理陈天健分别在金融反欺诈、联邦迁移学习应用两方面谈到人工智能应用的实践。而来自清华大学副教授张超表示，当前的攻防主要是机器辅助，严重依赖个人能力，智能化技术正在被逐步应用到攻防中去。对此，中国科学院信息工程研究所研究员操晓春则通过实际案例，指出人工智能可驱动网络空间内容安全发展。

2018年年初，国外安全研究机构公布两组可影响到包括个人电脑、服务器、云计算机服务器以及移动端的智能手机的CPU漏洞，引发全球关注；9月美国征信巨头 Equifax 曝出数据泄漏事件，波及 1.43 亿美国居民个人信息安全。

正如360集团技术总裁、首席安全官谭晓生在主论坛提到的那样，由于网络是个整体，攻击可以从任何一个薄弱点发起，且网络攻击已实现自动化和智能化，并且对物理世界可以造成直接的影响，攻防对抗中传统防护模式已失效。

在这种情况下，就需要大数据与AI来解决这些问题，相当于在网络世界中安装“摄像头”。他认为，没有攻不破的网络，所以防护重点就应该从“隔离和筑墙”过渡到“加强检测和响应”。而网络渗透和攻击都会留下痕迹，在无法判断哪些行为是攻击的情况下，要尽量多地对行为和数据进行记录：通过对海量多维数据的存储、分析、挖掘和关联，来实现快速检测发现高级威胁。

谭晓生指出，在大数据与AI的应用方面， 360的安全大脑具有完善的AI学习与分析功能，可以将海量大数据充分利用起来，将海量数据与人的智慧相结合，这对于监测预防、应急响应等都有着划时代的意义。

未来的网络空间安全将会是多线作战，网络安全从业者将会面对的是与网络犯罪、网络恐怖主义、网络战争、网络意识形态竞争的持久抗争。而如何建造更安全的网络空间安全，就需要更多像360这样深耕网络安全，布局未来网络生态的安全公司，参与其中。