AI和机器学习受五角大楼”重用”,以用来创建更强大的网络防御制度

国防高级研究计划局（DARPA）正在推行一项前所未有的机器学习“突破性”技术，即开创一种网络安全新技术，旨在同时阻止多重攻击并尽量阻止现有防御系统无法识别的新型攻击。

旨在大规模改进实时AI和机器学习的DARPA主导的“终身学习机”（L2M）计划依赖于这一基本前提：某些基于机器学习的系统可能难以识别、集成并组织某些复杂且尚未被大众认识到的新信息。

DARPA信息创新办公室项目经理和马萨诸塞大学计算机科学教授Hava Siegelmann说道：“如果面对的攻击过于不同寻常，系统可能无法识别并阻止它们。因此我希望有这种能够在实践中学习的机器学习模型。有些情况下系统并不知道该怎么做。”

新兴高科技计划的目标可以通过“实时训练”来解释。如果机器在实时进行分析的同时学习最困难或最模糊的事物，那么，正如Siegelmann解释的那样： “我们不受训练集的束缚（先前编译或存储的信息）。我们将旧数据和新数据放在一起，以便在全部培训数据上重新训练网络。“

正如Siegelmann解释的那样，存在某些从未见过的细微差别或数据排列。当然，这些都与机器学习通常可以分析的内容背道而驰。

此外，人工智能似乎也有一些限制，这意味着它可能还没有能力完全消化和吸收一些非常主观的变量，如“情感”与”本能”、某些需要通过人类认知而实现的独特决策、或任何与计算机算法、数学公式或一些纯科学分析方法不兼容的东西。

相反地，根据一些行业计算机科学家，通过利用包括语音模式、历史行为以及许多其他类型数据的数据库，AI现在处于能够处理更多主观事物的前沿。

有趣的是，Seigelmann解释说，LM2与人类生物现象有一些概念上的相似之处。她说，实时输入和输出之间的先进协同作用类似于婴儿理解周围环境的机制。

“当婴儿出生时，它一直在学习如何适应并学习。如果一个机器能够立刻将新信息添加并同步至现存数据库以快速吸收并理解它，那么它就能快速识别并计算新信息。”Siegelmann补充道。

探索与创建与计算机算法相关的生物学绝非前所未有。五角大楼科学家长期以来一直沉浸在被称为“仿生学”的学科中。在这一学科中，鸟类和蜜蜂的集群模式成为了开发无人机新算法的一种分析方式，使它们能够协调集成功能，准确群集或进行串联操作而不会发生碰撞。

除了正在迅速发展的L2M工作外，Siegelmann还强调了一项相关但又截然不同的专注于网络安全方向的探索。这项研究旨在阻止比寻常攻击更为先进的网络攻击。

这一被称为AI反欺骗鲁棒性保证（Guarantee AI Robustness Against Deception，GARD）的网络安全概念（计划）的目的在于了解一种更为复杂的新型网络攻击。正如Siegelmann所说，这一研究“使得机器学习更敏感，使人工智能更强大且更有韧性。”

GARD计划旨在开发解决新兴入侵的方法。这些入侵意在“欺骗”、“混淆”或误导它正在攻击的机器学习系统。

Siegelmann说。：“这种攻击可能涉及一种会向机器学习系统发送一些东西以使AI以一种不可预期的方式作出响应的算法，实际上是混淆并欺骗算法强迫它做出决定。”

如果此类攻击成功，攻击者可以（比如说）指示AI系统允许攻击者访问受保护的网络，并如Siegelmann所比喻的那样，“打开一扇门”。

Siegelmann根据输入和输出之间的某种协同作用对其进行了解释。DARPA的一位官员说，这种方法使网络安全能够跟踪并阻止比当前常见手法更广泛的攻击方法。

DARPA官员在一份书面声明中解释道。：“当前的防御工作旨在防范预先定义的特定对抗性攻击。它们容易败给超出其测试设计参数的攻击。GARD寻求以一种不同的方式来进行机器学习防御。“

虽然GARD的努力是基于（早已存在的）科学的，这一项目其实仍处于初级阶段。DARPA刚刚向业界发出广泛宣传以征求意见，并计划在今年12月前正式启动该计划。

Siegelmann补充说：“我们将促使AI更好地创建防御制度，通过保护现有机器或建设更新的机器学习模型，这样我们就可以保护现有的机器学习方法了。”