基于深度学习的替代模型的性能优于模拟器

劳伦斯·利弗莫尔国家实验室（LLNL）的科学家报告说，由神经网络支持的替代模型在性能上和在某些方面要比计算昂贵的模拟器好，并且在某些方面要好一些，并且可能导致对诸如惯性约束聚变（ICF）等复杂物理问题的新见解。

在美国国家科学院院刊（PNAS）上发表的一篇论文中，LLNL研究人员描述了深度学习驱动的流形与循环一致（MaCC）替代模型的开发，该模型结合了能够快速准确模拟的多模式神经网络。复杂的科学过程，包括ICF中涉及的高能密度物理学。

该研究小组将该模型应用于在国家点火设施（NIF）进行的ICF爆破中，该爆破中使用了计算成本高的数值模拟器来预测由该设施的高能激光产生的冲击波所爆破的目标的能量产出。将神经网络支持的替代结果与现有模拟器进行比较，研究人员发现该替代可以充分复制该模拟器，并且在广泛的指标范围内，其替代模型的性能明显优于当前最新水平。

“我们正在处理的一个主要问题是‘当您拥有大量不同类型的数据时，如何开始使用机器学习？”LLNL的计算机科学家兼主要作者Rushil Anirudh说。“我们提出的建议是通过找到一个公共空间来找到所有这些模式，例如高压或高温，并在该空间中进行分析，从而使问题更简单。我们要说的是，深度学习可以捕获所有这些模式之间的重要关系。不同的数据源，并为我们提供了所有数据的紧凑表示。”

Anirudh补充说：“这样做的好处不仅在于它使分析变得容易，因为现在您拥有所有这些模态的共同空间，而且我们还表明，这样做实际上可以为您提供更好的模型，更好的分析并且客观上比基线方法更好。”

Anirudh解释说，使用神经网络可以在一秒钟之内完成同样需要数值模拟器半小时才能完成的模拟。计算机科学家和合著者Timo Bremer解释说，也许比节省计算时间更有价值，这是深度学习替代模型在ICF测试用例中分析大量复杂的高维数据的能力。用于库存现代化工作。结果表明，这种方法可能会导致新的科学发现以及执行和分析仿真的全新技术。

Bremer解释说，这对于NIF尤为重要，因为科学家们尚未完全理解为什么模拟与实验之间存在差异。将来，深度学习模型可能会激发出以前不存在的功能，并为科学家提供一种方法来分析从每个NIF镜头的诊断收集到的大量X射线图像，传感器数据和其他信息，包括布雷默说，之所以没有被合并是因为其中太多的东西无法由人类单独进行分析。

布雷默说：“该工具为我们提供了一种将模拟与实验联系起来的根本不同的方式。”“通过建立这些深度学习模型，它使我们能够直接预测模拟数据的全部复杂性。利用这个共同的潜在空间将所有这些不同的模式和不同的诊断方法相关联，并使用该空间将实验与模拟联系起来，不仅对于特定的科学领域，而且对于试图将计算科学与实验科学相结合的一切事物，都是非常有价值的。这可能以目前尚不可行的方式潜在地带来新的见解。”

将替代模型的预测结果与通常用于ICF实验的模拟器进行比较，研究人员发现，MaCC替代在误差和预期的能量产出量方面与模拟器几乎没有区别，并且比其他类型的替代模型更准确。研究人员说，MaCC模型成功的关键是正向和反向模型的耦合以及对它们的数据训练。代理模型使用数据输入进行预测，然后通过逆模型运行这些预测，以从输出中估计输入可能是什么。Anirudh说，在训练过程中，代理人的神经网络学会了与逆模型兼容，这意味着错误不会像以前那样积累太多。

“我们正在探索这种自洽的概念，”阿尼鲁德解释说。“我们发现将反问题纳入代理建模过程实际上是必不可少的。这使问题更具数据效率，并且更加健壮。当将这两部分放在一起时，反模型和所有模态的公共空间，您将获得具有所有其他这些理想属性的宏伟的代理模型-它在数据量较少的情况下更高效，更好，并且还可以对抽样工件进行恢复。”

研究小组表示，基于机器学习的替代方法的好处在于，它们可以加快极其复杂的计算，并有效地比较各种数据源，而无需科学家扫描大量数据。研究人员说，随着模拟器变得越来越复杂，产生更多的数据，这种替代模型将成为科学发现的基本补充工具。

计算机科学家兼合著者Jayaraman Thiagarajan说：“即使模拟变得更加复杂，我们构建的工具也将非常有用。”“明天我们将获得新的计算能力，更大的超级计算机和更准确的计算，并且这些技术将仍然适用。我们惊讶地发现，您可以为基础的复杂仿真生产非常强大的仿真器，而这在其中变得非常重要。”

蒂亚加拉扬继续说：“只要您可以使用数学模型近似基础科学，我们探索太空的速度就会变得非常非常快……这有望在将来帮助我们更快地，更迅速地发现科学成果。我们相信，即使我们将其用于特定的应用程序，该方法仍可广泛应用于一般的科学保护伞。”

研究人员说，MaCC替代模型可以适应模式，新类型的传感器或成像技术的任何未来变化。由于其灵活性和准确性，该模型及其深度学习方法（在LLNL中被称为“认知模拟”或简称为CogSim）正被应用于实验室内的许多其他项目，并正在过渡到计划性工作，包括努力在不确定性量化，武器物理设计，磁约束聚变和其他激光项目中。

MaCC是实验室更广泛的认知模拟总监倡议的关键产品，由首席研究员和LLNL物理学家Brian Spears领导，并通过实验室指导研究与开发（LDRD）计划资助。该计划旨在推进广泛的AI技术和计算平台，这些技术和计算平台旨在通过更有效地将精确度仿真与实验数据结合来改善科学预测。通过专注于关键任务空间的需求以及AI带来的机遇和计算进步，该计划帮助了LLNL在将AI应用于科学方面的领先地位。

Spears说：“ MaCC结合多个与科学相关的数据流的能力为各种新分析打开了大门。”“这将使我们能够从迄今为止尚无法访问的最有价值，关键任务的实验和仿真数据集中提取信息。与新的相关CogSim工具套件一起充分利用这些信息将迅速而直接地改善预测性楷模。”