OpenAI发布了Microscope

OpenAI今天发布了Microscope，这是一个神经元可视化库，从九个流行的或大量的神经网络开始。总而言之，该集合包含数百万张图像。Microscope可以像实验室中的显微镜一样工作，可以帮助AI研究人员更好地理解具有成千上万个神经元的神经网络的结构和行为。

Microscope的初始模型包括历史上重要且普遍研究的计算机视觉模型，如2012年ImageNet挑战赛冠军AlexNet，AlexNet在研究中被引用超过50000次，还有2014年的ImageNet冠军GoogleNet（又名Inception V1）和ResNet v2。每个模型可视化都有一些场景，图像可以在OpenAI Lucid库中使用，以便在Creative Commons许可下重用。

OpenAI在今早介绍Microscope的博客中说，它希望Microscope将有助于通过理解神经元之间的连接来反向工程神经网络的电路协作工作。

除了Microscope下的神经元可视化之外，近年来的一些工作还试图可视化机器学习模型的活动。Facebook的Captum于去年秋天推出，它使用可视化技术来解释机器学习模型做出的决策；在2019年3月，OpenAI和谷歌发布了用于可视化机器学习算法做出的决策的激活地图技术；还有一个流行的TensorBoard工具，用于训练机器学习模型时的可视化。

对于此次发布的Microscope，主要价值在于提供持久的共享工件以促进对这些模型的长期比较研究，可以让具有相邻专业知识的研究人员（例如神经学）能够更轻松地处理这些视觉模型，这将对很多科技领域带来一个提升。