医疗保健行业似乎是部署人工智能系统的理想场所

医疗保健行业似乎是部署人工智能系统的理想场所。每次的医学检测、医生诊断及过程，都是被记录下来的，而且患者的医疗记录正越来越多地以电子格式存储。人工智能系统可以分析这些数据并得出结论，指出如何提供更好的和更具成本效益的护理。

许多研究人员正在建立这样的AI系统。医学和计算机科学期刊上发表了很多介绍实验性AI系统的文章，这些AI系统可以解析患者记录，扫描影像，并给出关于患者健康情况的诊断和预测。然而，这些系统还鲜有进入医院和诊所以发挥其价值的。

阻碍因素是什么呢？匹兹堡大学医学院的研究员和医生ShinjiniKundu说，障碍并不在于技术方面。“障碍主要在信任方面，”她说。“你可能有一项很棒的技术，但你如何让人们使用这项技术并信赖它呢？”

大多数医疗AI系统都是摄入数据后给出答案的“黑匣子”。以他们不理解的推理为基础进行治疗，医生们对此心存担忧，这是可以理解的。因此，研究人员正在尝试各种技术来创建能展示其如何工作的系统。

给我们画一幅图

Kundu最近在联合国的AIforGood会议上介绍了她的研究。她正致力于研究对医学图像进行分析并解释其所见的AI。她的系统包含一个机器学习组件，该组件检查诸如MRI扫描影像等的图像，并找出医生感兴趣的图案。

在Kundu最近的实验中，AI分析了若干膝关节MRI影像并预测了哪些膝盖会在三年内发生骨关节炎。然后，使用一种称为“生成建模”（generativemodeling）的技术，AI创建了一幅新图像——一幅显示出膝盖肯定会发展这种状况的MRI影像。Kundu说他们启用了一个黑匣子分类器来生成这些新图像。

照片来源：上图，OsteoarthritisInitiative；下图，UniversityofPittsburghSchoolofMedicine。

预测的力量：人类的眼睛无法分辨出那些在三年内会发生膝关节炎的患者和不会发生膝关节炎的患者的MRI扫描影像之间的区别。但AI发现了它们在软骨图案部分的微妙差异，并向研究人员展示了这些差异。

AI系统生成的图像显示，它是基于显示在MRI扫描影像中的软骨的细微变化（人类医生没能注意到它们）来做出预测的。Kundu说：“这是这项工作另一个很重要的方面。它帮助人类了解关节炎的早期发育过程可能是怎样的。”

现在你看到了什么？

加利福尼亚大学的助理教授和执业心脏病专家RimaArnaout训练了一个神经网络来对超声心动图进行分类（超声波扫描对于心脏疾病的诊断是至关重要的）。在今年3月份的NPJDigitalMedicine期刊上，发表了她对其第一版AI系统的介绍。在从对心脏进行透视的角度分类低分辨率的图像上，该系统所做的分类结果比心脏科医生所做的要更准确。该系统的下一版本将使用这些信息来识别视野中的解剖结构并诊断心脏疾病和缺陷。

图片来源：Rima Arnaout

但这样的诊断系统不太可能被医生们接受：“我永远不会因为计算机让我这样做就做出与我自己的判断不相符的诊断，”Arnaout说。为此，她使用了两种技术来理解她的分类器是如何做出决定的。在遮挡实验中，她对待测图像的部分区域进行了遮挡，看看AI的答案会如何改变；通过显着性映射，她将神经网络给出的最终答案向原始图像追溯，以发现哪些像素承载的权重最大。

这两种技术都显示了AI依赖图像的一部分来做出决策。令人鼓舞的是，对人工智能决策贡献最大的结构也是人类专家认为重要的结构。

超越相关性

微软研究院的首席研究员RichCaruana几十年来一直致力于创建不仅智能而且易懂的机器学习模型。他的人工智能使用医院的电子健康记录来预测患者的预后情况。但他发现，即使是看似高度准确的模型，也会隐藏着严重的缺陷。

在他正进行的一项研究中，他训练了一个机器学习模型，用来区分应住院治疗的肺炎高风险患者和可以在家休养的肺炎低风险患者。该模型发现患有心脏病的人死于肺炎的可能性较小，并自信地断言这些患者风险较低。

Caruana解释说，被诊断患有肺炎的心脏病患者在风险高低方面之所以有更好的输出结果，并不是因为他们就是风险低，而是因为他们通常在一出现呼吸问题时就去急诊室，因而第一时间得到了诊断和治疗。“模型发现的相关性是真实的，”Caruana说，“但如果我们用它来指导医疗干预，那么实际上我们会受到伤害，甚至可能会害死一些病人。”基于这样的发现，他现在正在研究能清楚地显示变量之间关系的机器学习模型，以便让他能判断模型是否不仅在统计学上是准确的，而且在临床上也是有用的。