机器学习功能安全的算法选择标准

在 这三部分系列的第一部分中，作者调查了机器学习技术在高度自动化驾驶场景中的驱动因素和潜在应用。第二部分定义了机器学习技术的理论背景，以及汽车开发人员可用的神经网络类型。第三部分在功能安全要求的背景下评估这些选项。

深度学习彻底改变了机器学习系统及其能力，但它不一定是最适合所有任务的方法。对于其他几种类型的应用，使用传统的模式识别方法（例如逻辑回归、朴素贝叶斯或 k 均值聚类）可能更合适。因此，选择正确的机器学习算法的标准是必要的。这些标准如下所述。

问题的 复杂性 是控制选择的直接标准，它必须适合方法的复杂性。该标准可以转化为算法必须学习的参数数量。例如，逻辑回归算法为h_θ （x）图 8 中的映射函数学习了两个参数。深度神经网络可能需要学习数百万个参数才能获得与逻辑回归方法相似的结果。第 11 页的图 12 显示了机器学习算法根据其复杂性排序的近似分布。

图 12： 基于复杂性的机器学习算法分类。

每个算法背后的数学是这一经验发现的基础。偏差-方差权衡是选择和构建机器学习系统时的一个重要方面。偏差是由学习方法做出的错误假设所产生的误差。它与欠拟合问题直接相关。高偏差算法无法找到输入特征和目标标签之间的相关关系。相反，方差是该方法对输入数据中存在的随机噪声的敏感性的度量。高方差系统可能导致过度拟合，其中算法模拟随机噪声而不是实际输入特征。在实践中，必须在偏差和方差之间进行权衡，因为这两个量彼此成比例。另一个应该考虑的标准是调整参数的数量数据工程师在训练分类器时需要调整。

最后，还需要考虑输入数据的性质。特征空间中数据的线性分离在现实世界中是不寻常的。但可以说，对于某些应用，可以假设线性。这方面的一个例子是在第 3 节开头描述的基于大小和速度的汽车和非汽车对象的分类。这个假设对于选择合适的机器学习方法至关重要，因为线性分类器更快、更有效与非线性分类器相比，可以线性分离的数据。

功能安全注意事项

功能安全是系统整体安全的一部分。ISO 26262“道路车辆 - 功能安全”描述了道路车辆电气和电子 （E/E） 系统的开发。通过各种活动或技术解决方案使系统变得安全。这些所谓的安全措施反映在指定要求、创建架构和设计以及执行验证和确认的过程活动中。

避免系统故障是 ISO 26262 的一个方面。人为故障一直是传统工程系统中的系统故障。此类失败的一些明显示例包括：不完整的需求和测试用例、被遗忘的设计的重要方面或未能发现问题的验证。使用机器学习时也是如此。此外，要学习的任务和相应的测试用例也都是由人类描述的。这里仍然可能发生系统性故障。因此，机器学习模型的开发需要应用最佳实践或适当的标准流程。仅此是不够的。为了控制机器学习算法中的系统故障，需要采取安全措施，鉴于未来系统元素的部分开发将通过此类算法完成。只有在两者都得到保证的情况下，才能消除这些故障。

由于机器学习在自动驾驶系统中的使用越来越多，最近人们更加关注机器学习的安全性。Amodei 等人，2016 年，讨论了与事故风险相关的研究问题以及解决这些问题的可能方法。传统软件系统中的代码必须满足特定要求，然后通过标准化测试进行检查。在机器学习中，计算机可以被认为是通过学习方法来接管对模块进行“编程”的任务。这种“编程”表示在考虑第 3 节中介绍的技术背景时学习算法的参数或权重。学习过程通常是随机的，这意味着无法定义硬性要求。因此，机器学习组件是一个黑盒系统。因此，

环境传感器及其相关处理所起的决定性作用超出了功能安全的要求，尤其是在高度自动驾驶的情况下。预期功能的安全性 （SOTIF） 与用于确保预期功能的安全关键方面正确执行的方法和措施有关，同时考虑到传感器和处理算法。然而，对于传统工程系统和机器学习系统，这个问题必须得到澄清，它仍然是正在进行的讨论的主题。

虚拟模拟器内的分析是公开此类算法的一种方法。我们将这种方法用于第 2.2 节中介绍的自学习系统的实验。在将机器学习系统部署到现实世界的汽车之前，理论上可以在这样的模拟环境中学习和评估无限数量的驾驶情况。

现在机器学习已经从游戏和模拟发展到现实世界的汽车应用程序，生命危在旦夕。如前所述，功能安全问题因此变得越来越重要，这也影响到科学界。结果之一是研究在模拟中对不同机器学习和人工智能算法进行基准测试的方法。OpenAI Gym （Brockman et al. 2016） 就是这样一个模拟器，它是一个用于开发和比较强化学习算法的工具包。

结论与展望

最近的成就推动了基于机器学习的功能在高度自动驾驶中的应用。最初的原型确实产生了有希望的结果，并在解决相关的复杂问题时显示了优势。然而，尽管机器学习可能是合适的，但仍然存在大量挑战。首先有必要为给定任务选择正确的神经网络类型。这种选择与应用的学习方法、必要的预处理和训练数据的数量有关。关于将整体驾驶任务分解为更小的子任务的最佳方法仍然存在讨论。深度学习技术能够实现端到端的方法，而无需任何分解，但目前认为这在验证和确认能力方面不太合适。机器学习社区需要开发增强的方法，尤其是为了满足功能安全要求，这是相关功能成功工业化的基础。

Elektrobit 坚信机器学习具有重塑未来汽车软件和系统格局的潜力，尽管挑战依然存在。为此，已经开始了两个方面的调查。第一个是应用基于机器学习的方法作为高度自动化驾驶场景（选定子集）的解决方案，例如上述用例。EB robinos 参考架构以及与 NVIDIA 的合作伙伴关系等都有助于开发环境。其次，Elektrobit 利用其在功能安全和汽车软件工业化领域的专业知识，将其合作伙伴和客户的这些想法和产品变为现实。

审核编辑：郭婷