将AI置于SWaP的保护伞下

减小尺寸、重量和功耗 （SWaP） 的要求也影响着人工智能 （AI） 和机器学习 （ML） 设计。

“将商业和消费者人工智能加速器硬件技术转化为军用/航空平台通常需要的可部署、坚固耐用、尺寸、重量和功率（SWaP）受限的系统”是一项挑战，Abaco Systems（阿拉巴马州亨茨维尔）首席软件工程师David Tetley说。

减少的SWaP往往与基于云的解决方案没有协同作用，这些解决方案似乎具有无穷无尽的虚拟空间供应。

不幸的是，现实情况是“许多军事系统都受到SWaP的限制，这挑战了当今AI / ML解决方案的假设，”风河（加利福尼亚州阿拉米达）航空航天与国防副总裁Ray Petty解释说。“当今的解决方案通常是在云或企业环境中开发的，假设可用连接（如带宽和延迟）以及可用的计算资源（如可扩展性、内存和 CPU 灵活性）。

另一个挑战是管理可能非常耗费资源的 ML 系统的资源。

值得庆幸的是，“我们看到最近获得大量报道的大多数深度学习ML系统在训练时都是非常资源密集型的，但在运行时并不是特别密集，”Charles River Analytics首席科学家Avi Pfeffer说。“这意味着如果它们非常适合该问题，它们是降低SWaP系统的不错选择;也就是说，有足够的数据来训练他们。

然而，在设计传统上受SWaP约束的ML / AI密集型系统（如飞机）时，空间成为一个问题。

“我们一直致力于将人工智能应用于构建安全系统，例如用于检测我们为空军研究实验室建造的飞机航空电子系统中运行的恶意软件的系统，”Charles River Analytics（马萨诸塞州剑桥）的首席科学家Terry Patten说。“我们发现，有关系统运行状况的最佳信息来源之一，也是实时攻击中缓解资源的最佳来源之一，是冗余，这对于减少SWaP的系统来说是有问题的。

在管理 SWaP 约束时，加固也可能很棘手。

“尺寸可能是最具挑战性的制约因素之一，因为大型设备比小型设备更难加固，”Mercury Systems（马萨诸塞州安多弗）首席产品经理Devon Yablonski说。“大多数经过高振动测试并以BGA形式提供的嵌入式部件都是低功耗部件，它们牺牲了其‘全尺寸’对应物的许多功能，而这些功能正是这些新的ML和AI应用程序所期望的功能。例如，当今许多处理器上的高带宽内存（HBM）无法很好地处理高温，因此在嵌入式芯片上并不常见。对内存的高速访问对于ML和AI应用程序至关重要。

问题在于，用户无法“在SWaP受限的系统中部署广泛用于AI的高功率，服务器级CPU和GPU，因此我们需要使用移动级设备［因为它们的功耗更低，散热设计更低］，”Tetley解释说。“理想情况下，这些设备包括特定的AI加速功能，可提供出色的每瓦IOPS ［每秒推理操作］。这方面的一个例子是 NVIDIA 图灵类 GPU 和 NVIDIA Xavier SoC ［片上系统］ 上的深度学习加速器。此外，您需要确保通过使用 NVIDIA 的 TensorRT 等工具高度优化您部署的神经网络（或“推理引擎”）。这确保了软件针对目标嵌入式硬件架构进行了理想优化，从而尽可能高效地运行。

通常，SWaP 要求与许多 ML 模型和解决方案不兼容。

Petty补充说，同样重要的是要注意，“许多军事系统的SWaP约束与这些假设不兼容，需要重构AI / ML解决方案。“然而，重构与AI / ML解决方案对工业控制，医疗和汽车等其他市场的适应是一致的，并且解决方案可以跨领域利用。

当然，在商业领域，人工智能/媒介与信息素养领域的统治君主“是世界上的Facebook、谷歌和亚马逊，”Yablonski说。“他们对最小化尺寸、重量和功耗的要求有限，除了如果可以减少其中任何一个，他们可以构建更高效的数据中心。英特尔、英伟达、AMD等芯片供应商迎合了这些市场。尽管追求很重要，但防御的数量要低得多。要从商业领域获得高性能芯片和产品，这些芯片和产品在我们的市场上具有生存能力，并考虑到功率限制（每台计算机通常为100-200瓦）和尺寸限制，这是一项挑战。

审核编辑：郭婷