美国国防部应对人工智能机遇与挑战的分析-电子发烧友网

2021年1月，美国兰德公司发布相关报告，以回应美国2019年度国防授权法案（NDAA）和美国国防部联合人工智能中心（JAIC）对美国国防部（DOD）如何应对人工智能（AI）机遇与挑战的相关提问，包括：（1）美国DOD是否已经准备好利用AI技术，（2）美国DOD是否需要重新定位以便更有效、更安全地使用AI技术并扩大应用规模。

预研人工智能、量子信息等先进技术在未来国防领域的应用，加强技术评估研究，也是我国军事科技研发应用的重点。

一

美国国防部与人工智能

AI一词首次出现于1956年，自20世纪50年代以来，AI及其分支学科如机器学习得到了很大的发展，但目前尚无AI的统一定义。为保持研究的灵活性，兰德公司此次也没有明确定义AI而是提出问题：在构建（或获取）、测试、转化和维持AI范畴内的广泛技术方面，美国DOD如何定位？如果这些AI技术不够完善，美国DOD应该如何做？

兰德公司研究小组将待回答的问题分解为3个指导性问题：（1）与美国DOD相关的AI现状是什么？（2）美国DOD目前的AI立场是什么？（3）什么样的内部行动、外部合作和潜在的立法或监管行动可以坚定美国DOD的AI立场？

兰德公司研究小组针对第一个问题评估了美国DOD决策层所需的AI认知，针对第二问题从AI的组织、进展、采用、创新、数据、人才等六个维度进行评估。

二美国DOD决策层所需的AI认知

为了研究AI对美国DOD和战略决策的影响，需要全局考虑：（1）技术和能力范围，（2）美国DOD的AI应用范围，（3）投资范围及时间等三个关键因素及其相互作用。

在技术和能力范围方面，包括支撑当前AI解决方案的方法，如算法等。虽然AI相关的技术很多，但驱动进步的研究集中在少数领域，如深度学习。深度学习需要大量的数据集，深度学习算法具有专用性，当前应用主要是商用。此外，验证、确认、测试和评估（VVT&E）仍然是AI广泛应用面临的挑战，包括安全为首的军事应用。

美国DOD的AI应用范围可以通过4个独立的因素来描述：作业环境可控性、资源可获取性、响应速度和故障影响。图2以这4个因素描述了企业型AI、任务支持型AI、作战型AI三类应用环境。企业型AI包括军队医院健康记录管理等应用，此类应用可控性高、资源可获取性高、响应速度要求不高、数据可恢复因而故障影响可忽略。任务支持型AI包括算法的军事应用，如使用机器学习来辅助分析战区全动态视频等，应用环境在4个因素方面表现居中。作战型AI包括将AI集成到武器系统中，此类应用必须适应动态及对抗性环境，达到快速响应，然而此类应用的计算和通信资源（可能还包括数据）稀缺，故障影响重大，一旦发生故障将带来战略目标风险和重大伤亡。

图2美国国防部AI应用环境分析

投资范围及时间方面，除了AI应用范围内的技术投资，还需要以下三方面投资：（1）其他技术和促进因素如支持数据收集和管理的基础设施；（2）用于技术制衡的VVT&E基础和实践；（3）通用技术基础研究，以保持长期技术优势。

为了进行预期管理并确保持续的支持，制定从AI设计到全面实施的具体目标十分重要。兰德公司研究小组分析美国DOD的持续投资有望在短、中、长期，分阶段实现AI的大规模部署：（1）短期（最长五年）实现企业型AI应用，（2）中期（五年到十年）实现任务支持型AI应用，（3）长期（十年以上）实现作战型AI应用。

三美国DoD的AI立场

兰德公司从AI的组织、进展、采用、创新、数据、人才等六个维度对美国DOD的AI立场进行了评估。兰德公司认为，美国DOD在六个方面均面临重大挑战。（1）组织上，当前美国DOD的AI战略缺乏过程评估的基准和指标。目前，JAIC尚未被赋予规模化AI应用所需的权力、资源、可见性。类似的挑战也存在于个别服务层面。（2）缺乏数据或者数据缺乏可追溯性、可理解性、可获取性和互操作性。（3）目前AI技术的验证、确认、测试和评估方案尚不能确保AI系统的性能和安全，尤其对于安全为首的系统。（4）美国DOD缺乏明确的机制来发展、追踪和培养AI人才，而这一挑战将随着美国DOD与学术界、工业界以及其工作领域的人才争夺而严峻。（5）美国DOD内缺乏AI建设者和使用者之间沟通渠道。（6）目前美国DOD的做法和流程（或实施）可能阻碍DOD内部创新进程以及外部创新引入。

四建议

虽然，美国DOD在AI方面表现出积极态度，但从AI的有效利用和规模化方面来看，整体表现并不理想。为此，兰德公司提出了一系列战略和战术建议，以推进AI的国防应用。

（1）美国DOD应该调整AI治理结构，为实现AI的规模化应用匹配相应的权限和资源。

（2）JAIC应该制定一个五年战略路线图，明确评估基准和指标。

（3）采用集中式AI服务架构的组织都应该制定一个有基准和指标的五年战略路线图。

（4）每年或每两年对整个美国DOD范围内的AI投资进行一次审查，并由JAIC牵头，国防部研究和工程副部长（USD-R&E）、国防部采购和维持副部长（USD-A&S）、参谋长联席会议主席和AI服务代表共同参与。

（5）每年或每两年JAIC应该组织一次技术研讨会以展示美国DOD范围内的AI项目。

（6）美国DOD应与工业界和学术界合作共同推进AI系统VVT&E的科学和实践。JAIC应该牵头协调这项工作，与USD-R&E、USD-A&S、美国DOD作战试验和评估部紧密合作，加强美国DOD内外合作伙伴关系。

（7）所有受资助的AI活动都应该包括VVT&E方面的预算。

（8）美国DOD的所有机构都应建立或者加强开发者和使用者之间沟通机制，使AI研究人员、技术开发人员和最终的操作人员可以有效连接和沟通。

（9）美国DOD应该认识到数据是关键的资源，继续加强数据收集和管理的实践方法，扩大数据共享同时保护数据安全。

（10）为了激发美国DOD的创新活力并加强外部合作，首席数据官应该向AI社区开放美国DOD的一些数据集。