美国防部生成式人工智能先期发展动向分析

导读：生成式人工智能的应用，在过去一年中呈爆炸性增长，它们利用大量的历史数据进行学习，可以根据简单的引导提示快速生成文本、图像或视频等内容。自出现以来，美国国防部对生成式人工智能的发展迅速列入关注并采取了一些举措。

生成式人工智能（AI）能力，如大型语言模型（LLM）在全球的受欢迎程度、能力和影响力都在不断增长。这些能力是在大规模数据集上训练的，以便生成细节和明显连贯的内容，这在以前需要人类创作。这些能力带来了新的机遇，同时也带来了新的重大风险。国防部门迫切需要探索这种技术的应用以及这些模型的规模、速度和交互能力的潜力，以提高任务效率，同时确定适当的保护措施并减轻各种相关风险。

成立“利马”工作组

美国国防部于2023年8月10日宣布成立了一个人工智能技术特别工作组——“利马”（Task Force Lima），以集中研究并部署大型语言模型等生成式人工智能工具。“利马”工作组由五角大楼首席数字和人工智能办公室（CDAO）领导，将开发、评估、推荐和监控整个国防部的生成人工智能技术的实施，以确保国防部能够负责任和安全地设计、部署和使用生成人工智能技术，确保CDAO在维护国家安全的同时保持尖端技术的最前沿。“利马”工作组将提供指导并提出建议，供有关决策机构处理。

综合目标

为了能够负责任的、统一的采用这种尖端技术，“利马”工作组的将为国防部提供框架和倡议，以实现以下综合目标：

l加速有前景的生成式人工智能倡议和联合解决方案；

l将不同的开发和研究工作联合成国防部的实践社区，以加速创新和实施；

l评估原则、组织、训练、物资、领导、人员、设施和政策方面的解决方案；

l推动技术教育，建立负责任的实施和使用文化；确保国防部与跨部门、国际、教育、公民社会和工业合作伙伴在负责任地开发和使用生成式人工智能方面的合作。

前期工作

2023年9月18日，“利马”工作组表示将在未来18个月内充分了解军方和国防部对于生成式人工智能的需求，以加快对该技术的理解、评估、部署及监测，大规模整合具备任务适应性的相关技术。此期间“利马”工作组的工作包括：

l全面了解人工智能的工作原理和外部数据应用过程，并聚焦军事用例与作战过程的联系，与其他部门合作，训练多个种类的大语言模型；

l为美国国防部制定基于生成式人工智能的临时指南、框架和工作流程，参与国防部对大语言模型的实际研究和部署；

l建立周期会议机制，让内部各级人员及时了解“利马”工作组正在制定的计划和方法；

l向业界发布信息征询书，了解和探索创新型人工智能的开发与集成风险和收益。

小结

“利马”工作组的任务实际上是为整个美国国防部开发、评估、推荐和监控生成人工智能能力，并负责任地确保国防部可控地大规模集成这些技术。“利马”工作组把总体的任务分成几个阶段，目前的第一阶段是尽可能多地学习外面的一切，邀请公众和工业界帮助国防部“进一步了解和探索开发、获取和集成生成人工智能的风险和好处”，以快速浏览生成人工智能在国防领域呈现的不确定和变革性的力量，另一项短期任务是为五角大楼提供关于生成人工智能的临时指南。

这些先期工作最基础的好处在于，当寻求收购低风险商业软件时，“利马”工作组现在可以建立许多业内公认的标准和安全措施。根据白宫10月30日发布的政令，对于政府来说，国防部是一个完美的试验台，可以在封闭的环境中以负责任的方式推进和现实地培训生成人工智能技术。无论利马工作组编纂了什么样的指导方针、最佳实践或标准，都必须在联邦政府内共享，以便为其他部门和机构的工作提供信息。

对于生成式人工智能技术能否广泛应用，美军希望解决的关键问题包括：如何规避机器幻觉问题、如何衡量模型的性能、如何制定可信赖的人工智能的度量标准、如何管理训练模型所用的数据等，美军也正在与工业界合作来共同解决上述问题。关于美国国防部最终是否会以何种方式、出于何种目的大规模部署生成式人工智能，仍有许多未知因素。