DARPA加速推进“人工智能前沿”计划

在过去十年中，人工智能 (AI) 领域取得了令人瞩目的进步，尤其是在数据驱动的机器学习（ML）技术方面。然而，对于许多国家安全应用来说，具有适当可信度的人工智能还不存在。为了获得信任，这样的系统必须能够可靠地运行，与人进行适当的互动，并以合乎道德伦理的方式满足紧迫的国家安全需求。创建这样的系统需要在（至少）三个关键领域取得重大进展：

1.基础理论：了解可能性的艺术，限制特定系统实例化的限制，并为国家安全等具有挑战性领域的人工智能系统提供信息；

2.人工智能工程：以可预测的方式构建在现实世界中按预期工作的系统，而不仅仅是在实验室中；

3.人机协同：使系统能够成为具有不同背景的人的流畅、直观、值得信赖的队友。

DARPA对于人工智能的理解（翻译&字幕 by 防务菌）

美国防高级研究计划局（DARPA）在起草当前的“AI分析框架”过程中，这些要点成为重要方向，并与国家AI研发战略重点保持一致 。此外，需要在数据和计算方面显著提高ML的效率，以使基于ML的系统对许多国家安全应用具有成本效益。

2022年9月13日，DARPA在“前沿”系列研讨会（详情可参见防务菌此前推送：【Forward Conference】重磅！DARPA即将召开前沿系列研讨会）的第二站华盛顿州立大学活动上（详情可参见防务菌此前推送：【Forward Conference】DARPA“前沿”系列研讨会之第二站——华盛顿州立大学），信息创新办公室（I2O）主任凯瑟琳·费舍尔（Kathleen Fisher）博士向与会者做了题为“用于对抗环境的可信人工智能”的系列项目简介。在将近45分钟的时间里，梳理了从生成对抗网络（GAN）、深度语音2（Deep Speech 2）到AlphaGo、Move 37、Libratus系统、特斯拉自动驾驶、GPT-3、AlphaFold等等一系列AI在各个领域的应用情况，最终落到国防领域。

用于对抗环境的可信人工智能（翻译&字幕 by 防务菌）

2022年10月26日，在“前沿”系列研讨会的第四站佐治亚理工学院站活动上（详情可参见防务菌此前推送：【Forward Conference】DARPA“前沿”系列研讨会之第四站——佐治亚理工学院），凯瑟琳·费舍尔（Kathleen Fisher）宣布了“人工智能前沿”（AI Forward）计划，聚焦三个关键领域：第一，基础理论，以便了解可能的艺术；第二，人工智能工程，以便能够可靠地和可预测地建立在现场和实验室中都能工作的系统 ；第三，人-AI协同，使系统能够作为流畅的直觉伙伴，而不仅仅是工具（详情可参见防务菌此前推送：【AI Tutoring 】DARPA人工智能（AI）应用新开一局）。

DARPA信息创新办公室（I2O）主任凯瑟琳·费舍尔解读“AI前沿”（AI Forward）计划（翻译&字幕 by 防务菌）

为加速推进AI Forward计划，2023年2月25日，DARPA通过其官网宣布，将于2023年6月和7月，分别通过在线和现场的方式召开两个研讨会。

1.在线研讨会：2023年6月13日至16日（周二至周五）；美国东部时间12:00 - 5:00，每天休息一小时。

2.现场研讨会：2023年7月31日至8月2日，马萨诸塞州波士顿，美国东部时间，周一 11:00 - 6:00；周二 9:00 - 6:00；周三 9:00 - 5:00

在这些高度互动和协作的研讨会中，参与者将共同设想新的AI研究方向，这些方向可能会催生适用于国家安全应用的可信AI。每个研讨会的参与人数限制为大约100人。每个研讨会都将包括与行业、学术和政府领导以及专家就AI当前和未来研究方向进行的讨论和有指导的头脑风暴会议。

DARPA预计研讨会将是激烈、互动和自由思考的。他们旨在激发对跨越AI许多不同领域的有前途的新研究方向的思考，包括人类语言技术、大型语言模型、生成模型、AI哲学和伦理，以及着眼于未来国家安全相关的具身认知应用程序。参与者将被期望与彼此、协调人和主题指南（将帮助构建和指导讨论的领域专家）建设性地进行对话，以制定合作研究主题，以帮助定义未来可能的DARPA活动。目标是将来自不同学科的个人聚集在一起，根据第一原则进行互动和自由思考，相互学习，

在研讨会的过程中，参与者将组成小组，针对跨学科主题领域推介和完善主题（基于主题指南的输入），这些主题领域推进关于AI未来的科学问题，以及如何解决有能力、可信AI的问题在具有挑战性的现实世界问题中与人类很好地合作。

AI Forward计划将由KnowInnovation推动，KnowInnovation 是一家专门与科学团体合作以加速创新并实现战略成果的公司。参与者可以期待高度互动的在线和现场活动。在一些旨在搭建舞台的有针对性的全体演讲之后，大部分时间将花在以解决方案为中心的讨论上。

AI Forward研讨会的最终成果将是确定大约40个有前途的未来研究领域。对于每个领域，参与者将探索诸如未解决的问题、潜在的研究问题、预期的影响以及取得进展所需的专业知识等项目。参与者将针对每个领域进行演示（2-3 分钟）并提供配套的白皮书（2-3 页）。DARPA将考虑这些演示文稿和白皮书，以制定其未来的AI战略。作为该战略的一部分，DARPA可能会根据两个AI Forward研讨会的成果创建2个新的人工智能探索项目 (AIE) 。参与者将能够向这些AIE提交他们的工作以供考虑，这些AIE将被广泛宣布以征求建议。

对于即将召开的AI Forward研讨会，凯瑟琳·费舍尔表示：“尽管我们已经看到了该领域的巨大进步，但人工智能仍然需要大量的投资和进步，以开发可靠运行、与人适当互动的技术，并以伦理道德方式满足最紧迫的国家安全和社会需求。我们正在呼吁所有相关的研究人员和专家加入我们的行列，因为我们正在定义当今最具影响的技术的未来。通过参与AI Forward，你将有机会帮助规划未来几十年保持我们国家和我们盟友安全所必需的能力。”

审核编辑 ：李倩