美智库分析：美国军事人工智能的应用进展

关键词：美国，军事AI，机器学习，JADC2，智库 告

人工智能的局限性

在过去十年中，人工智能取得的大部分进展都来自机器学习，这是一种现代人工智能范式，与过去占主导地位的人类驱动的专家系统存在本质上的区别。不同于传统由工程师设计编码的软件开发流程，机器学习系统使用算力来执行从数据中学习的算法。因此，机器学习是人工智能技术的一个子集，它使研究人员能够解决许多以前认为不可能的问题，并在国家安全和国防领域有许多有前景的应用。

然而，人工智能系统存在严重的限制和缺点，尤其是在操作环境中——很大程度上是因为它们的脆弱性。这些系统在稳定的模拟和训练设置中表现良好，但如果数据输入发生变化，或者遇到不确定或新出现的情况，它们可能难以可靠或正确地运行。机器学习系统也特别容易受到针对系统所依赖的算法或数据的对抗性攻击。即使是对数据集或算法的微小更改也可能导致系统出现故障、得出错误的结论或以其它不可预知的方式无法运行。

另一个挑战是人工智能/机器学习系统的可解释性通常无法以人类显而易见或可以理解的方式解释它们自己的推理，或者得出结论、提供建议和采取行动的过程。可解释性对于建立人类人工智能团队的信任至关重要，而且随着人工智能的进步，武器具有更大的自主性，这引发了对人类控制、责任和对与使用致命武力相关决策责任的严重道德和法律问题的讨论。一系列相关挑战包括数据源的透明度、可追溯性和完整性，以及防止或检测对手对基于人工智能的系统算法的攻击。了解谁训练了这些系统、训练中使用了哪些数据以及算法建议中包含哪些内容，可以减轻不必要的偏见，并确保这些系统得到适当、可靠和合乎道德的使用。

图1 人工智能的限制和缺点

美国军事人工智能的应用进展

美国国防部对人工智能的重视既是由于技术发展步伐的加快，也是由于其能实现的变革能力越来越强。事实上，人工智能已经准备好从根本上改变军事领域的思考、战备、执行和保持作战的方式。美国大西洋理事会曾有 告提出“五大能力革命”，该框架对人工智能在五大能力领域的潜在影响进行了分类（图2），表明人工智能可以增强人类的认知和身体能力、融合 络和系统以实现最佳效率和性能，并在信息空间中和其它影响下迎来 络冲突和混乱的新时代。

图2 未来军事能力发展的五大目标中，人工智能发展的优先计划概述

美国国防部目前正在进行600多项与人工智能相关的工作，其愿景是将人工智能整合到国防部任务的每一个要素中——从作战行动到支撑国防部企业的业务运营和流程。美国政府问责局（GAO）于2022年2月发布的一份 告称，国防部正在寻求用于作战的人工智能能力，主要侧重于（1）通过情 和监视分析识别目标；（2）向战场上的操作员提建议（例如将部队转移到哪里或哪种武器最适合应对威胁）；（3）提高无人系统的自主性。

然而，国防部大部分人工智能能力仍在开发中（特别是与作战相关的），尚未与特定系统结合或集成。而且，尽管在实验方面取得了显著进展，也有一些在作战行动中采用人工智能的经验，但大规模应用仍然面临重大挑战。以下三个用例展现了美国国防部的技术实力和应用进展。

图3 美国防部联合人工智能中心(JAIC)人工智能应用的各阶段

用例1：JADC2不可逆转的势头、雄心壮志和集成挑战

美国国防部最重要的现代化优先事项之一是联合全域指挥与控制（JADC2）计划。JADC2旨在通过从众多传感器收集数据、使用人工智能算法处理数据以识别目标，然后推荐最佳武器（包括动能和非动能武器）来与目标交战，从而使指挥官能够做出更好的决策。如果成功，JADC2可能消除各军队C2 络之间的孤岛，从而产生更全面的态势感知，指挥官可以据此做出更好、更快的决策。

人工智能对于这项工作至关重要，国防部正在探索如何最好地将其安全地整合到JADC2计划中。2021年12月，有 道称JADC2跨职能团队(CTF)将启动一个“用于指挥和控制的人工智能（AI for C2）”工作组，它将研究如何利用可靠人工智能来加强和加速指挥和控制，加强可靠人工智能在项目中的中心地位。2022年3月，国防部发布了JADC2实施计划的非机密版本，此举正如参谋长联席会议主席马克·米利将军所言“实施JADC2的势头不可逆转”。但与此同时，JADC2面临着数据安全和 络安全、数据治理和共享问题、与盟友的互操作性以及与整合军种 络相关的问题。

图4 JADC2布局反映了与美国国防部实施JADC2相关计划的复杂性和雄心

用例2：脆弱的人工智能以及将人工智能集成到目标中的伦理和安全挑战

2021年9月，美国空军部长弗兰克·肯德尔宣布，空军“首次将人工智能算法部署到实战杀伤链中”，这表明部署人工智能的时代确实已经到来。据其说法，将人工智能纳入目标定位过程是为了“显著减少人工识别目标的人力密集型任务——缩短杀伤链，加快决策速度”。尽管在这个角色中更全面地采用人工智能仍然存在道德、安全和技术挑战，但成功使用人工智能来支持定位是人工智能发展的一个里程碑。例如，2021年一项人工智能测试显示了人工智能的脆弱。根据“防务一 ”（Defense One）的 告，在人工智能必须从不同角度解读数据的环境中，测试中通过AI定位目标的准确率远不如预期。这些结果说明了当今人工智能技术在安全关键设置中的局限性，强调了在各种条件下对人工智能进行积极和广泛的现实世界和数字世界测试和评估的必要性。

人工智能在空军行动中能自动目标识别以协助情 专业人员（即人类决策者），但随着对人工智能算法的信心增强，人工智能定位的道德和安全性也可能影响其进一步应用。为此，国防部有一个严格的目标程序，其中人工智能支持的定位算法是其中一部分，再进一步还需通过自主系统。尽管人工智能仅为决策过程的一部分，但高错误率加上对人工智能输出的高度置信度可能导致不良甚至严重的后果。

用例3：在信息领域应用人工智能的局限性

在 络和信息作战上，人工智能技术和技巧是未来进攻和防御作战的核心，凸显了人工智能在信息领域的危险和前景。人们愈发关注智能机器人、深度伪造等合成媒体（描述虚假事件和言论的逼真视频或音频）以及可以创建动人散文和文稿的大型语言模型的威胁。而且，这些仅仅是如今设想的新兴人工智能虚假信息武器。虽然虚假信息是一项需要全 会和政府共同应对的挑战，但美国国防部无疑将在管理和应对这一威胁方面发挥关键作用。例如，美国国防高级研究计划局（DAPRA）的“媒体取证”（Media Forensics）程序正在使用AI算法“自动量化图像或视频的完整性”。然而，考虑到合成媒介在 交 络传播的速度，仍让人担心无法及时检测。

值得注意的是，DAPRA于2020年9月举办的阿尔法狗斗（AlphaDogFight）挑战赛中，一个AI智能体在一系列五次模拟空战中击败了一名人类飞行员。2021年9月，美国宣布与AR空战培训公司Red 6签订合同，以整合该公司的机载战术增强现实系统（ATARS），该系统允许飞行员在真实环境下使用增强现实头显对人工智能生成的虚拟飞机进行训练，这一系统安装在T-38 “禽爪”（Talon）教练机上，并计划最终在第四代飞机上安装该系统。因此，人工智能训练和模拟是美军与对手直接竞争的关键领域。

图5 在美国国防高级研究计划局（DAPRA）的阿尔法狗斗（AlphaDogfight）试验期间，一名F-16飞行员在虚拟现实模拟器中飞行，对抗由苍鹭系统公司（Heron Systems）开发的冠军F-16AI智能体，苍鹭AI在五次连续的混战中击败了人类飞行员。

中国和俄罗斯军事人工智能发展现状

中国已优先考虑在国防和国家安全方面投资人工智能，于致力在未来“智能化”战争中获得优势。美国安全与新兴技术中心（CSET）的审查和其他开源评估表明，中国人工智能发展的重点领域与美国一样广泛，包括智能和自主无人机，特别关注蜂群技术；情 、监视和侦察（ISR）；预测性维护和后勤；信息、 络和电子战；模拟和训练（包括兵棋推演）；指挥与控制（C2）；自动目标识别等。其中，中国在两个领域拥有一定优势。一是一体化。人工智能可以通过人为加强军事整合和跨域作战，帮助军队弥补战备差距。二是自主。中国人工智能发展的第二个重点领域是自主系统，尤其是蜂群技术，其中多个系统将独立运行或相互协同运行，以混淆和压倒对手的防御系统。

俄罗斯国防部目前在军用机器人、无人系统、蜂群技术、预警和防空系统、ISR、C2、后勤、电子战和信息作战等不同发展和试验阶段拥有大量自主和人工智能相关项目。 告认为，俄罗斯在人工智能的投资和能力方面落后于美国和中国。因俄乌冲突发起的制裁也可能对俄罗斯的科技部门造成巨大损失。然而，俄罗斯人工智能发展的轨迹是不确定的。但随着制裁的持续，俄罗斯很可能会在微电子方面与美国的技术竞争中进一步落后。

对美国国防部的建议

告建议，美国国防部应优先以下三个关键领域的工作，以便更成功地将人工智能整合到国防部企业中，并确保美国能够制止威胁和保持对竞争对手和潜在对手的战略、战略和战术优势。

优先考虑安全、可靠、可信人工智能开发和部署。有效应用人工智能面临的挑战有：脆弱的人工智能、对手 络攻击算法所依据的数据。克服这些挑战需要国防部继续致力于提高人工智能系统的评估速度、多样性和测试、评估能力，以确保系统在更多样的环境下按预期运行。其中一些测试需要在现实环境中进行，但基于模型的仿真能让人工智能系统性能在数字/虚拟世界中得到更多验证，从而降低与之相关的成本和时间线。

调整人工智能发展的关键优先事项并加强国防部与行业合作伙伴之间的协调。国防部应与科技公司合作，重新评估其人工智能解决方案在某些类别的潜在价值，包括但不限于后勤、医疗和卫生服务以及信息作战。国防部还应实施美国人工智能国家安全委员会（NSCAI）的建议，加快对专业采办人员进行采办和承包可用选项的全方位培训，并鼓励他们使用AI和数字技术。

促进领先的国防技术公司与非传统供应商之间的协调以加速国防部应用人工智能。在中短期内，国防部不会构建全新的人工智能系统，而是将人工智能集成到从 络防御架构到战斗机再到C2的一系列现有的软件和硬件系统中。因此，实施人工智能的进展也将取决于初创公司与非传统人工智能供应商之间的合作提效，国防部一直在寻求创新尖端技术和负责将新型能力集成到现有系统的国防主承包商。