综合指挥与控制：人类选择如何引导人工智能作战的新方式

随着美国军方竞相适应越来越多的先进和逐步自主的人工智能，如何确保人类保持控制？标准答案是，没有人类的批准，任何机器都无法行使致命武力——但这个解决方案既显而易见又是错误的。

当人工智能请求其人类监督者批准或否决特定打击时，实际上在人与机器团队互动的动态流动和节奏中，已经为时已晚。仅让人类做出最终决定可能会使算法在此之前就做出显著影响的决策，从部署部队到优先选择目标，这种方式会不可接受地限制人类的选择。

然而，显然要求人类对每一个中间步骤进行批准，会牺牲使人工智能如此吸引人的能力的速度和范围。那么，我们如何调和人类控制与机器速度之间的关系呢？

我们认为，答案在于将人类偏好嵌入软件本身。与其要求自动化过程在某个关键点停止以请求人类输入（这会减慢人工智能的速度，同时只给人类提供狭窄的选择），不如将指挥官对行动的意图系统性、故意和预先地整合到算法中。

在早期构建这种指导将代表一种范式方法，确保每一个自动化决策都受到人类选择的约束和引导，而不是让人类决策受到自动化决策的限制和引导。

呼吁明确性

重要的是要早早指出，普遍没有人希望创造像《终结者》或天网等虚构故事中流行的情景。事实上，人工智能的爱好者和怀疑者都一致认为，人类需要控制无人武器和军事指挥系统。但在如何实施这种控制方面，达成共识或甚至明确性则要少得多。

尽管进行了大量投资，包括近550亿美元的国防自主战争小组的资金请求，以及国防部长皮特·赫格塞斯的高度关注，但美国军事人工智能的现状仍然处于初步阶段。

现有的 军事用途的人工智能 菜单包括自动、半自动、自主和日益具备代理性的自主系统，但这些术语的含义及其使用仍然存在模糊性。人类决策者可以“在环中”，被要求批准或否决人工智能的每一个重要行动；“在环上”，观察人工智能但让其自主选择，除非他们选择或被召唤干预；或“近环”，人工智能在一个独特的机器系统“利基”中运作，人类可以根据情况参与（例如，根据情况决定“在”或“在环上”）。

但对于什么算作足够的参与以充分和负责任地告知人类监督者，并在采取某些行动之前请求他们的许可，并没有明确的标准。这不仅有可能引入模糊性，导致对什么构成足够人类参与的定义不清，同时也强化了美国在推进其军事人工智能能力时对精确教义和明确标准的迫切需求。

这一点通过国防部指令3000.09 [PDF] 得到了鲜明的体现，该指令正式确立了在任何涉及使用致命武力的人工智能交互中需要人类参与的必要性，但并未提供如何实现这种参与的教义范式。我们认为，一个统一的人工智能框架将通过在国防企业中建立共同原则和可执行标准来解决这些挑战。这样的框架将确保人工智能系统的有效和负责任的开发与部署。

简单来说，这些系统越是自主，越需要一致性。无论是在无人机系统、海上平台还是地面机器人中，自主性都依赖于强大的数据管道、经过验证的算法和明确的交战规则。最重要的是，