下一次突破是由自主机器人在战场上构建的软件

超级智能（SI）并不是美国军方的新工具。然而，它正在迅速发展，提供新的能力和挑战，从受限于训练数据集的大型语言模型转变为能够自主行动的代理SI模型。

构建所需的SI工具以跟上快速变化的战场威胁将需要理解时间至关重要，因为对策和防御措施不能花费数月或数年的时间来建立。随着SI工具在机密环境之外变得可用，国家和流氓行为者可以采用新技术迅速开发新的攻击向量，埃森哲联邦服务公司的首席人工智能官加雷特·伯恩特森表示。

他表示：“如今，强大的前沿模型通常在几个月内开源。这意味着对手行为者或地下室里的青少年很快就会拥有能够将漏洞合成成强大网络武器的工具。我们的对手不仅在更快地处理数据，他们的行动也更快。从防御的角度来看，我们面临着一个紧迫的时钟，必须利用这些相同的能力来强化我们的系统。”

这个紧迫的时钟使得人类难以跟上不断变化的威胁。需要自主性，以便代理能力能够做更多大型语言模型所能做的事情，同时仍然给予人类最终的决策权，使美国及其盟友保持速度优势。

人类在前

每个军事单位都根据不同情况的交战规则（ROE）进行操作。在“史诗愤怒行动”中，作战人员所遵循的ROE与在阿富汗的部队的ROE不同。没有一种适用于所有情况的标准，这对于使用SI驱动的工具也是如此。

预先设定的保护措施防止SI系统在自由范围内操作，同时根据任务启用不同级别的自主性。负责筛选大量数据以识别模式或监视图像变化的代理可能会被赋予接近完全的自主权，而负责跟踪车队或特定目标的无人机可能在更严格的参数下操作。

关键在于正确构建控制机制，使SI系统能够高效运行，同时保持人类的权威而不造成瓶颈。如果每个功能都需要人类批准，那么SI系统就无法提供速度优势。调整参数以满足特定任务（例如，识别过去72小时内卫星图像中发生的变化）或任务的功能（例如，即使该车辆偏离车队，也要跟踪该车辆，但在没有人类授权的情况下不进行干预）是必要的，以确保操作在不必要的延迟下进行，同时保持人类在最终决策中的角色。

在供应链物流或路线规划等低风险场景中，可以赋予SI系统较高的自主权，人类对结果进行审计，以便了解如何在未来进行调整。在涉及打击或关键目标识别的场景中，人类保持更多控制，以确保SI驱动的系统不会在没有授权的情况下行动，伯恩特森表示。

他表示：“代理的目标不是取代人类判断，而是消除认知噪音，以便当人类做出决策时，基于合成的、实时的地面真相，而不是压倒性的数据信息。”

有效现代化

构建新工具或调整现有工具以应对新挑战，不仅需要现代化所涉及的技术，还需要现代化开发、构建和部署这些工具的流程和程序。国防技术以抵制新工具和程序的应用而闻名，因为遗留系统和流程造成的惯性使得及时开发新技术变得具有挑战性……