如果软件和自主人工智能是任务成功的关键，便将其加速到前线

人工智能（AI）聊天功能迅速改变了我们获取信息的方式。现在，下一代的代理AI已经到来，正在对战术和战略操作产生深远的影响。

随着语言模型的快速扩展，通常通过易于获取的开源模型，友军和对手都获得了一种强大的新工具包，用于快速网络操作和自动决策。埃森哲联邦服务公司的首席AI官加雷特·伯恩森（Garrett Berntsen）讨论了国防领导者如何超越炒作，为2035年构建一个灵活、软件丰富的部队。

Breaking Defense: 国防领导者多年来一直在使用AI，但代理AI正迅速成为一个主导焦点。是什么驱动了目前部门对代理AI的紧迫性？

加雷特·伯恩森，首席AI官，埃森哲联邦服务公司

伯恩森：有两个巨大的驱动因素在起作用：开源的普及和战场现实。历史上，尖端技术被锁定在机密项目后面。如今，强大的前沿模型通常在几个月内开源。这意味着对手或地下室里的青少年很快就会拥有能够将漏洞合成成强大网络武器的工具。我们的对手不仅在更快地处理数据，他们的行动也更快。从防御的角度来看，我们面临着一个紧迫的时钟，必须利用这些相同的能力来强化我们的系统。

在物理领域，看看乌克兰。我们看到低成本武器系统的转变，这些系统迅速朝着完全自主的方向发展。

紧迫性归结为数学；人类决策链无法在群体攻击或快速电子战适应中保持物理上的步伐。现实是，如果我们不准备将自主工作流程的执行委托给机器，从长远来看，我们可能会失去速度优势。

随着这些系统变得更强大，确实增加了需要人类领导的必要性，不是吗？

在我担任阿富汗军官期间，交战规则（ROE）根据威胁环境规定了一系列行动。在军队中，你会接受交战规则的培训，因为这些规则旨在帮助你在安全的同时，进行道德和相称的操作。

在诺曼底登陆日，交战规则与在坎大哈的反叛乱巡逻时截然不同。我们必须为AI自主性建立一个类似的动态滑动尺度。你不能在高度限制的环境中部署自主系统而没有适当的人类监督。然而，在与一个采用完全自主的对手进行的近似对等的全球冲突中，我们的交战规则必须适应，以保护美国和盟友的生命。没有一种适合所有的政策；我们的作战框架必须像技术本身一样灵活，确保人类指挥始终与任务风险保持一致。

你如何构建控制机制，以便指挥官保留权威而不造成系统瓶颈？

控制不应被视为一个二元的开关。它需要一个动态的、滑动的自主性尺度，由明确的交战规则来管理。

在低风险的操作支持环境中，你可以授予高自主性，之后由人类审核结果。想想这在供应链物流、合同分析或路线规划等例子中的表现……