人工智能军事目标可能比人类认证更快，批评者警告
人类的批准可能不足以确保对人工智能驱动的决策进行手动控制，证人周三在国会表示，随着人工智能在军事目标识别和建议中扮演越来越重要的角色，干预的时间也随之缩短。
批评者表示，担忧不仅限于能够自主选择和攻击目标的武器。
在题为“军事领域中的人工智能：对人权的影响”的听证会上，证人告诉汤·兰托斯人权委员会的成员，人工智能可以影响人类的决策，从而导致攻击，同时让个人在最终决定中保持形式上的责任。
“仅仅按下批准按钮并不能证明控制权，”乌克兰人工智能治理研究员安娜·米西申对立法者表示。
这一问题出现在五角大楼推动使用人工智能加速军事决策的背景下。五角大楼的2023年人工智能采纳战略将“快速、精确和韧性的打击链”视为期望的结果，而其2026年人工智能战略则呼吁通过围绕当前人工智能能力重新设计军事工作流程和作战概念，成为“人工智能优先”的作战力量。
米西申质疑，监督多个人工智能系统的人是否能够及时识别不正确的建议并进行干预，以防止伤害的发生。她以乌克兰为例，指出人工智能将决策时间从数小时压缩到数分钟。
她表示，在许多情况下，做出最终决定的人并不一定拥有足够的信息、时间或能力来质疑系统的建议。
国防部2023年关于武器系统自主性的指令要求自主和半自主武器允许指挥官和操作员在使用武力时行使适当程度的人类判断。
周三的证词集中在一个更广泛的问题上：如果人工智能的影响使目标识别速度超过人类的验证能力，那么这种判断是否仍然具有意义。
美国国际特赦组织政府关系和倡导国家主任阿曼达·克拉辛警告说，人工智能可以以压缩军事“打击链”的方式运作，这使得在攻击之前很难确定是否真正发生了有意义的人类判断。
前军事官员和军事伦理学者约瑟夫·查帕认为，辩论不应仅仅集中在系统的自主程度上。他呼吁政策制定者考虑人工智能系统是否依赖于统计推断、在特定作战环境中失败时会发生什么，以及其决策是否可以在事后进行审计……
在华盛顿特区的国会听证会上，证人对人工智能在军事目标决策中的快速影响表示担忧，警告人类监督可能不足。五角大楼的战略旨在采取“人工智能优先”的方法，但批评者认为这可能会损害问责制并导致平民伤亡，正如最近一次“战斧”导弹袭击造成许多平民死亡所示。国会正在寻求对人工智能在此类事件中的作用的明确说明。
- 人工智能日益影响军事目标识别和决策。
- 证人表达了对人工智能建议速度超过人类判断的担忧。
- 五角大楼计划在2026年前成为“人工智能优先”的作战力量。
- 一次“战斧”导弹袭击导致平民伤亡，引发了对人工智能在目标选择中作用的质疑。
- 国会要求对人工智能在军事行动中的参与进行澄清。