弗兰克·肯德尔谈禁止自主武器的难题 [书摘]

以下摘自前空军部长 Frank Kendall 的《致命自主：无论我们是否喜欢，战争的未来》一书。该书由 Knox Press 出版，现已可 预购。

作为一名人道主义者和人权律师，我支持有效的军备控制，但有效意味着有意义且可执行。鉴于致命自主技术实际上已经存在，许多例子表明，我看不出如何建立一个有效的军备控制机制。

必须从想要禁止或限制的事物的定义开始。我不知道如何划定已经存在的所谓可接受系统与那些将被禁止的系统之间的界限。当一个自主防空系统能够攻击民用客机时，试图区分防御性（好的）武器和攻击性（坏的）武器是行不通的。大多数武器既可以用于防御也可以用于攻击；杀戮就是杀戮。试图区分自主程度是有问题的，因为在可允许和不可允许的技术或能力之间没有明显的界限。

这里的问题在于，对自动化功能（如目标检测、敌意推断和最佳交战计划）的技术有很大的需求。这些能力是一个连续体，没有明确的边界。在准备交战和实际扣动扳机之间有一个明确的界限，但这个界限在技术上是微不足道的，跨越它很容易被掩盖。

一种可能性是禁止所有无人系统携带武器。这种方法将禁止现有的致命无人机，虽然可以考虑，但这并不能解决与致命自主相关的风险问题。包含人类操作员的系统仍然可以在自主模式下运行。这也可能会禁止现有的巡航导弹和其他具有自主寻的功能的“发射后即忘”弹药系统，我预计没有哪个大国会接受这一点。我非常愿意参与旨在解决这个问题的对话，但我并不乐观。

假设可以划定界限，仍然存在执行的问题。完全的致命自主与人类控制之间的区别在于某种机制，必须由人类决策来允许交战。可以将其视为一个触发器。在现代电子系统中，触发器是一个开关，更可能是数字的而非机械的。它也可能远离致命机制本身，决策通过某种数字链接进行传达。我还没有听到有人建议除了关键的交战决策外，自动化其他一切都是可以接受的。因此，在致命自主的禁令上“作弊”是非常简单的；在武器系统的某个地方包含自主关闭该开关的能力。

防止这一行为秘密进行的唯一方法是拥有极其详细的设计信息和极其严格的检查机制。即使各国愿意允许这一点，但实际上几乎不可能实施。

我还会质疑通过国际法限制致命自主的可用性是否明智，假设这可以有效实施。我们是否有充分的理由偏好让人类在战争中杀戮和被杀，而不是让机器承担这些职能？随着时间的推移，许多令人不快的职能已经转交给机器。这包括那些令人麻木的重复性工作和涉及暴力的工作。人类的许多进步都是为了减轻人类承担那些可以由机器更高效、更少痛苦地完成的职能——让人类能够从事其他追求。

这听起来可能很幻想，但如果我们必须通过竞争性暴力来解决冲突，为什么不让我们的机器为我们做这件事呢？这可能让一些人觉得荒谬，但对我来说，真正荒谬的是我们仍然偏好让人类出去互相杀戮以解决分歧……