“这不是科幻小说”：专家称美国空军必须建立对人工智能的信任

Anthropic 研究员雅各布·考克森的辞职突显了对人工智能所带来的风险日益增长的担忧。考克森表示，“构建人工智能的人真诚地相信，到本世纪末它可能会杀死我们所有人。”Epirus 的首席技术官迈克尔·海亚特采取了不同的立场。

在空天网络安全会议上关于反无人机防御的讨论小组中，海亚特指出，“每个人都在谈论成本不对称……以及解决这个成本不对称问题的重要性。但对于那些在地面上的人，试图做出评估的战斗指挥官来说，这并不是一个成本不对称问题。这是一个弹药疑虑问题。”

“当你面临像无人机系统（UAS）威胁这样的问题时，它们是成群而来的，”海亚特继续说道。他强调，在威胁时间被缩短到几秒钟时，信任飞行员的系统至关重要。

“我知道我的定向能量（DE）武器能够将其击落，并以低附带损害、每发成本极低的方式做到这一点，最重要的是，以一种保护我的弹药——我稀缺的拦截器的方式，然后他们就能按下那个按钮。”

根据海亚特的说法，挑战在于“投入工作并建立信任。这不是科幻小说。这是物理事实。”

对于海亚特来说，在反无人机防御中利用人工智能是一种工具，最初“人类在环中”，但最终朝着一个系统发展，在这个系统中，人类启动循环，然后最终处于操作系统的外部。然而，在一个仍在制定自身人工智能政策法规的行业中建立这种信任是困难的，讨论小组的成员承认。

但尽管如此，讨论小组的成员认为，关于人工智能的“猫已经出笼”，美国军方必须努力应对快速而鲁莽的敌方人工智能代理，这些代理不一定在相同的监督下运作。

军方必须继续“进化，因为威胁在进化，”讨论小组成员、数字力量技术公司的首席技术官科尔顿·伍德表示。“如果我们不进化我们的防御以基本上对抗这一点，我们将始终处于被动状态。”