人工智能模型构建者Anthropic与五角大楼之间的斗争揭示了军事所需的人工智能工具与Anthropic、xAI和OpenAI等公司实际生产的工具之间的巨大差距：这些工具是供所有人使用的，而不是专门为军事设计的。一些由退伍军人运营或资助的初创公司旨在填补这一空白。他们的主张是：用于战争的人工智能应该对战争有基本的理解，而不仅仅是阅读汤姆·克兰西的粉丝小说。它不应该仅仅为了迎合用户而自信地提供低置信度的答案。即使在高科技对手切断与云端的连接时，它也应该能够正常工作。
需求差距
Anthropic与国防部之间的斗争揭示了一些不太舒适的真相，即五角大楼对语言模型本身、其产生幻觉的潜力以及它们可能“不遵循指令”有深刻的顾虑。
但五角大楼仍然允许广泛部署Anthropic的模型，急于将至少一些生成性人工智能工具交到操作员手中。据报道，这在“午夜锤子行动”中发挥了作用，该行动捕获了委内瑞拉总统尼古拉斯·马杜罗，尽管五角大楼官员拒绝确认这一点。
在突袭之后，Anthropic的官员联系了Palantir，询问他们的人工智能模型是否在该行动中被使用，国防部研究与工程副部长埃米尔·迈克尔表示。迈克尔说，这对五角大楼的整个领导层来说是一个“哇”的时刻，因为我们可能如此依赖一个软件提供商而没有其他选择。他表示，这引发了几个担忧，包括Anthropic可能在这种情况下关闭对模型的访问。
根据一位公司官员的说法，Anthropic本身也有类似的担忧：该公司认为军方在战斗情况下依赖他们的模型并不安全。
今天的前沿人工智能模型（如Anthropic的Claude、谷歌的Gemini、OpenAI的ChatGPT和xAI的Grok）另一个缺陷是它们需要连接到云端。这使得它们对今天的部队不可靠，并且对明天的自主武器不可用。
OpenAI在最近宣布与五角大楼的机密网络部署协议时，默默承认了这一局限性——尽管它将无法将大型基础模型部署到战场上描述为一种“保护措施”，以防止Anthropic官员所担忧的那种不可靠性。
“我们的合同限制了我们的部署到云API，”OpenAI的国家安全负责人卡特里娜·穆利根在X上解释说。“自主系统需要在边缘进行推理。通过将我们的部署限制在云API，我们可以确保我们的模型无法直接集成到武器系统、传感器或其他操作硬件中。”
前进的方向
即使在五角大楼大声驱逐Anthropic出其青睐之时，陆军也在准备推出一项新努力以填补这一差距。项目Aria于周四宣布，旨在帮助该服务开发和部署新的人工智能模型和工具，“以解决实际操作问题”——即专门设计用于帮助士兵完成他们的工作……
五角大楼正在解决军事特定人工智能工具的缺口，因为像Smack Technologies这样的初创企业正在开发针对操作需求的解决方案。对现有人工智能模型（如Anthropic和OpenAI的模型）可靠性的担忧促使军方寻求可以在没有云连接的情况下运行的替代方案。阿里亚项目已启动，旨在创建为真实军事行动设计的人工智能模型，反映出国防领域向更专业化技术的转变。
- 五角大楼对人工智能模型持保留态度，因为它们可能出现幻觉和不可靠性。
- 像Smack Technologies这样的初创企业正在开发专门用于军事应用的人工智能工具。
- 阿里亚项目旨在开发针对军事操作问题量身定制的人工智能模型。
- 据报道，Anthropic的人工智能模型参与了午夜锤子行动，引发了对依赖商业软件的担忧。
- 军事组织需要能够独立于云连接运行的人工智能系统。