五角大楼争议提升了Anthropic的声誉，但对军事人工智能的准备情况提出了质疑

Anthropic的道德立场在美国军方使用人工智能的问题上正在重塑领先AI公司的竞争，同时也暴露出一种日益增长的意识，即聊天机器人可能并不具备进行战争行为的能力。

根据市场研究公司Sensor Tower的报告，Anthropic的聊天机器人Claude本周首次在美国的手机应用下载量上超越了竞争对手ChatGPT，这表明消费者对Anthropic在与五角大楼对峙中的支持兴趣日益增加。

特朗普政府周五下令政府机构停止使用Claude，并将其列为供应链风险，此前Anthropic首席执行官达里奥·阿莫代拒绝放弃其公司防止该技术应用于自主武器和国内大规模监控的伦理保障。Anthropic表示，一旦收到正式的处罚通知，将在法庭上对抗五角大楼。

尽管许多军事和人权专家对阿莫代坚持伦理原则表示赞赏，但也有一些人对多年来AI行业的营销感到沮丧，这些营销说服政府将该技术应用于高风险任务。

“他造成了这个麻烦，”前海军战斗机飞行员、现任乔治梅森大学机器人与自动化中心主任的米西·卡明斯说。“他们是第一个对这些技术的能力进行荒谬炒作的公司。现在，他们突然想要真实。他们想告诉人们，‘哦，等一下。我们真的不应该在武器中使用这些技术。’”

Anthropic没有立即回应评论请求。国防部拒绝就是否仍在使用Claude发表评论，包括在伊朗战争中，理由是操作安全。

卡明斯在去年12月的一次顶级AI会议上发表了一篇论文，主张政府机构应禁止使用生成性AI“来控制、指导、引导或管理任何武器。”并不是因为AI如此聪明以至于可能失控，而是因为像Claude这样的聊天机器人背后的大型语言模型犯错太多——这些错误被称为幻觉或虚构——并且“本质上不可靠，不适合在可能导致生命损失的环境中使用。”

“你会杀死无辜平民，”卡明斯在周二接受美联社采访时说。“你会杀死自己的部队。我不清楚军方是否真正理解这些限制。”

阿莫代上周在为Anthropic的伦理立场辩护时强调了这些限制，认为“前沿AI系统根本不够可靠，无法驱动完全自主的武器。我们不会故意提供可能危及美国战斗人员和平民的产品。”

直到最近，Anthropic是其同行中唯一获得批准用于机密军事系统的公司，在这些系统中，它与数据分析公司Palantir及其他国防承包商合作。特朗普总统周五表示，在批准周六对伊朗的军事打击时，五角大楼将有六个月的时间逐步淘汰Anthropic的军事应用。

卡明斯，前Palantir顾问，表示Claude可能已经在军事打击计划中被使用。

“我只是从根本上希望有人的参与，”她说。“人类必须非常密切地监控这些技术。你可以用它们来做这些事情，但你需要验证、验证、再验证……。”