五角大楼首席技术官表示,Anthropic限制Claude AI的军事使用是不民主的
华盛顿——五角大楼的首席技术官今天对国防部与人工智能巨头Anthropic之间的报道冲突发表了看法,公开拒绝了他所称的该公司限制其Claude人工智能在军事用途上的尝试,称其为不民主的行为。
“国会制定法案,总统签署,机构制定规章,民众遵守,我们一直遵守,”副部长埃米尔·迈克尔在对微电子公社财团的讲话后告诉记者。
“我们不会让任何一家公司在国会通过的政策之上,制定一套新的政策,”迈克尔说。“这不是民主。这是让任何一家公司控制新的政策,这应该由总统、国会和各机构来决定如何实施这些规则。”
去年夏天,五角大楼的首席数字与人工智能办公室向Anthropic、谷歌、xAI和OpenAI颁发了价值高达2亿美元的合同,以定制其流行的生成性人工智能应用于军事用途。Anthropic的Claude人工智能的机密版本也通过亚马逊和Palantir向国防部人员提供,Semafor报道。
但是,根据《华尔街日报》1月的报道,Anthropic禁止Claude用于武器或监视程序的政策与五角大楼之间产生了裂痕,这使其合同面临风险。该报还报道至少有一次Claude被用于帮助策划捕获委内瑞拉强人尼古拉斯·马杜罗的突袭。
在《华尔街日报》关于马杜罗突袭的报道中,Anthropic的一位发言人拒绝讨论该特定行动,但表示,“Claude的任何使用——无论是在私营部门还是政府——都必须遵守我们的使用政策,这些政策规定了Claude的部署方式。”
这些政策禁止使用人工智能“生产、修改、设计或非法获取武器”或“在未经同意的情况下跟踪个人的物理位置、情感状态或通信,包括将我们的产品用于……战场管理应用。”(请注意,禁止适用于任何人,而不仅仅是美国公民)....
五角大楼的首席技术官批评了Anthropic对其Claude AI军事使用的限制,称其为不民主。他强调,军事政策应由国会和总统决定,而不是由私人公司决定。五角大楼正在审查与Anthropic的关系,该公司在军事AI应用方面的合同价值高达2亿美元,因对其使用政策的担忧而受到关注。
- 五角大楼首席技术官批评Anthropic对Claude AI军事使用的限制是不民主的。
- Anthropic及其他公司获得的军事AI应用合同价值高达2亿美元。
- Anthropic的政策限制了Claude AI在武器和监视项目中的使用。
- 由于这些限制,五角大楼与Anthropic的关系正在审查中。
- 国防部长皮特·赫格塞斯正在考虑将Anthropic指定为供应链风险。