赫格塞斯与Anthropic首席执行官会面，军方对人工智能的使用辩论加剧

国防部长皮特·赫格塞斯计划于周二与人工智能公司Anthropic的首席执行官会面，该公司是唯一一家未向新的美国军方内部网络提供其技术的同行企业。

Anthropic是聊天机器人Claude的制造商，拒绝对会议发表评论，但首席执行官达里奥·阿莫代伊明确表示了他对政府不受限制使用人工智能的伦理担忧，包括完全自主武装无人机的危险以及可能跟踪异议的人工智能辅助大规模监控。

赫格塞斯与阿莫代伊的会议得到了未获授权公开评论的国防官员的确认，该官员要求匿名。

这突显了关于人工智能在国家安全中角色的辩论，以及对该技术在涉及致命武力、敏感信息或政府监控的高风险情况下可能被使用的担忧。同时，赫格塞斯也誓言要根除他所称的军队中的“觉醒文化”。

阿莫代伊在上个月的一篇文章中写道：“一个强大的人工智能可以分析数十亿次来自数百万人的对话，评估公众情绪，检测到不忠诚的迹象，并在其发展之前将其消灭。”

Anthropic是唯一获得批准用于机密军事网络的人工智能公司

五角大楼去年夏天宣布将向四家人工智能公司颁发国防合同——Anthropic、谷歌、OpenAI和埃隆·马斯克的xAI。每份合同的价值高达2亿美元。

Anthropic是首家获得机密军事网络批准的人工智能公司，在那里它与Palantir等合作伙伴合作。其他三家公司目前仅在非机密环境中运营。

到今年年初，赫格塞斯只强调了其中两家公司：xAI和谷歌。

国防部长在1月份于马斯克的航天公司SpaceX在德克萨斯州南部的演讲中表示，他对任何“无法让你打仗”的人工智能模型不屑一顾。

赫格塞斯表示，他对军事人工智能系统的愿景意味着它们的运作“没有限制合法军事应用的意识形态约束”，并补充说五角大楼的“人工智能不会是觉醒的。”

在1月份，赫格塞斯表示，马斯克的人工智能聊天机器人Grok将加入五角大楼的网络，名为GenAI.mil。该公告是在Grok——嵌入在马斯克拥有的社交媒体网络X中——因生成未经他人同意的高度性别化的深度伪造图像而受到全球关注的几天后发布的。

OpenAI在2月初宣布，它也将加入军方的安全人工智能平台，使军人能够使用定制版的ChatGPT进行非机密任务。

Anthropic自称更注重安全

自从其创始人于2021年退出OpenAI成立这家初创公司以来，Anthropic一直将自己定位为更负责任和更注重安全的领先人工智能公司。

根据乔治城大学安全与新兴技术中心的分析副主任兼研究员欧文·丹尼尔斯的说法，五角大楼的不确定性正在考验这些意图。

丹尼尔斯表示：“Anthropic的同行，包括Meta、谷歌和xAI，愿意遵守该部门关于使用模型进行所有合法应用的政策。因此，该公司的议价能力有限，并且面临在该部门推动采用人工智能时失去影响力的风险。”

在ChatGPT发布后引发的人工智能热潮中，Anthropic与乔·拜登总统的政府紧密合作，自愿将其人工智能系统提交第三方审查，以防范国家安全风险。

首席执行官阿莫代伊警告人工智能可能带来的灾难性危险，同时拒绝被贴上“人工智能悲观主义者”的标签。他在1月份的文章中辩称：“我们在2026年面临的真正危险比2023年要近得多”，但这些风险应该以“现实、务实的方式”来管理。

Anthropic与特朗普政府存在分歧

这并不是Anthropic首次因倡导更严格的人工智能安全措施而与特朗普政府发生冲突。Anthropic曾公开批评芯片制造商英伟达，抨击特朗普放宽出口管制以允许一些人工智能计算芯片在中国销售的提议。然而，这家人工智能公司仍然是英伟达的紧密合作伙伴……