赫格塞斯与Anthropic首席执行官会面，关于军方使用人工智能的辩论加剧

国防部长皮特·赫格塞斯计划于周二与人工智能公司Anthropic的首席执行官会面，该公司是唯一一家未向美国军方新内部网络提供其技术的同行公司。

Anthropic是聊天机器人Claude的制造商，拒绝对会议发表评论，但首席执行官达里奥·阿莫代伊明确表达了他对政府不受限制使用人工智能的伦理担忧，包括完全自主的武装无人机和可能追踪异议的人工智能辅助大规模监控的危险。

赫格塞斯与阿莫代伊的会晤得到了未获授权公开评论的国防官员的确认，该官员要求匿名。

这突显了关于人工智能在国家安全中角色的辩论，以及对该技术在涉及致命武力、敏感信息或政府监控的高风险情况下如何使用的担忧。同时，赫格塞斯也誓言要根除他所称的军队中的“觉醒文化”。

阿莫代伊在上个月的一篇文章中写道：“一个强大的人工智能能够从数十亿次对话中分析数百万人的公众情绪，发现不忠诚的迹象，并在其发展之前将其消灭。”

Anthropic是唯一获得批准用于机密军事网络的人工智能公司

五角大楼去年夏天宣布，将向四家人工智能公司授予国防合同——Anthropic、谷歌、OpenAI和埃隆·马斯克的xAI。每份合同的价值高达2亿美元。

Anthropic是第一家获得机密军事网络批准的人工智能公司，正在与Palantir等合作伙伴合作。其他三家公司目前仅在非机密环境中运营。

到今年年初，赫格塞斯只强调了其中的两家公司：xAI和谷歌。

国防部长在1月份于马斯克的航天公司SpaceX在德克萨斯州南部的演讲中表示，他对任何“无法让你打仗”的人工智能模型不屑一顾。

赫格塞斯表示，他对军事人工智能系统的愿景意味着它们的运作“没有限制合法军事应用的意识形态约束”，并补充说五角大楼的“人工智能不会是觉醒的”。

在1月份，赫格塞斯表示马斯克的人工智能聊天机器人Grok将加入五角大楼的网络，名为GenAI.mil。此公告是在Grok——嵌入在马斯克拥有的社交媒体网络X中——因生成未经同意的高度性别化的深度伪造图像而受到全球关注的几天后发布的。

OpenAI在2月初宣布，它也将加入军方的安全人工智能平台，使军人能够使用定制版本的ChatGPT进行非机密任务。

Anthropic自称更注重安全

自2021年创始人离开OpenAI成立该初创公司以来，Anthropic一直将自己宣传为领先人工智能公司中更负责任和更注重安全的一家。

根据乔治城大学安全与新兴技术中心的分析副主任及研究员欧文·丹尼尔斯的说法，五角大楼的不确定性正在考验这些意图。

“Anthropic的同行，包括Meta、谷歌和xAI，愿意遵守该部门关于使用模型进行所有合法应用的政策，”欧文说。“因此，该公司的议价能力有限，并且面临在该部门推动采用人工智能时失去影响力的风险。”

在ChatGPT发布后引发的人工智能热潮中，Anthropic与乔·拜登总统的政府紧密合作，自愿让其人工智能系统接受第三方审查，以防范国家安全风险。

首席执行官阿莫代伊警告人工智能可能带来的灾难性危险，同时拒绝被贴上人工智能“悲观者”的标签。他在1月份的文章中辩称，“我们在2026年面临的真实危险比2023年要近得多”，但这些风险应以“现实、务实的方式”进行管理。

Anthropic与特朗普政府存在分歧

这并不是Anthropic首次因倡导更严格的人工智能安全措施而与特朗普政府发生冲突。Anthropic曾公开批评芯片制造商英伟达，抨击特朗普放松出口管制的提议，以便某些人工智能计算芯片能够在中国出售。然而，该人工智能公司仍与英伟达保持密切合作……