一项新法案将限制五角大楼在行动中使用人工智能，并对其在完全自主武器、国内监视和核武器上的使用进行严格监管。
纽约州民主党参议员基尔斯滕·吉尔布兰德于周二宣布了“安全与负责任的军事人工智能法案”。其他立法者尚未加入该法案，她的办公室确认她计划将法案的部分内容作为修正案提交给参议院的国家防御授权法案。
吉尔布兰德在一份电子邮件声明中表示：“目前，五角大楼正朝着在没有常识性保护措施的情况下部署极其强大的人工智能技术迈进，这可能会导致灾难性后果，使我们所有人都变得不安全。我们必须立即采取行动——不是为了抑制技术进步，而是为了建立明确的规则，以确保人类掌控，并使人工智能在战争中的使用既智能又安全。”
NOTUS周二报道，密歇根州民主党参议员伊莉莎·斯洛特金计划将一项类似的人工智能保护法案，该法案在今年早些时候提出，纳入国家防御授权法案。参议院武装服务委员会计划在下周对年度国防政策法案进行审议。
与其他国家相比，美国公众对人工智能的不信任程度仍然很高，专家们表示 这可能会对国家安全产生影响。该法案是在国防部与Anthropic公司之间的争执之后提出的，争执的焦点是该公司对其技术潜在使用的反对。
在吉尔布兰德提出保护措施的同一天，特朗普总统签署了一项行政命令，呼吁迅速部署人工智能以应对对美国的“任何和所有威胁”。
特朗普的行政命令中指出：“美国继续在人工智能（AI）领域引领世界，这得益于我们人工智能行业的巨大人才和创新，因为我们拒绝用过于繁重的监管来抑制这种创新。”
吉尔布兰德要求国防部长皮特·赫格塞斯特指定特定的人工智能使用，例如核任务、致命目标、国内监视和网络安全，作为“高后果”使用，这将需要副部长或联合参谋部副主席的书面批准，根据法案摘要。该参议员还要求在使用人工智能进行这些操作之前，提前15天通知国会国防委员会，或在某些情况下在部署后48小时内通知。
该法案还要求五角大楼明确谁是负责的人工决策者，或者在高后果操作中，人工智能引导技术使用的问责链是什么。
吉尔布兰德还希望对前沿人工智能公司施加更多责任。
根据参议员办公室的摘要，该法案要求人工智能承包商迅速向五角大楼报告某些事件，“包括模型权重的盗窃或数据污染”。
参议员基尔斯滕·吉尔布兰德宣布了《安全与负责任的军事人工智能法案》，旨在规范五角大楼在军事行动中对人工智能的使用，特别是涉及自主武器和核任务。该法案要求对高后果的人工智能使用进行书面批准，并要求承包商报告安全漏洞。此举是在公众对人工智能日益不信任的背景下提出的，旨在确保在战争中负责任地使用人工智能技术。
- 参议员基尔斯滕·吉尔布兰德宣布了《安全与负责任的军事人工智能法案》。
- 该法案旨在限制五角大楼在军事行动中对人工智能的使用。
- 该法案要求对高后果的人工智能使用（如核任务和致命目标）进行书面批准。
- 特朗普总统签署了一项行政命令，以应对威胁快速部署人工智能。
- 该法案旨在追究人工智能承包商对安全漏洞的责任。