五角大楼工作人员为10万名AI‘代理人’编写代码,以在非机密网络上使用

报告内容
已翻译

华盛顿 — 军事人员和国防部文职人员自该工具可用以来,利用 Google Gemini 的 代理设计器 创建了超过 100,000 个半自主 AI 代理,时间不到五周,五角大楼的一位官员告诉《Breaking Defense》。

“自推出以来,我们见证了显著的采用率,截至四月中旬,在 GenAI.mil 上已构建超过 103,000 个代理,并记录了超过 110 万个代理会话,”该官员表示。“我们目前每周平均约有 180,000 个会话。”

一个“会话”是指一个代理被一个用户使用一次。一个受欢迎的代理每周可能会有成千上万的会话,涉及成千上万的不同用户,而一个小众工具可能每周只被一个人使用一次。

代理 AI 是生成性 AI(如 Gemini 或 ChatGPT)的演变。与聊天机器人仅仅回答用户问题不同,代理可以根据人类用户的指示采取行动,例如回复电子邮件、更新软件或汇编源材料并撰写报告。

对于五角大楼来说,这些 AI 代理在影响级别 5 上获得了正式的操作授权(ATO),这意味着它们可以用于非机密任务。

这位匿名发言的官员表示,五角大楼系统中一些最受欢迎的代理自动化了标准的工作人员工作,例如撰写关于经验教训的事后报告或对执行操作所需内容的正式“工作人员评估”。(强调的是“草拟”,而不是“撰写”,因为人类用户应在提交之前审查 AI 的输出。)

根据五角大楼在 X.com 上的 官方公告,其他可用的代理分析图像并生成描述其内容的书面报告,还有一些代理分析财务数据或官方战略文件。

但用户并不局限于一套预构建的代理菜单。相反,正如名称所暗示的,代理设计器及类似工具允许任何人创建自己的代理并在网络上使用。用户甚至不需要知道如何编写软件或训练神经网络:这些是“低代码/无代码”的聊天机器人,指导用户通过自然语言的方式确定他们想要实现的目标,然后自主编码代理以满足他们的规格——这一过程常常被贬称为“氛围编码”。

官员们对这一代理的激增表示热情,认为这是国防部长皮特·赫格塞斯推动赋能人员使用生成性 AI 的下一个合乎逻辑的步骤。

“这是一个非常激动人心的时刻,”五角大楼情报部副首席数字与 AI 官员 罗伯特·马尔帕斯 在最近的 INSA 春季研讨会上表示。“[现在] 国防部的任何人都可以开始构建和使用先进的 AI, [定制] 他们需要处理、显示和构建成操作工作流程的信息的具体方式。”

AI 怀疑论者 指出,实施不当的代理可能会失控。在一个案例中

分类信息
地区
北美
分析域
战略级
主要分类 / 次要分类
政军关系 / 信息作战
SALUTE 报告
规模
10万名AI代理人
活动
为非机密任务创建和部署半自主AI代理人
地点
华盛顿
单位
美国国防部
时间
2023年4月中旬
装备
AI代理人谷歌Gemini的代理设计师
摘要

截至2023年4月中旬,美国国防部利用谷歌Gemini的代理设计师创建了超过10万名半自主AI代理人,用于非机密任务。这些代理旨在自动化标准的工作人员工作,并已获得影响级别5的正式操作授权。五角大楼官员强调了这些AI工具快速采用和提升操作效率的潜力。

关键事实
  • 在不到五周的时间内创建了超过10万名AI代理人。
  • AI代理人已获得影响级别5的正式操作授权(ATO)。
  • 五角大楼官员强调AI在提升操作工作流程中的重要性。