代理人工智能工具旨在为美国指挥官提供“几秒钟内”的新目标选项

五角大楼于周四宣布，一款新的代理人工智能工具集将持续扫描情报信息和作战网络，以“在几秒钟内”为美国军事指挥官提供打击选项。

这款名为代理网络的新工具将使用“代理”——代表用户执行任务的人工智能实体，例如进行定期搜索或执行电子邮件活动——“持续扫描防御情报和作战系统，将发现转化为清晰呈现的选项，”新闻稿中表示，并补充道：“代理网络并不自主选择或打击目标；它确保指挥官对每一个决策保持控制。”

该网络是最初在一月份发布的七个“引领潮流”的项目之一，伴随一项新的五角大楼人工智能战略。代理网络项目的主要承包商包括Lumbra和Palantir，后者已经通过其Maven智能系统合同处理了大量的目标分析。

但对代理目前能做什么的期望可能超前于现实。前SAP首席执行官Vishal Sikka在去年七月写道：“人工智能代理被指示执行的任务显然具有超出当前大型语言模型架构所能处理的计算复杂性。”

引用开创性的时间层次定理，Sikka指出，变换模型在处理困难任务和简单任务时使用相同的机械公式。这些模型每个“标记”只能执行有限的操作，而“标记”是大型语言模型理解词汇概念的方式。即使处理看似简单的概念，也可能需要大量的标记。由于这一限制，当你给变换模型的任务复杂度超出其可用标记时，就无法避免模型产生幻觉。

Sikka总结道：“尽管它们在各个领域显然具有强大的能力和适用性，但在将大型语言模型应用于需要准确性或解决非平凡复杂性问题的情况时，必须极其谨慎。”

但SINT Labs的创始人、The Agent Times的编辑Illia Pashkov警告不要低估代理的潜力。

Pashkov表示：“代理人工智能在今年悄然停止了演示。它正在编写代码、清理支持队列、处理金融和医疗保健的后台工作，现在它正在阅读情报。速度并不是夸大。我看到这些系统将数周的分析师工作压缩到一个下午。”

但它们的能力也带来了风险——比习惯于使用常见人工智能聊天机器人的人们意识到的要多。Pashkov表示，已经有私营部门公司急于让人工智能代理投入工作，结果出现了问题，他提到了一家公司，其代理删除了一个实时生产数据库。除非经过仔细实施，否则代理无法判断何时出错。

他说：“危险从来不是一个愚蠢的代理，而是一个自信的代理在没有约束、没有日志记录或没有人负责的情况下运行。”

一位与代理网络项目没有直接关联的国防部情报安全官员表示，国防部的多个办公室和团队正在开始部署代理系统。该官员描述了一种热情的氛围……