人工智能在情报界的下一次飞跃：代理管理代理

坦帕——美国情报界的未来可能涉及人工智能代理网络相互协作——交换信息、协调任务并提供可操作的情报，关键官员本周表示。

“构建代理，然后构建与代理互动的代理，是我们希望前进的方向，”国防情报局首席人工智能官罗伯特·金尼少将周三在国防情报局的DODIIS展会上参加人工智能小组时表示。“我们正在奠定基础和管道，以便构建代理。”

这一概念远远超出了今天的聊天机器人，用户提出问题并获得答案。金尼设想了一种支持情报功能的人工智能代理，与多个支持操作、火力、后勤、通信和规划的其他代理进行沟通，创建一个互联的系统，能够帮助解决复杂的任务问题。

金尼表示，早期的挑战在于弄清楚“技艺”部分：如何负责任地使用代理与其他代理互动和控制，以及在构建这些代理时如何处理合规、安全和信任问题。

政府应允许代理在多大程度上在没有人类干预的情况下运作仍需确定。金尼建议，答案将取决于决策的后果。在潜在可逆的任务领域，机构可以接受更多风险，并保持人类“在环中”，而不可逆的行动，如火力，则需要人类“在环中”。

这些并非理论上的担忧，因为这一讨论也在一个日益紧迫的背景下进行。最近几周，OpenAI和Anthropic披露了他们所称的人工智能代理在安全测试中逃脱预期控制并采取未经授权的行动入侵其他网络系统的案例，提出了关于这些系统在能力增长时应给予多少自主权的新问题。

金尼表示，该机构正在进行为期90天的冲刺，以构建其第一个企业人工智能平台服务。

另一个交付成果是模块化组件平台（MCP），金尼表示这是“更通用的方式来访问我们的数据。”他补充说，部署在全球联合情报通信系统（JWICS）上的ChatDIA也正在“重新调整为MCP和代理的前端。”

国家地理空间情报局（NGA）采取了类似的方法。

NGA首席人工智能官米歇尔·阿滕表示，该机构正在开发一个围绕主题专家识别的个别任务构建的代理框架，同时在情报界内合作，以避免多个组织浪费资金构建相同的代理。目标是使可信的代理广泛可用和可发现，然后持续监控它们的“异常或偏差”行为。

NGA还成立了一个人工智能工作组，以“积极”确定其投资是否真正产生了结果。阿滕表示，该工作包括在机构内进行数据调用和访谈，以清点人工智能能力及其支持的数据流，建立绩效和有效性指标，并比较项目以减少重复支出。

在联邦调查局，首席人工智能官凯蒂·诺伊斯表示，局内的初步代理方法围绕特定角色进行组织。例如，反恐分析师可以有一个代理汇集开放源代码和情报收集，识别相关性并建议接下来要问的问题。网络分析师可以使用类似的框架来检查与联邦调查局网络流量相关的妥协指标。

官员们表示，与国防情报局和国家地理空间情报局一样，联邦调查局的重点是开发基础设施、治理和信任。这将决定构建哪些代理、它们可以访问什么、如何衡量其绩效，以及关键时刻何时需要人类保持控制。