信任“超级智能”以执行关键任务

企业超级智能（SI）是一种强大的工具，用于筛选和评估数据，以帮助实现更快速、更明智的决策，其效果取决于输入的数据。保护系统免受安全漏洞或恶意数据注入的攻击，对于确保自主系统能够被信任并提供准确、及时的数据评估至关重要。

“信任不是一个抽象的伦理辩论；它是一个不可谈判的操作要求，”埃森哲联邦服务公司的董事总经理兼网络负责人曼迪·萨特怀特（Mandy Satterwhite）表示。“在战斗的紧张时刻，如果一个自主系统依赖于被污染的数据，产生无法解释的结果，或者在幕后悄然失败，这不会给你带来优势；反而会造成不可接受的操作风险。”

确保SI工具可以被信任需要全面的安全策略、严格的数据治理，以及在保护与可访问性之间的操作平衡。

没有信任，自主系统毫无用处

SI通过快速筛选大量数据，使指挥官能够更清晰地了解战场情况，从而支持决策。如果指挥官正在查看目标的卫星图像，并且系统生成了关于变化的数据，例如在争夺的周边区域出现意外集中的装甲资产，这些情报将指导立即的战术行动。但如果该数据流被污染或伪造，指挥官可能会做出错误的决策，因为他们的态势感知不准确。

“当指挥与控制（C2）系统为决策者综合选项时，该领导者必须绝对确信这些建议是基于我们控制下的权威、未被篡改的数据，”萨特怀特说。“如果你无法追踪数据来源或解释结论是如何得出的，你就无法在战斗中采取行动，因为任务的成功岌岌可危。”

来自巴拉圭和肯尼亚的军人参加了2026年网络盾牌演习，地点位于阿肯色州小石城的专业教育中心，时间为2026年7月13日。（德克萨斯州国民警卫队，士官杰森·阿彻拍摄。）

在许多方面，这实际上是一个供应链问题，尤其是在军事用途采用商业模型时。当国防组件将商业前沿模型适应于战术任务系统时，它们继承了该基础的训练数据和依赖关系。如果上游管道受到损害，脆弱性将直接转移到战场。

另一个挑战是为特定任务使用合适的模型。虽然大规模前沿模型在许多用例中非常强大，但它们可能并不适合美国军方所需的专业能力。萨特怀特表示，这些模型必须适当调整其规模，并且其基础元素，如数据源和模型权重，必须经过审计，以验证其架构完整性和适应高后果环境的能力。