生物数据、人工智能与指挥的未来:正确处理

报告内容
已翻译

随着人工智能和生物技术的融合,核心问题不再仅仅是军方是否能够收集生物数据,而是如何收集。

谁控制数据收集?在什么条件下可以传输数据?谁被允许解释这些数据?这些解释者在指挥决策中应具备什么权威?我认为,五角大楼——最终由国会负责——必须将生物数据作为一个新兴因素进行管理,这不仅涉及军事医学,还涉及指挥决策。其机密性、完整性、可用性和操作使用越来越成为部队保护和指挥责任的问题。

新兴技术可以收集和解释疲劳、认知过载、生理压力、环境暴露和恢复的指标。基础数据可能包括心率和变异性、睡眠和恢复指标、体温、血液化学、伤害或感染的生物标志物以及生理压力的指标,还有一些不那么明显的医学指标,如运动和活动模式。

如果使用得当,这些能力可以帮助指挥官预测耐力下降,管理部队轮换,优先分配有限的医疗资源,并就作战准备做出更明智的决策。但同样的信息,如果落入错误之手或处理不当,可能会暴露一个单位的脆弱性,或扭曲其任务所依赖的决策。

在这里,有一个关键的区别需要明确:原始数据与其处理方式及处理者之间的区别。传感器测量某种东西;人工智能系统解释该测量可能意味着什么;指挥官决定该评估对特定任务是否重要。这些是不同的功能,具有不同的可靠性和责任标准。心率测量不是诊断;睡眠不足不是判断的完整衡量;模型生成的准备评分不是命令,也不应默认成为命令。人类判断仍然至关重要,人类必须对其判断负责——或者对其盲目服从机器负责。

那么,军方如何正确使用生物数据呢?首先,在训练期间,生物数据可以帮助识别累积的疲劳,优化恢复时间表,评估环境危害的暴露,并支持更早的医疗评估。经过数月和数年的纵向数据收集,可以建立个人的基线,使临床医生能够评估该人个体范围的偏差,而不是将每位军人与未加区分的人口平均值进行比较。这种用途可以在部署开始之前改善健康、训练设计和部队保护。

超越个体健康,人工智能可以识别单位内的表现变化,帮助预测医疗服务的需求,或告知单位何时需要休息以及何时可以继续操作。当与其他更传统的军事数据(如人员可用性、弹药库存、设备状态、情报和任务要求)融合时,生物数据成为指挥官更广泛作战图景的一部分。

这既增加了效用,也增加了风险。当对身体的推断开始影响一个人或编队的使用地点、时间和方式时,医疗信息就成为指挥信息。在这一点上,军方必须能够区分合法的作战意识与不当的监视,以及决策支持与人类判断盲目服从统计估计之间的区别。

安全与隐私

在指挥官询问可穿戴设备可以揭示关于人员的哪些信息之前,必须回答一个更基本的问题:该设备在这种环境中是否应该处于活动状态?

在2018年,国防部

分类信息
分析域
战役级
主要分类 / 次要分类
指挥控制 / 政军关系
SALUTE 报告
规模
未指定
活动
讨论生物数据在军事指挥决策中的治理及其影响
地点
单位
五角大楼,国会
时间
当前
装备
可穿戴设备人工智能系统生物数据传感器
摘要

五角大楼和国会管理生物数据在军事指挥决策中的作用,强调其增强作战准备和健康管理的潜力。然而,生物数据的误用或处理不当会对单位安全和决策完整性构成风险。报告强调需要明确的数据收集、访问和解释政策,以保障军事效能。

关键事实
  • 五角大楼和国会必须管理生物数据以用于军事指挥决策。
  • 如果负责任地使用,生物数据可以改善健康和作战准备。
  • 不当处理生物数据可能暴露脆弱性并扭曲关键任务决策。