人工智能驱动的欺骗威胁未来行动,提高大规模冲突的可能性,特别行动领导者表示
檀香山 — 美国特种作战司令部领导人弗兰克·布拉德利海军上将周三表示,人工智能加速的情报收集和分析使特种作战人员能够完成几年前不可能完成的任务。但他指出,恶意行为者利用简单的人工智能工具正在削弱军事和民事领导者对数字信息的信心。这种信誉的衰退,增加了对真相的怀疑,不仅会影响行动,还会影响美国“产生统一努力”的能力,以威慑或防御敌对攻击。
他在全球特种作战基金会的印太不规则战争研讨会上告诉与会的国际特种作战部队、行业代表和一些立法者:“我一直受到自己团队在使用人工智能方面的恶作剧的困扰。如果你不是内部人员,你可能无法分辨,因为人工智能在创建深度伪造内容方面的能力非常强。”
正在进行的俄罗斯和中国努力 欺骗西方观众,无论是为了战术利益还是影响公众情绪,有时被称为“主动措施”,都得到了人工智能工具的助力。但这些努力并非孤立。当前控制布基纳法索的军政府领导人易卜拉欣·特拉奥雷 展示了即使是小规模独裁者也能轻易使用人工智能工具来控制民众。
一位前国务院情报官员告诉 Defense One:“主动措施已经席卷全球。”
更多 具有说服力的人工智能驱动内容,悄然但持续地塑造着人们对发生事件的看法,已成为 新关键战场的主导特征,布拉德利表示。“将敌对行为揭露为其本质——这种早期的可信照明是一个关键优势……信息优势带来决策优势,”他说。
一位在反情报和外国影响分析方面工作的美国军事官员表示:“人工智能使欺骗变得可扩展。即使在特定的行动之外,这也会削弱对所有情报收集的信心。每个信息来源都将变得越来越可疑。我们不再只是对抗网络钓鱼邮件,我们正在对抗合成声音、克隆面孔和足以欺骗最了解真实身份的人的整个虚假身份。”
这位前国务院官员表示,在特朗普新政府下,美国放弃了监视和检测外国影响的关键工具,正值对手增强其进行影响行动的能力之时。
他们表示:“信息环境本身讽刺地比以前透明得少,”描述了社交媒体公司领导层变化如何减少了对内容审核和允许平台上虚假信息等问题的透明度。
他们提到,保护国内环境的结构不再存在,表示:“不清楚谁能够看到这些,”指的是像 联邦调查局的外国影响工作组(FITF)、国家情报局的外国恶意影响中心 和
美国特种作战司令部领导人弗兰克·布拉德利海军上将表示,人工智能驱动的欺骗正在削弱对军事情报的信心。他强调了对手(包括俄罗斯和中国)利用人工智能进行虚假信息传播的持续努力。美国军方正在通过改善情报综合以加快行动来适应这些挑战,但在不断发展的数字环境中,信息的可信度仍然令人担忧。
- 人工智能工具使特种作战的情报收集和分析速度更快。
- 恶意行为者正在利用人工智能削弱对数字信息的信心。
- 人工智能使欺骗变得可扩展,影响所有情报收集。
- 由于对手的人工智能,美国军方在信任新的情报来源方面面临挑战。
- 由于新的情报综合工具,军事行动中的协调得到了改善。