ROTC学生正在帮助军方抵御AI深度伪造

一幅图像显示了基辅市中心爆炸后火柱和浓厚黑烟的场景。一则声称来自CNN的新闻故事引发了人们对纽约锡拉丘兹市一系列无人机目击事件的恐慌。

除了在变化和不确定的时代中其可信性之外，这些媒体报道的共同点在于它们完全是虚假的：是锡拉丘兹大学合成媒体实验室生成的计算机产品。

该校并不是利用这些深度伪造技术来欺骗美国公众，正如许多敌对外国行为者所寻求的那样；他们使用这些技术来构建工具，帮助包括美国军方在内的组织区分真相与虚假。而他们的工作得到了该校后备军官训练团学员的帮助。

对于该校而言，这项工作可以追溯到2020年，当时S.I.纽豪斯公共传播学院获得了来自DARPA的83万美元的分包协议，以开发对抗假新闻传播的工具。从那时起，这项工作不断扩展和继续，尽管教职员工表示他们无法提供关于工作范围或他们所支持的国防部实体的具体信息。

该校的研究教授、深度伪造项目的共同首席研究员杰森·戴维斯表示，人工智能技术革命增加了挑战和解决方案的需求。

“人工智能的时刻到来了，我们说，哦，好吧，我们不仅仅是人类在创造这种信息，”他说。“人工智能、大型语言模型和图像生成器带来了自动化和规模，这正在改变这一切发生的整个格局。”

“所以我们提升了技能，乘着大型语言模型生成和合成AI生成内容的狂潮。我们如何以自动化的方式创建内容？我们如何作为人类与这些工具进行交互，以及我们如何对这种新威胁以及传统的常规威胁进行建模？然后我们从那里继续增强我们的能力。”

现在，根据共同首席研究员、纽豪斯学院高级副院长瑞吉娜·拉特雷尔的说法，该实验室拥有超过20种工具，帮助深度伪造检测和创建，以进一步研究和识别合成媒体与真实媒体之间的差异。

戴维斯表示，ROTC学生在2021年左右加入了这项工作，他向ROTC项目说明了这项工作。ROTC小组一直很小——目前只有三名学生，教职员工表示——但这项工作不仅有意义，而且对未来的职业有帮助。戴维斯说，第一批小组中的四名学生中有两名获得了军方网络角色的首选分配。

“我们在给他们提供技能，使他们能够立即为他们感兴趣的国防部领域提供帮助，因此这对他们和国防部都有很大好处，”他说。“所以我们现在已经进入第二批学生，我们希望能够继续保持并发展这项工作。”

目前的一名学员，20岁的格伦·米勒，正在领导一个专注于深度伪造视频检测的特定项目，目标是开发工具以识别某人在视频通话中是否使用了面部替换或其他身份掩蔽机制。

米勒希望以工程军官的身份进入陆军，他表示，他目前正在向他的计算机模型输入一系列自己的视频，希望创建一个有效的“我检测器”，不会被数字伪造所欺骗。这是一项精细的工作，必须与其他优先事项（包括ROTC的承诺和课堂作业）协调进行，但他也已经看到了这项工作对他未来军事生涯的影响。

“我认为[人工智能]对我们和军方理解信息至关重要，”米勒说，他是2027年毕业的三年级学生。“我认为这将是最关键的地方，如何解读信息，或者人们如何解读信息，以便它实际上是什么，确定信息的质量是人工智能在未来将非常关键的地方。”

教职员工表示，当前协议使实验室与国防部至少合作两年……