俄罗斯正在利用美国制造的人工智能制造杀人无人机、网络攻击机器人和假新闻

克里姆林宫支持的行为者利用Anthropic的Claude AI编程自主致命无人机，改善黑客和影响操作，并避免被检测，该公司周四表示。

这份来自美国的AI公司的报告是来自公司、智库和其他机构的最新警告，指出俄罗斯、中国、伊朗等国正在利用美国制造的工具攻击全球目标。

Anthropic报告称，一个名为GTG-27005的俄罗斯“自由职业”团体使用Claude构建了一个足够小以在单板计算机上运行但又足够强大以使无人机“选择目标（包括‘人’目标类别）并在没有人类参与的情况下发出引爆命令”的AI模型。该团体还利用Claude创建了软件，使自主无人机能够相互通信以改善目标定位，Anthropic的报告指出。尽管该俄罗斯团体尚未将模型部署到实地，但他们“在其会话中使用了真实的硬件在环测试”，报告称。该公司已禁止该团体，并将调查结果纳入其安全措施中，并与行业团体分享了细节。

Anthropic还表示，它发现中国和也门团体试图利用Claude设计常规武器，Anthropic表示已对此进行了干预。

报告还详细说明了外国团体如何在复杂的数据盗窃和虚假信息活动中使用Claude。报告称，其工具被用于挖掘目标信息，寻找其在线账户的漏洞，创建恶意软件以绕过安全措施并窃取数据，掩盖其踪迹，并传播虚假信息。

“我们看到一些行为者利用Claude建立虚假的社交媒体个人资料网络和整个新闻网站，”报告称。

这些活动具有俄罗斯影响活动的特征，例如使用虚假新闻网站和记者个人资料来传播关于北约在波罗的海活动的谎言。但美国制造的AI工具帮助简化了这一过程，增加了虚假信息的数量，并创造了对当地观众更具可信度的虚假记者。报告称，与俄罗斯相关的团体“自动化了他们的许多操作，从开发、基础设施获取、网络钓鱼、通过指挥和控制的持久性，到数据外泄。”该团体甚至使用AI伪造了中非共和国宪兵和国防部的文件。

另一个团体GTG-84005利用AI窃取人口普查和公共信息，使其代理能够针对特定受众在马来西亚定制其信息传播活动，该土耳其团体“将俄罗斯和中国国家媒体洗白为独立报道。”

周四的Anthropic报告发布于两周后，竞争对手前沿实验室OpenAI揭示俄罗斯行为者利用ChatGPT创建了一个虚假的“专家社区”——“国际伯克研究所”——向国际观众推送谈话要点。

尽管Anthropic和OpenAI能够干预他们发现的计划，但根据8月的战争研究所（ISW）的报告，这类操作可能会继续，因为俄罗斯利用AI“扩大与克里姆林宫叙事一致的内容生产。”