莫纳什大学的研究人员发布了一种能力成熟度模型，用于评估一个国家在多大程度上准备好抵御虚假信息活动，支持这一模型的是一份103页的白皮书，详细阐述了其背后的推理，远超大学对该项目的公开摘要所披露的内容。
该模型和白皮书 本月发布，由莫纳什大学软件、系统与网络安全系的讲师卡洛·科普（Carlo Kopp）发布，模型本身由卡勒姆·琼斯（Callum Jones）共同撰写。根据白皮书，该项目部分由大洋洲网络安全中心资助。科普还是一位长期的国防分析师和澳大利亚空中力量智库的共同创始人。科普撰写的一篇关于测量虚假信息攻击影响的相关会议论文，出现在2025年斯普林格（Springer）出版的关于信息安全人文方面的卷册中。
该模型基于牛津大学全球网络安全能力中心开发的网络安全能力成熟度模型，政府已经使用该模型来基准评估其对网络威胁的准备情况。白皮书认为，该框架在未经过修改的情况下无法应用于虚假信息，因为这两种威胁在基本层面上存在差异：网络攻击针对计算机系统，而虚假信息则针对人类信念，并通过信念影响人类行为。
白皮书从一个特定的定义出发：虚假信息是指通过任何手段进行的任何欺骗，旨在在目标人群中植入或强化错误信念，以推进攻击者的议程，通常作为持续活动的一部分。该定义故意包括了传播虚假信息的人，即“代理”，在不知道其虚假性且无意欺骗他人的情况下。该论文将虚假信息与误信息（无害意图下分享的虚假内容）和恶意信息（特意分享以造成伤害的真实内容）区分开来，遵循了欧洲委员会发布的框架。
论文对代理进行了详细讨论。根据白皮书，人们传播虚假信息的原因与攻击者的原始议程关系不大，包括在群体中维持社会地位、与既有信念保持一致、追求参与度或广告收入，或在不考虑准确性的情况下被支付去做。论文还新增了更现代的类别：代理也可以是由虚假信息源操作的虚假在线身份，或是经过故意或疏忽训练在受污染数据上的人工智能聊天机器人。
论文的大部分内容关注虚假信息如何利用普通人类认知，而非任何技术漏洞。借鉴博伊德的观察-定向-决策-行动循环，论文描述了一条与个人现有心理模型相矛盾的虚假信息如何产生认知失调，人们通过拒绝新信息或调整信念以适应新信息来解决这一失调，有时甚至会永久性地纳入错误信念。论文列出了确认偏误、邓宁-克鲁格效应、动机认知、虚幻优越感、虚假共识和自我欺骗等虚假信息旨在利用的具体错误，并将群体层面的功能失调（如群体思维和极化）与相同的基本机制联系起来，这些机制通过数字社交网络的连接性得到了放大。引用科普及其同事之前的建模工作，论文指出，即使是少量人口中产生或传播欺骗的个体，也能破坏整个社会的合作。
白皮书专门设立了一节讨论俄罗斯的“反射控制”理论，这是一个苏联时代的概念，其中虚假信息被用来塑造对手的决策，以有利于攻击者，论文将其视为北约所称的认知战争这一更广泛类别中的一种特定工具。它引用了关于2014年马来西亚航空MH17航班被击落和SARS-CoV-2起源的争议性辩论，作为对手利用对事实的真正不确定性来维持竞争叙事的近期例子……
仅显示内容预览。完整文章请访问原始来源。 查看完整文章
莫纳什大学的研究人员于2023年10月发布了一种能力成熟度模型，用于评估一个国家对抗虚假信息活动的准备情况。该模型由卡洛·科普和卡勒姆·琼斯共同撰写，基于牛津大学的框架，旨在应对虚假信息带来的独特挑战。白皮书概述了多种反制虚假信息的策略，并强调了制定全面国家政策的必要性。
- 莫纳什大学的研究人员发布了一份关于虚假信息防御的103页白皮书。
- 该模型基于牛津大学的网络安全能力成熟度模型。
- 该论文区分了虚假信息、错误信息和恶意信息。
- 该研究得到了大洋洲网络安全中心的资助。
- 下一步将评估各国的虚假信息防御能力。