英军情五处设新机构防范AI威胁

参考消息网10月16日报道 据美国《政治报》网站10月13日报道，英国军情五处负责人13日宣布，英国情报人员将在应对人工智能(AI)威胁的准备工作中发挥主导作用。此前他警告称，这项技术可能使恐怖分子获得生物武器。

军情五处（英国安全局）处长肯·麦卡勒姆成立了人工智能威胁评估中心，以帮助确定政府如何看待潜在威胁。

麦卡勒姆在伦敦军情五处总部发表年度威胁评估讲话时说：“人类历史从未给我们提供过面对一个比我们更聪明、能够在思想上超越我们的行为体的经验。”

他强调了AI的“真实”风险，称除了AI驱动的无人机危险之外，军情五处还抓获了试图利用AI“改进其侦察和攻击方法”的恐怖分子。

虽然还没有“成为现实”，但他表示，AI具备“改变现有甚至新型生物武器力量格局”的潜力。

他说，如果AI模型中的安全护栏不能按预期生效，“低能力”恐怖分子破坏能力或将得到提升。

麦卡勒姆还表示，长期以来，“许多恐怖分子非常渴望”获得化学、生物或放射性武器，但他们一直难以实现。一个风险是，AI可能使危险知识落入那些……原本不具备这些知识的人手中。

麦卡勒姆补充说，必须对“AI可能生成前所未有的新型病原体”的风险给予“清醒关注”。他表示，政府正在对生物武器采取“额外措施”。

麦卡勒姆说，军情五处内部专注于英国对手五年后动向的部门发现，由于有了AI，威胁显现的时间线正在缩短。

新的AI威胁评估中心将汇集英国人工智能安全研究所、国家反犯罪局和国家网络安全中心等机构的专业力量，“分清夸大炒作言论与AI对英国公众构成威胁的真实情况”。

这是军情五处继专门分析恐怖主义和国家威胁的类似机构之后，成立的第三个此类中心。

麦卡勒姆还说，军情五处现在将把国家韧性——例如保护关键基础设施、反制认知战以及应对技术威胁——及其应对国家威胁和恐怖主义的双重作用列为“首要任务”。（编译/卢荻）