华盛顿 — 在几周的延迟后，白宫今天发布了一项备受期待的行政命令，该命令为政府对尖端人工智能的监督创建了一个新的“自愿框架”，国家安全局在其中发挥了核心作用。
行政命令中的“自愿框架”基本上要求开发“覆盖前沿模型”的公司——根据NSA的定义——在发布前的30天内，向政府机构和一些私营部门的“可信合作伙伴”提前提供其模型的访问权限。该行政命令并未详细说明NSA将如何定义“覆盖前沿模型”，尽管它确实要求NSA与从商务部到国土安全部再到财政部的广泛其他机构进行咨询。
虽然行政命令设立的大部分系统确实是自愿的，但无法选择退出NSA的监督。相反，文件指示NSA“开发和维护一个分类基准流程，以评估人工智能模型的先进网络能力”——也就是说，评估任何给定的人工智能是否可能成为黑客的危险工具。人工智能开发者可能会被告知这些评估结果，也可能不会，“视情况而定。”
正如Abundance Institute首席执行官克里斯托弗·库普曼在X上的一篇帖子中警告的那样，“被标记为‘覆盖前沿模型’根本不是自愿的。”
库普曼写道：“NSA通过你无法看到或质疑的分类基准做出这个决定。只有第二步，当你交出访问权限时，才是你选择参与的部分。你可以拒绝该计划，但你无法拒绝这个标签。”
该行政命令努力在两个相互竞争的要求之间取得平衡：它旨在加强网络安全，以抵御人工智能驱动的黑客攻击，同时又不对美国人工智能开发者施加繁重的监督。
相关：五角大楼高级技术官员对Mythos风格的人工智能工具将改善网络防御持乐观态度
网络安全威胁在于，最新的生成性人工智能模型，最著名的是Claude Mythos，可以发现广泛使用的软件中成千上万的未知漏洞，揭示出攻击者可以快速利用的易受攻击目标，速度超过防御者修复这些漏洞的速度。在发现Mythos作为黑客工具的意外潜力后，开发者Anthropic自愿推迟了Claude Mythos的发布，以与网络防御领域的150个关键参与者分享预览版本，希望通过大规模合作在漏洞被外国对手和网络犯罪分子知晓之前进行修补。
今天宣布的30天自愿预览期远低于行政命令早期版本设想的90天，特朗普总统在计划的签署仪式前几个小时公开拒绝了该版本上个月。“我对其中某些方面不满意，”特朗普当时对记者说。“我们在引领中国，我们在引领所有人，我不想做任何会妨碍这种领先的事情。”
白宫人工智能顾问大卫·萨克斯，据报道领导了对原始语言的反对，在X上的一篇帖子中宣布胜利……
白宫发布了一项行政命令，建立了一个自愿的人工智能监督框架，国家安全局在其中发挥中心作用。开发人工智能模型的公司必须在发布前的30天内向NSA和可信合作伙伴提供早期访问。这项命令旨在增强网络安全，同时促进人工智能的发展，将审查期从90天缩短至30天。
- 白宫发布了关于人工智能监督的行政命令。
- 国家安全局将在评估人工智能模型中发挥中心作用。
- 公司必须在发布前的30天内提供人工智能模型的早期访问。
- 该行政命令旨在平衡网络安全与人工智能发展。
- 之前的90天审查期缩短至30天。