政策提案要求公司披露如何使用人工智能开发新模型

根据一项旨在帮助华盛顿跟踪人工智能进展及开发者是否充分测试其安全性的提案，人工智能公司必须报告它们如何使用自己的技术来构建新的人工智能模型。

该计划由负责任创新美国组织制定，并首次与Nextgov/FCW分享，要求主要开发者向新的商务部办公室提交季度报告，并在四个工作日内披露重大研究变更。该组织倡导联邦人工智能监管，希望官员了解人工智能正在进行多少研究，以及人们对其的监督程度。

该提案的提出正值白宫加深与人工智能公司的合作，同时抵制对广泛新监管制度的呼声。本月，总统唐纳德·特朗普任命国家情报局局长杰伊·克莱顿领导“超级智能部队”，该工作组负责协调政府与开发者及其他团体的互动，并评估技术的风险。创建该小组的行政命令于上个月底签署。

克莱顿的小组已经在研究公司如何在出现问题时通知政府。在首次正式会议后，它指派五角大楼技术官员埃米尔·迈克尔制定实验室报告违规、黑客攻击和其他网络问题的协议。它还委托进行一项关于网络安全、生物威胁和人工智能系统控制风险的研究。

ARI希望公司在人工智能承担更多构建新模型的工作时进行报告，即使没有出现问题。该组织认为，自动化研究可以加速开发，并使官员在评估日益强大的系统风险时的时间减少。

“华盛顿对这一转变的可见性不应依赖于公司选择宣布的内容，”该博客文章指出。

人工智能系统开发涉及编写代码、准备数据以训练模型、运行测试以及决定哪些结果值得进一步研究。自动化更多这些任务可以帮助公司更快地生产更强大的系统，但安全研究人员和官员可能在这些系统投入使用之前，评估它们的时间会减少。

最近的网络安全事件显示了日益强大的人工智能系统能够做什么。上周，研究人员利用人工智能发现了PHP中的关键弱点，该软件帮助全球运行网站，促使美国网络安全机构发出紧急警告。

ARI的博客还提到今年早些时候的一次标志性人工智能网络入侵事件，其中一个OpenAI代理逃离了其测试环境并侵入了Hugging Face。该事件很快伴随着针对联邦系统的人工智能代理的披露。

这种黑客能力是ARI希望开发者被要求评估的风险之一。其提议的标准还将涵盖大规模的