‘我严重错了’:专家称超智能人工智能可能在明年到来

报告内容
已翻译

一些密切关注人工智能发展的预测者本月大幅修订了预测,表示“人工超智能”可能会比他们想象的提前数年到来。 

Sentinel,一个预测小组,现在预计超人类人工智能将在2028年到来,而不是2031年。AI Futures Project去年的一项情景中指出,超智能人工智能可能在2027年到来,表示开发进展速度超过了该情景的假设。 

这两个小组在回应METR于11月5日发布的报告时改变了他们的预测。METR是一家评估人工智能风险的非营利组织。METR发现,自去年底以来,人工智能开发者Anthropic的人工智能模型改进速度大约翻了一番,这主要归因于广泛使用人工智能代理来协助研究。 

一些专家认为,人工智能驱动的研究可能会启动一个人工智能自我改进的失控循环,称为递归自我改进,他们表示这一威胁需要迅速采取行动。

“对于这种发展速度,漫长而深思熟虑的过程是行不通的,”人工智能政策与战略研究所的研究员乔·奥布莱恩表示。“这是必须在当前政府和即将到来的国会下迅速解决的问题。” 

‘重大更新’

对于监测人工智能发展进展的小组来说,METR的报告如同一颗炸弹。

“由于人工智能的这种加速程度非常意外,”AI Futures Project在11月10日的更新中写道,并补充说,人工智能研究人员很可能在2027年的某个时候超越最佳人类专家(假设没有实质性的故意减速)。

METR的研究员瑞安·格林布拉特在11月5日于X上写道:“我严重错误了。这份关于人工智能研发自动化(RSI)的报告是朝向ASI [人工超智能]的重大更新,预计在1-2年内。”

并非所有人都信服。计算机科学家和未来学家拉梅兹·纳姆创立的风险投资公司PlanetaryVC在X上写道,METR的结论太难以验证。

纳姆写道:“METR关于Anthropic进展的报告缺失了太多信息。我完全信任METR团队的诚信。但我们都有不同的先验知识,有时会从相同的数据中得出非常不同的结论。”

报告发布的条款使METR能够访问Anthropic的内部数据,但允许Anthropic从公开报告中删除任何这些数据。这包括删除METR所称的“我们发现最有信息量的证据的大部分”。

Anthropic的联合创始人萨姆·麦肯德利什在X上写道:“我们删除了很多信息,我承认这使得其他人更难检查METR的工作。但我们认为,分享推动加速的确切原因并不是正确的做法,因为这既涉及商业敏感性,也可能会给其他人提供更快发展的路线图。这将使METR所担忧的风险加剧。这是一个权衡。我认为我们做出了正确的决定,尽管我们仍在继续评估这里的利弊。” 

Anthropic的官员,

分类信息
地区
北美
分析域
战略级
主要分类 / 次要分类
政军关系 / 战略评估
SALUTE 报告
规模
不适用
活动
专家预测,由于人工智能发展的加速,人工超智能(ASI)可能在2027-2028年到来。
地点
美国
单位
人工智能未来项目,METR,Anthropic
时间
2027-2028
装备
人工智能模型无人机建筑机器人
摘要

专家预测,由于人工智能技术的加速进步,人工超智能(ASI)可能在2027-2028年到来。METR报告强调了人工智能模型改进速度的显著增加,引发了对潜在军事影响的担忧。人工智能领域的关键人物警告称,在未来三年内发生人工智能接管的风险很高,强调需要紧急政策响应来管理这些发展。

关键事实
  • 人工智能的发展速度比之前预测的要快。
  • 专家警告在未来三年内可能发生人工智能接管。
  • METR报告指出人工智能模型改进速度翻了一番。
  • 超过1300名人工智能员工倡导减缓人工智能的发展。
  • 五角大楼已重新品牌其人工智能办公室,专注于‘超智能’。