AI正急剧加速AI研究

人工智能正在当前剧烈加速人工智能研究

如果这种加速是复合的，那么简单的外推意味着在一年内就会出现超级智能（superintelligence）

Ajeya Cotra

2026年11月06日

这篇文章讨论了一份关于 Anthropic 公司 AI 研发（AI R&D）加速的公开 METR 报告。我没有参与这个项目，也没有看到未经修订的报告。所有观点均代表我个人，不代表 METR 或报告作者。

感谢 Ryan Greenblatt 的讨论、反馈和建模帮助，以及 Daniel Kokotajlo、Eli Lifland 和 Hjalmar Wjik 的评论。

在本周早些时候，Anthropic 在其 S1 文件中表示，他们“可能即将达到”其《负责任扩展政策》（Responsible Scaling Policy，简称 RSP）中所定义的“由于 AI 导致进展剧烈加速”的阈值。在其最新的 RSP（于 2026 年 7 月生效）中，规定当满足以下条件时将达到此阈值：

他们观察到或预计到整体能力的进展速度是在 AI 对 AI 研发做出重大贡献之前最快持续速率的两倍。

这合理地可归因于 AI 实现了 AI 研发的自动化，而不是计算或其他投入的加速。

在过去的几个月里，我在 METR 的一些同事一直在进行一项深度访问调查，以了解 Anthropic 的 AI 系统使其加速的程度。根据我对他们的报告以及 Anthropic 的 RSP 的阅读，看起来“剧烈加速”的阈值已经被跨越了。

报告作者发现：

在 2025 年 10 月到 2026 年 10 月之间，Anthropic 的能力进展速度大约是过去十二个月的两倍。他们报告的测量指标是 Epoch Capabilities Index 的内部版本，被称为 AECI；有关加速的广泛其他支持证据已被修订删除。他们表示，这些被删除的证据是他们“发现最具信息量的证据中的绝大部分”。

虽然这种发展速度起初可能是由于多种原因开始加快的，但 AI 自动化很可能是能力今天仍以更快速度提升的绝大部分原因。他们相信这一点的理由已被修订删除。

这比听起来要严重得多。我认为这份报告是我们过去几年中获得的关于 AI 风险的最重要更新——比 Hugging Face 攻击事件重大得多。粗略来看，它指向了比大多数外部研究人员（包括 AI 2027 团队）所预测的要短得多的时间线。

研究人员必须被大幅加速

重要的是，如果 AI 大致使整体能力进展翻倍，它必然会把人类研究人员的速度提高得更多。

研究人员致力于改进算法和架构；Anthropic 有时将这些创新称为“计算乘数（compute multipliers）”。5总体人工智能能力（“有效计算（effective compute）”）是计算乘数与训练计算的乘积。

由于计算乘数只是能力的输入之一，这意味着如果由于软件的进步，人工智能的总体能力推进速度快了一倍，那么计算乘数的增长速度就需要快两倍以上：根据合理的假设，可能是约 ~2.5-3 倍。6由于加速的规模以及其中有多少来自人工智能存在不确定性，我暂且采用 ~2-3 倍。

同理，研究人员劳动力只是发现这些计算乘数的输入之一：他们需要测试自己的想法，这需要用于实验的计算资源。如果我们假设一个非常简单的柯布-道格拉斯模型（Cobb-Douglas model），其中实验计算和劳动力同样重要，这就意味着对劳动力的提升大致需要达到计算乘数加速程度的平方。

7这意味着我们需要实现 (~2-3x)^2 = ~4-9 倍的劳动力加速，才能使人工智能的总体能力推进速度加倍。8

然而，一旦能力开始显著加速，这也意味着低垂的果实（low-hanging fruit）正以相应更快的速度被摘取。每一个新的计算乘数的发现和实现都需要越来越多的工作（即“创意越来越难找（ideas are getting harder to find）”）。

在人工智能带来大幅加速之前，劳动力大致以通过招聘更多人类而获得的某个大致固定的指数速率增长。结合计算能力的增长，这足以补偿收益递减，从而维持能力进步的基准速率。但要在不更快扩展计算规模的情况下维持新的、更快的产能进步速率，我们需要总体劳动力实现新的、更快的增长速率。

由于人类劳动力大体上只能按原有的速率缓慢增长，来自人工智能的提升必须随着时间的推移变得越来越大，才能维持其新速率下的能力进步。这意味着，在经历了几个月来自人工智能的加速进步之后，今天的提升9需要甚至高于 ~4-9 倍（这是对在起点将进步速度加倍所需代价的估计）：所需的劳动力提升可能是 ~10 倍。

这是非常不确定的，高得多或低得多都是可能的。但这与 Anthropic 员工的非正式自我报告惊人地吻合，他们表示自己现在从内部模型的使用中获得了约 ~12 倍的效率提升。

当你想象10倍的提升时，你不应该想象每个研究人员现在都变成了一个十人研究团队——正如任何做过任何事的人所知，十人团队每小时完成的有价值工作并不会是一个人的十倍。相反，这就好像Anthropic的每个研究人员都置身于一个时间扭曲气泡中，他们在其中经历的天数是外界过去天数的十倍。

就好像AI让他们思考、阅读、说话、打字以及做其他所有事情的速度都提高了十倍。10 无论雇佣多少人，Anthropic大概都无法将其研究速度提升这么多。11

这可能会以极其迅速的速度自我叠加

一个合理的默认预期是，随着AI能力的不断提高，AI研究人员将从自动化中获得越来越多的速度提升：如果今天他们完成过去需要一年才能完成的工作需要一个月，那么很快就会缩短为一周，然后可能是一天。如果这种不断增长的劳动力提升足以克服收益递减，那么在没有其他瓶颈的情况下，它将转化为AI进展速度的更大提升：进展将开始以4倍的速度前进，然后是8倍、16倍，以此类推。

报告作者对这个问题非常不确定，并表示随着新信息的出现，他们的看法改变了好几次。但最终，他们没有发现会阻碍这种复合加速的瓶颈或急剧收益递减的证据。12 他们还报告称，看到了一些（令人困惑的）被编辑掉的证据，表明加速可能已经超过了2倍，并且随着时间推移还在增加。

如果我们按字面意思来看，即AI现在几乎使AI能力进展的速度翻了一番，并假设来自AI的加速是平稳的，这就简单地意味着我们将在一年内达到极端超级智能。看起来大约一年的AI进展让我们从适度的加速走到了AI现在使AI进展速度快了大约两倍的地步。

如果来自AI的加速在平稳增长，那么按照这个新速度，我们应该预期我们将在六个月内再次使进展速度翻倍。到那时，将需要三个月再次翻倍，然后是六周。13

理论上，这些翻倍时间加起来，将在一年内实现无限的能力。实际上，在某个时刻，我们将达到软件效率的实际上限。但我预计这些限制距离我们现在的位置还非常遥远。

如果我们经历这个反馈循环，我预计从另一端出来的AI系统将能够非常迅速地开发出新型武器，并且在冲突中极其容易地压倒人类文明。如果这些系统出现严重的失配（misaligned），我认为它们很可能会剥夺人类的权力，而这可能导致人类灭绝。

整个行业尚未做好安全应对这一局面的准备

“急剧加速的进