尽管首席执行官呼吁放缓技术迭代,Anthropic 的人工智能系统开发速度仍比一年前加快了一倍。这一发现来自非营利组织“模型评估与威胁研究”(METR)的最新分析,正值 Anthropic 准备在本月下旬进行首次公开募股(IPO)之际。

METR 获准访问 Anthropic 的内部数据并采访员工,其评估结果显示,Anthropic 提升模型执行“明确指定任务”能力的速度是两年前的两倍。报告指出,过去一年内该公司在基准测试上取得的进展,相当于其在 2023 年 10 月至 2025 年 10 月期间两年的总和。

AI 自我改进成加速主因

METR 研究人员认为,研发加速的主要驱动力并非传统意义上的算力(compute)增长,而是 AI 模型越来越多地协助开发更先进的版本。Anthropic 证实,其 Claude 聊天机器人已深入参与公司新一代模型的开发工作。

报告排除了训练算力增长作为加速主要原因的可能性,推测改进源于“递归自我改进”——即 AI 构建下一代 AI 的能力不断增强。METR 指出,目前虽未发现算力或数据瓶颈阻碍进步,但这种由 AI 驱动的自我迭代可能产生复合加速效应,引发对失控风险的担忧。

高管呼吁放缓与上市进程并行

在 METR 进行评估期间,Anthropic 首席执行官达里奥·阿莫迪(Dario Amodei)于 9 月 12 日发表文章,回应外界对 AI 失控的担忧,敦促行业“放慢提高 AI 模型能力的步伐”,以便安全措施能够跟上。他警告称,若不受限制,递归自我改进可能超越人类的理解与控制能力。

尽管阿莫迪倡导在领先 AI 实验室中嵌入像 METR 这样的外部评估者,且 OpenAI 首席执行官山姆·奥特曼也表示支持,但 Anthropic 的研发节奏并未因此减缓。METR 报告也承认,由于数据经过删减及任务定义的局限性,加速估算可能存在偏差,但团队内部仍确信改进率已翻倍。

此次 IPO 可能是有史以来规模最大的上市活动之一。Anthropic 尚未就 METR 的报告置评。