
循环机制虽为推理模型提供了强大的归纳偏置,但现有方法缺乏明确的进度衡量指标,难以确定停止时机及优化方向。为此,研究团队引入了基于能量的推理器(EBRs)。该模型在潜在推理状态上学习能量函数,将循环更新转化为能量函数上的梯度下降过程:能量值对状态进行评分,梯度则指导优化并提供停止信号。此外,团队还引入了基于探索的训练方法,以塑造更广泛状态空间下的能量景观。
核心机制:为何选择能量?
与传统循环推理器直接更新状态不同,EBR 通过学习能量函数来显式评估潜在状态,从而指导优化、停止和选择过程:
- 评分(Score):能量函数评估推理状态与初始输入的兼容性,能量越低表示兼容性越好。
- 优化(Refine):利用梯度将评分转化为改进方向,推动状态向低能量区域演化。
- 停止(Stop):当梯度范数低于阈值时,状态趋于稳定,系统自动停止迭代。
- 选择(Select):在多个候选解中,选取能量最低的作为最终输出。
实验显示,正确的解题轨迹会收敛至低能量且梯度小的稳定状态,而错误轨迹则会持续波动。
性能表现:高效且精准
在四个算法推理基准测试中,EBR 的表现持平或优于此前的循环推理模型。尤其在 Sudoku-Extreme 任务上,EBR 达到了 99.9% 的准确率,其推理计算量比次优模型减少 345 倍,同时保持了相当的训练计算量。
得益于自适应停止机制,简单问题只需少量步骤即可解决,复杂问题则自动增加迭代次数。数据显示,仅用 1.8M 参数量,EBR 在单样本准确率上便超越了参数量更大的 TRM、EqR 和 GRAM 等模型。在保持 99.9% 准确率的同时,相比固定深度的 EBR 变体,其浮点运算量(FLOPs)减少了 10.9 倍。
多解生成:领先的覆盖率
EBR 的行为类似随机梯度下降,能够捕捉多种有效解。在多解基准测试中,EBR 在保持接近 100% 单样本准确率的同时,实现了业界领先的不同有效解覆盖率(Coverage)。在 N-Queens 和 Graph Coloring 任务中,EBR 使用 20 个样本找到的不同有效解比例显著高于 TRM 和 GRAM 等基线模型,且在图着色任务中实现了零冲突。