
在汇编语言编程游戏《TIS-100》中,即便是简单的乘法运算也极具挑战性,玩家社区曾耗费十年时间优化排行榜程序。近日,一项基准测试将游戏及其手册交给16个大语言模型(LLM),要求其在隐藏排行榜信息的情况下持续优化代码。结果显示,这些模型在短短数日内不仅接管了大部分程序,更发现了133个新的帕累托前沿点数,其中18个直接打破了社区保持的周期纪录。
顶尖模型难分伯仲
测试涵盖47个标准谜题及8个社区锦标赛谜题,每道题仅进行一次评分尝试(pass@1)。Opus 5.5与GPT-6 Astra表现最为突出,两者均解决了全部55个谜题,并在11个谜题中发现了新的前沿点数。具体而言,Opus 5.5发现的新点数更多(72对32),而GPT-6 Astra的纪录接近度略高(78.0对77.2)。统计显示,两者在纪录接近度上的差距并不显著,且GPT-6 Astra在衡量权衡覆盖空间的超体积指标上也处于领先地位。
解题能力与优化能力呈现出分离趋势。Gemini 3.8 Flash解决了53个谜题但仅发现1个新点数;Fable 5.1虽仅解决52个谜题,却在5个谜题中实现了突破。
成本与质量非正相关
高昂的成本并未直接转化为更优的质量。GPT-6.1 Sol以每题约0.75美元的成本达到了75.6的纪录接近度;而Opus 5.5成本高达5.08美元,接近度高出不到2分;最昂贵的Fable 5.1(7.19美元/题)得分仅为70.2。此外,调用频率也无法完全解释性能差异,GPT-6.1 Sol平均每题调用136次,而Gemini 4 Argon仅调用41次,后者纪录接近度反而更高。
新前沿点数主要集中在14个高难度谜题中。随着谜题难度增加,虽然通过率下降,但发现新优化方案的比例显著上升。在所有新发现中,模型在“节点”使用上最接近人类水平,而在“周期”优化上差距最大。
人机协作的新范式
案例分析显示,不同模型采取了截然不同的优化策略。例如在信号乘法器谜题中,Gemini 4 Argon通过并行路径和交错输出,以更多节点和指令为代价,比GPT-6 Astra快约17%。在“上帝模式”实验中,当模型获得确切目标分数、详细诊断信息及更多运行时间后,所有参与测试的模型性能均有显著提升,平均纪录接近度大幅提高。
值得注意的是,AI的发现迅速激发了社区活力。在Opus 5.5打破“十一进制双舍入器”纪录后,人类玩家次日便将其周期数进一步缩短。这一过程印证了AI作为助手的角色:模型擅长在庞大的解空间中寻找新的权衡方案,而人类则负责理解并将其推向极致。这与数学领域中LLM辅助证明的趋势不谋而合,预示着一种新型的人机协作研发模式。