你让 AI 解一道数独,它通常会把推理一步步写成文字。问题是,一旦前面写错,后面往往只能沿着错误继续。新论文提出另一种办法:先不急着把思路说出口,而是在模型内部反复修改一份数字化“草稿”,改到一定程度后,再交给大语言模型输出答案。
这套方法叫 Latent Recurrent Thoughts(LRT,潜在循环思维)。它挑战的不是“推理要不要分步骤”,而是另一个更基础的假设:中间步骤是否必须写成词语。
不写思维链,先在内部改稿
常见的 Chain-of-Thought(CoT,思维链)让模型逐 Token——也就是逐个词或字符单位——生成推理过程。每写出一步,就相当于把它提交到了纸面。后续步骤只能接着往下写,早期错误也容易一路传递。
LRT把中间过程放进潜空间。潜空间是模型用数字向量组织信息的内部空间,人不能像读句子一样直接阅读。换句话说,模型处理的不是“先算什么、再算什么”这样的文字,而是一组连续变化的数字表示。
论文的设计分三段。首先,一个针对特定任务训练的 proposer(提议器)读取题目,产生一组基础潜变量,相当于草拟候选思路。随后,一个很小的 recurrent reasoner(循环推理器)反复修改这些潜变量。最后,冻结的 Qwen3-8B 读取修改后的结果并生成答案。
“冻结”意味着 Qwen3-8B 的原有参数完全不变。训练只发生在旁边的辅助模块。这样做既能保留大模型已有的语言和序列处理能力,也能较清楚地检验:提升究竟是否来自新加入的推理机制。
关键不是多想一次,而是反复修正
LRT最有意思的部分,是循环细化。循环推理器不会每轮重新生成一份潜变量,而是给原稿加上有界的残差修正——可以理解为每次只允许做有限幅度的涂改。基础潜变量还会在每轮重新送入,防止修改过程逐渐偏离题目。
这与此前方法有两点不同。SoftCoT使用通用语言助手一次性生成潜变量,不再修改。EBM-CoT则沿着一个学到的标量“能量”方向调整潜变量,更像把表示推向某个较合适的区域。LRT使用的是能够输出整组修正方向的小网络,因此可以执行多轮约束传播和纠错。
同一套网络还能重复运行很多轮,不必随着推理轮数增加参数。于是,负责语言理解和输出的模型规模,与中间计算的深度被部分拆开了:大模型保持不动,小网络负责多想几轮。
训练也不需要人工写好的推理过程。Countdown-4——用四个整数和算术运算凑出目标数——以及 Sudoku 只提供最终答案,不提供解题轨迹。模型只能从答对或答错的信号中,学会怎样形成和修正内部表示。自然语言实验还包括代码生成基准 HumanEval、MBPP,以及多步问答基准 StrategyQA。
数字显示了什么
据这篇论文报告,在解码器、提示词、训练数据和训练预算相同的控制下,LRT在五项任务上都优于 SoftCoT 和作者复现的 EBM-CoT。所有结果均使用冻结的 Qwen3-8B;论文报告的是三次随机种子的均值。
差异在符号任务上尤其明显。Countdown-4中,零样本 CoT 的解题率为 30.0%,SoftCoT 和 EBM-CoT 分别降到 5.9% 和 8.4%。这说明不合适的潜变量不只是没帮助,还可能干扰解码器。LRT则达到 56.7%。在 Sudoku 上,零样本 CoT 为 23.9%,LRT为 49.2%。
自然语言任务上,LRT在 HumanEval、MBPP 和 StrategyQA 分别得到 37.8%、51.5% 和 75.1%,也都是受控比较中的最高值。五项任务简单平均后,LRT为54.1%,EBM-CoT为33.5%,零样本 CoT为35.0%。
消融实验进一步拆开了两项改动。只把通用提议器换成任务专用提议器,三个代表性任务的平均成绩便从12.3%升到37.2%;在此基础上加入循环细化,平均成绩继续升到47.9%。这意味着“先提出一份适合任务的潜在草稿”和“再反复修改”缺一不可。把循环推理器接到通用提议器后,Countdown-4仍只有14.8%。
论文还报告,随着循环过程推进,中途解码的准确率持续上升,修正幅度逐渐收缩;把同一推理器在测试时运行得更深,成绩仍会改善。这些现象支持“模型在逐步计算”的解释,但还不能证明这些潜变量等价于人类思维,也不能让人直接读懂其内容。
为什么值得关注
本刊8月20日报道的 SELR 同样把推理放进潜空间,但重点是把内部表示重新翻译成可读解释。LRT关心的是另一件事:能否用小型辅助网络反复加工内部表示,同时保持大语言模型冻结。
它给出了一种不同的分工方式。大模型负责已经擅长的语言理解与答案生成;小网络负责需要多轮迭代的计算。TRM这一循环推理器单独运行时,在 Countdown-4 上只有1.2%,也无法处理自然语言任务;但接到合适的潜变量和冻结LLM后,系统明显改善。论文据此认为,计算分布在提议器、循环推理器与解码器之间,而不是由其中一个部件独自完成。
更重要的是,它把“推理”和“把推理写出来”分开了。文字思维链仍然方便检查和交流,但可能不是机器执行中间计算的唯一界面。LRT提供的证据是:至少在这五项任务和这一规模的模型上,连续表示中的反复修正可以成为有效补充。
局限与未知
- LRT不是拿来即用的通用推理器。提议器和循环推理器需要按任务类别训练,并依赖答案监督;论文没有验证跨任务或跨难度迁移。
- 更高计算预算的 thinking mode 并未被全面超越。相同的 Qwen3-8B 在五项任务中有三项胜过LRT;专用符号求解器在 Sudoku 上也远高于LRT。论文的结论应限定为:在冻结解码器和较小推理预算的设定内,LRT优于受控比较对象。
- 证据目前只来自论文作者的实验,覆盖一个主要解码器和五项基准。中途准确率、收敛趋势和线性探针都只是相关性证据,不能证明潜变量中存在可解释、或与人类等价的“思维”。