- Authors
- Name
- Youngju Kim
- @fjvbn20031
引言 — "总之先多烧点推理 token"这个默认值
过去这一两年，把推理模型性能拉上去最省事的杠杆，就是"让它想得更久"。更长的思维链(chain of thought)、更大的推理 token 预算、反复重新思考。基准分数上去了，"扩展测试时计算"这句话不知不觉就成了一个难以反驳的默认值。
2026年4月，Shu Zhou、Rui Ling、Junan Chen、Xin Wang、Tao Fan、Hao Wang 在 "When More Thinking Hurts: Overthinking in LLM Test-Time Compute Scaling" 中，瞄准的正是这个默认值。作者们的指摘简单，却切中痛处。既有研究一直暗中假定"想得越久总是越好"，而这个前提其实从未被真正检验过。
本文以这篇论文的摘要为依据，梳理"烧得越多就答得越对"这种反射式信念在哪里崩塌，以及在实务中应该改变什么。仅凭摘要能确认的范围很窄，所以我只搬运作者们报告的方向，其余的都先留白。
论文实际报告了什么
作者们表示，他们系统地考察了当计算预算增大时，"额外推理 token 的边际效用"如何变化。摘要给出的结论大致有三点。
第一，边际收益随着预算升高而大幅减少。这就是常说的收益递减，但作者们把它表述为"相当程度地(substantially)"减少。也就是说，即便把 token 翻倍，精度也远谈不上翻倍，只是微弱地回一点本。
第二，也是这篇论文的核心。模型表现出"过度思考(overthinking)"。用作者们的话说，增加推理"与放弃此前已经答对的答案相关联"。也就是说，收益不只是收敛到 0，在某些区间还会变成负数。意思是想得更多，反而换成了错误的答案。
第三，最优思考长度随问题难度而变化。因此作者们说，给所有问题均匀分配相同计算量的做法并非最优。此外，他们的"成本感知评估框架"表明，若在适度的预算处停下，就能在几乎保持精度的同时大幅减少计算量。
这里有必要把真正新颖的部分区分出来。收益递减本身，是缩放定律(scaling law)早已讲了很久的老话。这篇论文令人不安的地方在于一个更强的主张：曲线不只是变平，而是在某些区间向下拐折。性能单调变好的这一隐含假设被打破，才是摘要中最值得留意的地方。
老实补一句，摘要并没有说明用了哪些模型、基准是什么、效果的大小究竟有多大。所以上面这些句子应当读作作者们报告的方向，具体数值则需要直接查阅正文。
为什么想得更多反而会放弃答对的答案
摘要只报告现象，并不对机制下断言。从这里开始是我的解读，请这样来读。
最说得通的图景是这样的。推理链越长，模型就越久、越多地反复审视自己的中间结果。这种自我修正的能力，在困难问题上是收益。但在已经得出正解的简单问题上，不停地追问"真的对吗？"的过程，就成了给一个好端端的答案注入怀疑。依据薄弱的重新考量，把依据充分的最初判断挤了出去。
这就是"过度思考"这个名字起得贴切的原因。因为这也是人类熟悉的失败样态。就是那种考试时最初选的答案本来是对的，却因为还有时间就反复琢磨，结果改成了错误答案的经历。作者们报告的"放弃答对的答案"，看上去就像这种人类失误的机器版本。
有一点我要讲清楚。摘要的用词是"相关联(associated with)"，而不是"引发"。作者们报告的是相关，不应被读作证明了因果的机制。我在上面画的那幅图景，也终究只是试图解释这一相关的一个假设而已。
有一个重要的含义。如果损失只是单纯的收益递减，那么最坏情况也不过是"多花了钱，不赔不赚"。但如果过度思考确实存在，那么更多的计算就可能不只是浪费，而是主动地有害。这意味着"先把预算留得宽裕些总没坏处"这个看似安全的默认值，实际上并不安全。
那么该改变什么 — 难度感知的预算
从论文可以直接推出的实务指引，不是"更多"，而是"适量，并且知道何时停下"。
- 放弃统一预算：给所有请求相同 token 上限的设定，若照作者们的观察，对简单问题过剩、对困难问题不足。预算应当绑定到问题上，而不是绑定到流水线上。
- 先估计难度：用简短的前置判断掂量问题的难度，再据此分配思考预算，这种自适应推理是自然的下一步。它恰好与近来"自适应推理强度(adaptive reasoning effort)"的潮流相契合。
- 设计停止的判据：要把摘要所说的"在适度的预算处停下"落实为实际的停止规则。比如答案早早收敛就不再继续烧的提前终止，或是当多次迭代之间的答案开始剧烈波动时就介入的监视装置。
- 不只看精度，也一并看成本：作者们的评估是"成本感知(cost-aware)"的，这一点很关键。只看精度曲线，烧得更多似乎总是赢；可一旦把成本放到同一根轴上，最优点就会大幅向左移动。
这些指引之所以有吸引力，是因为它们彼此强化。能估计难度，就能分配预算；能分配预算，就能决定停在哪里；而这一切都能在成本这根轴上得到正当化。
不过，一个诚实的难点仍然存在。这些处方全都以"问题有多难"能事先知晓为前提。可是，在进入推理之前就准确估计难度，这件事本身还是个尚未解决的问题。论文指出了方向，但沿这个方向前进所需的难度信号，并不是免费给到的。
结语
"扩展测试时计算"依然是一根强有力的杠杆。这篇论文并不否定这根杠杆。它只是用作者们的观察表明：杠杆有尽头，而在某些区间，拉动的方向会反转。
我从这个结果里学到的教训很朴素。"想得更多"既不是免费的，也不总是正确的，它本身就是一个超参数。它是需要调优的对象，而不是要无限往上加的值。
当然，仅凭摘要无法知道这一现象出现得有多普遍、在哪些模型和任务上出现。这部分我先留白。但对于把"先烧再说"反射式地当作默认值的习惯，这篇论文踩下了一记健康的刹车。知道何时停下，已经变得和知道还能走多远同样重要。
参考资料
- Shu Zhou et al., "When More Thinking Hurts: Overthinking in LLM Test-Time Compute Scaling" (arXiv:2604.10739, 2026-04-12): https://arxiv.org/abs/2604.10739
- 同一篇论文的 PDF: https://arxiv.org/pdf/2604.10739