Skip to content

필사 모드: 想得更多不等于答得更对:测试时计算与过度思考

한국어
0%
정확도 0%
💡 왼쪽 원문을 읽으면서 오른쪽에 따라 써보세요. Tab 키로 힌트를 받을 수 있습니다.

引言 — "总之先多烧点推理 token"这个默认值

过去这一两年,把推理模型性能拉上去最省事的杠杆,就是"让它想得更久"。更长的思维链(chain of thought)、更大的推理 token 预算、反复重新思考。基准分数上去了,"扩展测试时计算"这句话不知不觉就成了一个难以反驳的默认值。

2026年4月,Shu Zhou、Rui Ling、Junan Chen、Xin Wang、Tao Fan、Hao Wang 在 "When More Thinking Hurts: Overthinking in LLM Test-Time Compute Scaling" 中,瞄准的正是这个默认值。作者们的指摘简单,却切中痛处。既有研究一直暗中假定"想得越久总是越好",而这个前提其实从未被真正检验过。

本文以这篇论文的摘要为依据,梳理"烧得越多就答得越对"这种反射式信念在哪里崩塌,以及在实务中应该改变什么。仅凭摘要能确认的范围很窄,所以我只搬运作者们报告的方向,其余的都先留白。

论文实际报告了什么

作者们表示,他们系统地考察了当计算预算增大时,"额外推理 token 的边际效用"如何变化。摘要给出的结论大致有三点。

第一,边际收益随着预算升高而大幅减少。这就是常说的收益递减,但作者们把它表述为"相当程度地(substantially)"减少。也就是说,即便把 token 翻倍,精度也远谈不上翻倍,只是微弱地回一点本。

第二,也是这篇论文的核心。模型表现出"过度思考(overthinking)"。用作者们的话说,增加推理"与放弃此前已经答对的答案相关联"。也就是说,收益不只是收敛到 0,在某些区间还会变成负数。意思是想得更多,反而换成了错误的答案。

第三,最优思考长度随问题难度而变化。因此作者们说,给所有问题均匀分配相同计算量的做法并非最优。此外,他们的"成本感知评估框架"表明,若在适度的预算处停下,就能在几乎保持精度的同时大幅减少计算量。

这里有必要把真正新颖的部分区分出来。收益递减本身,是缩放定律(scaling law)早已讲了很久的老话。这篇论文令人不安的地方在于一个更强的主张:曲线不只是变平,而是在某些区间向下拐折。性能单调变好的这一隐含假设被打破,才是摘要中最值得留意的地方。

老实补一句,摘要并没有说明用了哪些模型、基准是什么、效果的大小究竟有多大。所以上面这些句子应当读作作者们报告的方向,具体数值则需要直接查阅正文。

为什么想得更多反而会放弃答对的答案

摘要只报告现象,并不对机制下断言。从这里开始是我的解读,请这样来读。

最说得通的图景是这样的。推理链越长,模型就越久、越多地反复审视自己的中间结果。这种自我修正的能力,在困难问题上是收益。但在已经得出正解的简单问题上,不停地追问"真的对吗?"的过程,就成了给一个好端端的答案注入怀疑。依据薄弱的重新考量,把依据充分的最初判断挤了出去。

这就是"过度思考"这个名字起得贴切的原因。因为这也是人类熟悉的失败样态。就是那种考试时最初选的答案本来是对的,却因为还有时间就反复琢磨,结果改成了错误答案的经历。作者们报告的"放弃答对的答案",看上去就像这种人类失误的机器版本。

有一点我要讲清楚。摘要的用词是"相关联(associated with)",而不是"引发"。作者们报告的是相关,不应被读作证明了因果的机制。我在上面画的那幅图景,也终究只是试图解释这一相关的一个假设而已。

有一个重要的含义。如果损失只是单纯的收益递减,那么最坏情况也不过是"多花了钱,不赔不赚"。但如果过度思考确实存在,那么更多的计算就可能不只是浪费,而是主动地有害。这意味着"先把预算留得宽裕些总没坏处"这个看似安全的默认值,实际上并不安全。

那么该改变什么 — 难度感知的预算

从论文可以直接推出的实务指引,不是"更多",而是"适量,并且知道何时停下"。

  • 放弃统一预算:给所有请求相同 token 上限的设定,若照作者们的观察,对简单问题过剩、对困难问题不足。预算应当绑定到问题上,而不是绑定到流水线上。
  • 先估计难度:用简短的前置判断掂量问题的难度,再据此分配思考预算,这种自适应推理是自然的下一步。它恰好与近来"自适应推理强度(adaptive reasoning effort)"的潮流相契合。
  • 设计停止的判据:要把摘要所说的"在适度的预算处停下"落实为实际的停止规则。比如答案早早收敛就不再继续烧的提前终止,或是当多次迭代之间的答案开始剧烈波动时就介入的监视装置。
  • 不只看精度,也一并看成本:作者们的评估是"成本感知(cost-aware)"的,这一点很关键。只看精度曲线,烧得更多似乎总是赢;可一旦把成本放到同一根轴上,最优点就会大幅向左移动。

这些指引之所以有吸引力,是因为它们彼此强化。能估计难度,就能分配预算;能分配预算,就能决定停在哪里;而这一切都能在成本这根轴上得到正当化。

不过,一个诚实的难点仍然存在。这些处方全都以"问题有多难"能事先知晓为前提。可是,在进入推理之前就准确估计难度,这件事本身还是个尚未解决的问题。论文指出了方向,但沿这个方向前进所需的难度信号,并不是免费给到的。

结语

"扩展测试时计算"依然是一根强有力的杠杆。这篇论文并不否定这根杠杆。它只是用作者们的观察表明:杠杆有尽头,而在某些区间,拉动的方向会反转。

我从这个结果里学到的教训很朴素。"想得更多"既不是免费的,也不总是正确的,它本身就是一个超参数。它是需要调优的对象,而不是要无限往上加的值。

当然,仅凭摘要无法知道这一现象出现得有多普遍、在哪些模型和任务上出现。这部分我先留白。但对于把"先烧再说"反射式地当作默认值的习惯,这篇论文踩下了一记健康的刹车。知道何时停下,已经变得和知道还能走多远同样重要。

参考资料

현재 단락 (1/26)

过去这一两年,把推理模型性能拉上去最省事的杠杆,就是"让它想得更久"。更长的思维链(chain of thought)、更大的推理 token 预算、反复重新思考。基准分数上去了,"扩展测试时计算"这...

작성 글자: 0원문 글자: 2,538작성 단락: 0/26