Skip to content

Test-time-compute

  • Published on
    2026년 4월, Shu Zhou 등 6명은 "When More Thinking Hurts"에서 추론 토큰을 무작정 늘리는 흐름에 정면으로 질문을 던집니다. 저자들의 보고에 따르면 컴퓨트 예산이 커질수록 추가 추론 토큰의 한계 효용은 크게 줄어들고, 어느 지점부터 모델은 "과잉사고"에 빠져 이미 맞혔던 답을 스스로 뒤엎습니다. 최적 사고 길이는 문제 난이도마다 다르므로, 모두에게 같은 예산을 주는 방식은 비효율적이라는 것입니다. 초록은 구체적인 모델명이나 수치를 밝히지 않으므로, 저는 방향성만 조심스럽게 옮깁니다.
  • Published on
    o1이 2024년 9월에 test-time compute라는 새로운 축을 열고 1년 반이 지났다. 2026년 현재 '추론 모델(reasoning model)'은 별도의 모델군이 아니라, 모든 프론티어 모델의 한 상태(mode)가 됐다. OpenAI o3·o3-pro·o4, DeepSeek R1·R1-0528·V3.1 reasoner, Anthropic Claude Sonnet 4.5·Opus 4.5의 extended thinking, Google Gemini 2.5 Pro·Deep Think, Alibaba Qwen QwQ·QwQ-Plus, xAI Grok 3·4 Heavy thinking — 여섯 가족의 추론 모드를 thinking budget·AIME·SWE-bench·도구 사용·가격까지 한눈에 정리한다. RLVR(verifiable rewards) 레시피, 추론 모델이 진짜로 필요한 순간, 그리고 빠른 비추론 모델이 더 나은 순간.