Skip to content
←

Split View: Tencent Hy3: 295B 오픈 웨이트 MoE를 냉정하게 읽기

|

Tencent Hy3: 295B 오픈 웨이트 MoE를 냉정하게 읽기

들어가며 — Hy3가 실제로 무엇인가

2026년 7월 6일, Tencent의 Hy(구 Hunyuan) 팀이 Hy3를 오픈 웨이트로 공개했다. 4월 23일에 나왔던 프리뷰의 정식판이다. 먼저 오해 하나를 풀고 가자. 이름 때문에 3D 생성 모델로 보이기 쉽지만, Hy3는 텍스트 기반 추론·에이전트용 대규모 언어 모델 이다. 3D 자산을 만드는 Hunyuan3D 라인과는 다른 계열이다.

핵심만 먼저 말하면 이렇다. 총 295B 파라미터의 MoE(Mixture-of-Experts) 구조인데, 토큰 하나를 처리할 때 실제로 켜지는 건 21B뿐이다. 컨텍스트 길이는 256K, 가중치는 BF16으로 배포된다. 라이선스는 Apache 2.0 — 지역 제한도, 사용 분야 제한도 없다. 가중치는 Hugging Face(tencent/Hy3)와 ModelScope에 올라왔고, OpenRouter·Cline·OpenCode 같은 서드파티로도 순차 배포되고 있다.

아키텍처에서 실제로 눈여겨볼 점

숫자 몇 개가 이 모델의 성격을 잘 설명한다. 전문가(expert)는 192개고 그중 top-8만 활성화된다. 그래서 "디스크에는 295B, 계산은 21B"라는 구도가 나온다. 추론 연산량은 21B급 밀집(dense) 모델에 가깝지만, 메모리는 295B를 전부 올려야 한다. BF16 기준으로 단순 계산해도 가중치만 약 590GB(2바이트 × 295B)라, Tencent도 "GPU 8장, H20-3e 이상의 큰 메모리"를 권장한다. 권장 카드가 중국 시장용 H20 계열이라는 점도 솔직히 짚어둘 만하다.

주요 사양을 정리하면 이렇다.

  • 총 파라미터 295B / 활성 21B (전문가 192개 중 top-8)
  • MTP(Multi-Token Prediction) 레이어 3.8B — 투기적 디코딩용
  • 컨텍스트 256K, 정밀도 BF16
  • 어텐션 64헤드 (GQA, KV 8헤드, head dim 128)
  • 추론 조절 reasoning_effort: no_think(기본)·low·high
  • 배포 스택: vLLM·SGLang, 양자화는 AngelSlim 툴킷

3.8B MTP 레이어는 vLLM·SGLang에서 투기적 디코딩(speculative decoding)에 쓰여 토큰 생성을 가속한다. 추론 깊이를 reasoning_effort로 끄고 켜는 설계도 실용적이다. 쉬운 요청에는 기본값 no_think로 바로 답하고, 어려운 문제에만 high로 사고 과정을 길게 뽑아 지연과 토큰 낭비를 막겠다는 뜻이다.

현실적인 운영도 짚자. 약 590GB를 올려야 하니 이건 노트북이 아니라 서버에서 서빙하는 모델이다. 다만 AngelSlim으로 저비트 양자화를 하면 메모리 요구가 줄어, 다중 GPU 워크스테이션에서 시험해 볼 여지는 생긴다. 활성 파라미터가 21B라는 점이 여기서 다시 유리하게 작용한다.

오픈 웨이트 지형과 라이선스 이야기

Hy3는 진공에서 나온 게 아니다. DeepSeek, Zhipu의 GLM, Alibaba의 Qwen으로 이어진 중국계 오픈 웨이트 흐름의 최신 항목이다. 이 진영의 공통점은 플래그십에 근접하는 성능을 관대한 라이선스로 푼다는 것이다.

여기서 Apache 2.0이라는 선택이 생각보다 크다. 지금까지 중국계 "오픈" 모델은 사용 제한이나 지역 조항이 붙은 자체 커뮤니티 라이선스로 나오는 경우가 많았다. Hy3 프리뷰부터가 그랬다. 반면 정식판의 Apache 2.0은 그런 부담이 없어, 법무 검토를 거쳐야 하는 조직 입장에서 채택 장벽이 확연히 낮다.

그래서 한국 개발자에게 진짜 흥미로운 건 라이선스 이력이다. 여러 매체 보도에 따르면 4월 프리뷰는 "Tencent Hy Community License"라는 제한적 라이선스로 나왔고, 여기서 EU·영국·한국을 사용 대상에서 명시적으로 제외 했다. 7월 정식판은 이 조항을 통째로 걷어내고 Apache 2.0으로 전환했다. 이 이력은 1차 자료(공식 공지·모델 카드)가 아니라 2차 보도에서 확인되는 것이라 그 출처는 밝혀둔다. 다만 사실이라면 몇 달 사이 한국이 "쓰면 안 되는 대상"에서 "제한 없이 상업 이용 가능"으로 바뀐 셈이다.

능력 주장을 어디까지 믿을까

공개된 벤치마크(전부 벤더 자체 측정)는 화려하다.

  • GPQA Diamond 90.4
  • SWE-Bench Verified 78.0 / SWE-Bench Pro 57.9
  • HLE(Humanity's Last Exam) 53.2
  • USAMO 2026 72.0 / IMOAnswerBench 90.0
  • Deep SWE 28 / Apex Agents 25.6

Tencent은 "자기보다 2~5배 큰 플래그십에 필적하는 지능"이라고 표현한다. GLM-5.2·DeepSeek-V4-Pro와 "비슷한 수준"이라면서, 파라미터가 각각 753B·1.6T인 상대보다 훨씬 작다는 점을 강조한다. 문서 처리에서 GLM-5.2보다 토큰을 47.4% 적게 썼다는 효율 수치도 있다.

게다가 Deep SWE·Apex Agents 같은 항목은 비교적 새로운 에이전트 계열 벤치마크라, 경쟁 모델의 공개된 기준점이 많지 않다. 숫자만으로 상대 위치를 가늠하기 어렵다는 뜻이다.

여기서 냉정해질 필요가 있다. 이 숫자들은 전부 벤더가 직접 낸 값이고, 글을 쓰는 시점까지 독립적인 제3자 검증은 나오지 않았다. 그리고 벤더 자료 안에서도 약점이 보인다. 코딩에서는 GLM-5.2에 뒤진다 — SWE-Bench Verified 78.0 대 84.2다. GPT-5.5를 넘었다는 주장은 FrontierScience-Olympiad라는 특정 과학 과제 하나에 대한 범주적 서술일 뿐, 점수 비교표는 없다. 반대로 Deep SWE 28, Apex Agents 25.6처럼 낮은 항목까지 모델 카드에 함께 실린 건 오히려 신뢰를 준다.

마치며

Hy3에서 가장 확실한 사실은 벤치마크 순위가 아니라 접근성이다. 21B 활성 파라미터라 추론 비용이 낮고, Apache 2.0이라 법적 마찰이 없으며, 표준 스택(vLLM·SGLang)에서 바로 돌아간다.

벤치마크는 검증 전까지 벤더 주장으로 보는 게 맞다. 하지만 "충분히 좋으면서 제약 없이 쓸 수 있는" 오픈 모델 선택지가 하나 더 늘었다는 사실 자체는 검증이 필요 없는 이득이다. 실제 채택 여부는 순위표가 아니라, 각자의 워크로드에서 며칠 굴려본 결과가 정할 것이다.

참고 자료

Tencent Hy3: reading a 295B open-weight MoE without the hype

Introduction — what Hy3 actually is

On July 6, 2026, Tencent's Hy team (formerly Hunyuan) released Hy3 as open weights — the production version of the preview that shipped on April 23. Clear up one confusion first: the name looks like a 3D generator, but Hy3 is a text-based reasoning and agent large language model. It is a different line from Hunyuan3D, which produces 3D assets.

The short version is this. It is a 295B-parameter Mixture-of-Experts (MoE), but only about 21B parameters actually fire for any given token. Context length is 256K, and weights ship in BF16. The license is Apache 2.0 — no geographic carve-out, no field-of-use clause. The weights are on Hugging Face (tencent/Hy3) and ModelScope, with progressive rollout to third parties such as OpenRouter, Cline, and OpenCode.

What is actually worth noticing in the architecture

A few numbers describe this model well. There are 192 experts, of which top-8 activate per token. That produces the "295B on disk, 21B in compute" shape. The inference compute is close to a 21B dense model, but you still have to hold all 295B in memory. Even by plain arithmetic the weights alone are roughly 590GB (2 bytes x 295B) in BF16, which is why Tencent recommends "8 GPUs, H20-3e or larger memory." It is worth stating plainly that the recommended card is the China-market H20 family.

The key specs, gathered in one place:

  • 295B total parameters / 21B active (192 experts, top-8)
  • 3.8B Multi-Token Prediction (MTP) layer for speculative decoding
  • 256K context, BF16 precision
  • Attention: 64 heads (GQA, 8 KV heads, head dim 128)
  • Reasoning control reasoning_effort: no_think (default), low, high
  • Serving stack: vLLM and SGLang; quantization via the AngelSlim toolkit

The 3.8B MTP layer feeds speculative decoding in vLLM and SGLang to speed up token generation. The reasoning switch is equally pragmatic: easy requests answer directly under the default no_think, and only hard problems get flipped to high for a long chain of thought — so you do not pay latency and tokens for reasoning you did not need.

A word on practical operation. Because you have to load roughly 590GB, this is a model you serve on a server, not run on a laptop. Low-bit quantization via AngelSlim cuts the memory requirement enough that trying it on a multi-GPU workstation becomes plausible — and the 21B active-parameter count works in your favor again here.

The open-weight landscape and the license story

Hy3 did not appear in a vacuum. It is the latest entry in the Chinese open-weight wave that runs through DeepSeek, Zhipu's GLM, and Alibaba's Qwen. What this camp shares is releasing near-flagship capability under permissive licenses.

Here the choice of Apache 2.0 matters more than it looks. Chinese "open" models have often shipped under bespoke community licenses carrying usage or regional clauses — the Hy3 preview itself did. The production Apache 2.0 carries none of that, which sharply lowers the adoption barrier for any organization that has to run a legal review first.

That is why, for a Korean developer, the license history is the genuinely interesting part. According to multiple outlets, the April preview shipped under a restrictive "Tencent Hy Community License" that explicitly excluded the EU, the UK, and South Korea from its usage terms. The July release drops that clause entirely and switches to Apache 2.0. This history comes from secondary coverage rather than the primary announcement or model card, so I flag the provenance. But if accurate, South Korea went from "not allowed to use it" to "unrestricted commercial use" within a few months.

How far to trust the capability claims

The published benchmarks (all vendor-measured) look impressive:

  • GPQA Diamond 90.4
  • SWE-Bench Verified 78.0 / SWE-Bench Pro 57.9
  • HLE (Humanity's Last Exam) 53.2
  • USAMO 2026 72.0 / IMOAnswerBench 90.0
  • Deep SWE 28 / Apex Agents 25.6

Tencent frames it as "intelligence comparable to flagship models two to five times its parameter scale." It claims to be "on par with" GLM-5.2 and DeepSeek-V4-Pro while being far smaller than those 753B and 1.6T rivals, and reports processing documents with 47.4% fewer tokens than GLM-5.2.

It is also worth noting that several of these — Deep SWE, Apex Agents — are relatively new agentic suites without many published baselines from rival models, so a high-looking score is hard to place in context.

This is where a cool head helps. Every one of these numbers is vendor-reported, and as of writing no independent third party has verified them. Even inside the vendor's own data the weak spot shows: on coding it trails GLM-5.2 — SWE-Bench Verified 78.0 versus 84.2. The claim of beating GPT-5.5 is a categorical statement about one task, FrontierScience-Olympiad, with no score table attached. On the other hand, the fact that low results like Deep SWE 28 and Apex Agents 25.6 appear on the model card at all is mildly reassuring.

Closing

The most certain thing about Hy3 is not its benchmark ranking but its accessibility. With 21B active parameters inference is cheap, Apache 2.0 removes legal friction, and it runs on the standard stack (vLLM, SGLang) out of the box.

The benchmarks deserve to be read as vendor claims until verified. But the plain fact that there is now one more "good enough and unrestricted" open model needs no verification. Actual adoption will be settled not by a leaderboard but by a few days of running it on your own workload.

References