Language Learning Quiz
Based on: Sparse Mixture of Experts(MoE) 아키텍처 심층 분석: 설계 원리부터 DeepSeek-V3·Qwen3까지
Do you know this expression?
Gating Network (Router)
게이팅 네트워크 (라우터)
입력 토큰을 어떤 전문가에게 보낼지 결정하는 경량 네트워크로, Top-K 선택 방식이 주로 사용됨
Tap to flip
Based on: Sparse Mixture of Experts(MoE) 아키텍처 심층 분석: 설계 원리부터 DeepSeek-V3·Qwen3까지
입력 토큰을 어떤 전문가에게 보낼지 결정하는 경량 네트워크로, Top-K 선택 방식이 주로 사용됨
Tap to flip