Published on2026년 8월 12일정규화와 활성화 — 학습을 무너뜨리지 않는 법ai-papersmodel-internalsrmsnormswiglutraining-stabilityqk-normRMSNorm과 프리노름, SwiGLU가 왜 지금의 표준이 되었는지 config 값으로 확인하고, Qwen3의 QK-Norm과 Kimi K2의 QK-Clip처럼 어텐션 로짓 폭주를 막는 최신 장치를 실제 리포트의 수치와 함께 정리합니다. 안정성을 위해 무엇을 추가하고 무엇을 감수하는지 다룹니다.