Language Learning Quiz
Based on: Unsloth로 LLM 파인튜닝 완전 가이드 2025: QLoRA, 4bit 양자화, 2배 빠른 학습
Do you know this expression?
QLoRA (Quantized Low-Rank Adaptation)
QLoRA
4bit 양자화 + LoRA로 메모리를 극단적으로 줄이면서 파인튜닝하는 기법. 24GB GPU로 70B 모델 학습 가능
Tap to flip
Based on: Unsloth로 LLM 파인튜닝 완전 가이드 2025: QLoRA, 4bit 양자화, 2배 빠른 학습
4bit 양자화 + LoRA로 메모리를 극단적으로 줄이면서 파인튜닝하는 기법. 24GB GPU로 70B 모델 학습 가능
Tap to flip