Published on2026년 6월 12일LLM을 바닥부터 만들어보기 — 스탠퍼드 CS336 스타일 학습 로드맵llmtransformercs336deep-learningtokenizertrainingnanogpt스탠퍼드 CS336(Language Modeling from Scratch)이 해커뉴스 상위권에 오르며 from-scratch LLM 학습이 다시 화제입니다. 토크나이저부터 어텐션, 분산 학습, 스케일링 법칙, 정렬, 추론 최적화까지 전체 커리큘럼을 해부하고 20주 학습 플랜과 미니 프로젝트 아이디어를 정리했습니다.
Published on2026년 3월 3일나만의 GPT 만들기 — nanoGPT로 처음부터 학습하는 언어 모델aillmgptnanogpttransformerdeep-learningfrom-scratch2026-03Andrej Karpathy의 nanoGPT를 활용해 GPT 언어 모델을 처음부터 학습합니다. Transformer 아키텍처의 핵심 원리, 토크나이저, Self-Attention, 학습 루프까지 코드와 함께 완전 해부합니다.