Diffusion

All Posts

Published on
2026년 7월 11일
확산 LLM이 CUDA 커널을 쓴다 — DICE와 왜 병렬 생성이 도움이 되는가
ai llm diffusion cuda gpu
DICE는 2026년 2월 프리프린트로, 확산(diffusion) 대규모 언어 모델이 CUDA 커널 생성에서 같은 규모의 자기회귀(autoregressive) 모델을 능가하고 새로운 최고 성능(SOTA)을 세웠다고 주장합니다. 핵심 아이디어는 토큰을 왼쪽에서 오른쪽으로 하나씩 쓰는 대신, 전체 시퀀스를 병렬로 생성하고 어느 위치든 비순차적으로 고쳐 쓸 수 있다는 것 — 전역 구조가 중요한 코드 과제에 잘 맞을 법한 성질입니다. 저자들은 CuKe라는 SFT 데이터셋과 2단계 강화학습(BiC-RL)으로 1.7B·4B·8B 모델을 학습해 KernelBench에서 평가했습니다. 다만 이 글의 모든 정량 표현은 동료평가 전 프리프린트의 저자 주장이며, 초록에는 구체적 수치가 없고 SOTA도 독립 검증된 값이 아닙니다. 검증 가능한 과제라서 잘 통했을 가능성과 커널 밖으로 일반화될지가, 이 결과를 읽는 두 개의 열쇠입니다.
Published on
2026년 7월 11일
扩散 LLM 会写 CUDA 内核 — DICE,以及并行生成为何可能有效
ai llm diffusion cuda gpu
DICE 是 2026 年 2 月的一篇预印本,它主张扩散(diffusion)大语言模型在 CUDA 内核生成上超越了同规模的自回归(autoregressive)模型,创下了新的最高性能(SOTA)。核心思路是:与其把 token 从左到右逐个写出,不如并行生成整个序列,并可以在任意位置非顺序地改写 — 这一性质似乎很适合全局结构至关重要的代码任务。作者用一个名为 CuKe 的 SFT 数据集和两阶段强化学习(BiC-RL)训练了 1.7B·4B·8B 三种模型,并在 KernelBench 上评估。不过本文所有的定量表述都是这篇未经同行评审的预印本中作者的主张,摘要里没有具体数字,SOTA 也不是经过独立验证的结果。这个任务因为可验证才奏效的可能性,以及它能否泛化到内核之外,是解读这一结果的两把钥匙。
Published on
2026년 6월 12일
Diffusion LM의 부상 — 자기회귀의 대안이 될 수 있을까
llm diffusion text-generation gemma inference architecture
2026년 6월 구글이 DiffusionGemma를 공개하며 텍스트 확산 모델이 GeekNews와 해커뉴스를 달구고 있습니다. 자기회귀 생성의 구조적 한계, 마스킹 기반 디노이징의 원리, 블록 단위 병렬 생성, 4배 빠르다는 주장의 실체와 품질 트레이드오프까지 비판적으로 분석합니다.
Published on
2026년 4월 15일
Diffusion Models Deep Dive — DDPM, Latent Diffusion, Classifier-Free Guidance, DDIM, Stable Diffusion 완전 정복 (2025)
diffusion generative-ai stable-diffusion ddpm machine-learning u-net latent-space deep-learning
Stable Diffusion, DALL-E, Midjourney, Sora의 기반이 되는 확산 모델. 이 글은 Diffusion Model을 처음부터 해부합니다. Forward/Reverse diffusion process, DDPM과 variational lower bound, Score-based 관점, DDIM으로의 가속 샘플링, U-Net 아키텍처와 Cross-attention, Latent Diffusion Model이 왜 판도를 바꿨는지, Classifier-Free Guidance의 마법, ControlNet/LoRA 같은 조건부 생성, Consistency Model로의 진화, 그리고 비디오 Diffusion(Sora)까지 — 현대 생성 AI를 수학과 시스템 양쪽에서 제대로 이해하고 싶은 엔지니어를 위한 종합 가이드입니다.
Published on
2026년 3월 21일
2025년 AI 논문 트렌딩 총정리: HuggingFace 인기 논문부터 10대 연구 트렌드까지
ai-research papers huggingface reasoning moe diffusion llm ai-agent video-generation efficient-inference rlhf multimodal 2026-03
HuggingFace 트렌딩 논문 TOP 10과 2025년 AI 연구 10대 트렌드를 개발자 관점에서 리뷰합니다. DeepSeek-R1의 순수 RL 추론, Nemotron-Cascade 30B/3B MoE, GRPO, vLLM PagedAttention, 100만 토큰 컨텍스트의 한계, 비디오 생성 벤치마크까지.
Published on
2026년 3월 1일
ACE-Step: AI 음악 생성의 새로운 패러다임 — 아키텍처, 학습 방법, 실전 활용 완벽 분석
ace-step music-generation ai-music deep-learning diffusion audio-generation text-to-music generative-ai
ACE-Step 음악 생성 모델의 아키텍처, 학습 방법론, 텍스트-투-뮤직 생성 원리를 심층 분석하고, MusicGen, Suno, Udio 등 경쟁 모델과 비교하며 AI 음악 생성의 현재와 미래를 조망한다.
Published on
2026년 3월 1일
Text-to-Image 모델 학습 방법론 완벽 가이드: GAN에서 Flow Matching까지
deep-learning text-to-image diffusion stable-diffusion generative-ai training flow-matching
GAN, VAE, Diffusion, Flow Matching까지 Text-to-Image 생성 모델의 핵심 아키텍처별 학습 방법론을 논문 기반으로 심층 분석한다. Stable Diffusion, DALL-E, Imagen, Flux 등 주요 모델의 학습 전략과 Fine-tuning 기법을 포괄적으로 다룬다.
Published on
2026년 3월 1일
Wan Text-to-Video/Image-to-Video와 Z Image Turbo 완벽 분석: 차세대 비디오·이미지 생성 모델의 아키텍처와 활용
wan text-to-video image-to-video z-image-turbo video-generation image-generation diffusion deep-learning generative-ai alibaba
Alibaba Wan의 Text-to-Video/Image-to-Video 모델 아키텍처, 학습 방법론, 비디오 생성 파이프라인과 Z Image Turbo의 초고속 이미지 생성 기술을 심층 분석하고, Sora/Kling/Runway 등 경쟁 모델과 비교하며 실전 활용 가이드를 제공한다.

Diffusion

diffusion (8)