Chaos and Order https://www.youngju.dev/blog 천천히 올바르게. AI Researcher & DevOps Engineer Youngju's blog. GPU/CUDA, LLM, MLOps, Kubernetes AI workloads, and data engineering — plus mindset essays on confidence, routines, health, and sport psychology. ko fjvbn2003@gmail.com (Youngju Kim) fjvbn2003@gmail.com (Youngju Kim) Wed, 18 Mar 2026 00:00:00 GMT https://www.youngju.dev/blog/culture/2026-03-18-llm-api-cost-optimization-strategies.en Practical LLM API Cost Optimization: How to Cut Costs by 90% https://www.youngju.dev/blog/culture/2026-03-18-llm-api-cost-optimization-strategies.en Five battle-tested strategies to slash LLM API costs — prompt caching (90% reduction), model routing, semantic caching, Batch API, and output optimization — all with production-ready code and real cost calculations. Wed, 18 Mar 2026 00:00:00 GMT fjvbn2003@gmail.com (Youngju Kim) llm-cost-optimizationapi-costprompt-cachingmodel-routingai-developmentcost-reduction https://www.youngju.dev/blog/llm/2026-07-26-llm-api-cost-optimization LLM API 비용 최적화 — 출력 토큰, 프롬프트 캐싱, 라우팅의 손익분기 계산 https://www.youngju.dev/blog/llm/2026-07-26-llm-api-cost-optimization LLM API 청구서를 절반으로 줄이는 작업은 감이 아니라 산수입니다. 출력 토큰 단가가 입력의 몇 배라는 구조 때문에 가장 큰 레버는 거의 항상 출력 길이 통제이고, 그다음이 프롬프트 캐싱입니다. 캐싱이 접두사만 잡는다는 제약이 프롬프트 배치 순서를 어떻게 강제하는지, RAG와 전체 컨텍스트의 손익분기가 어디인지, 모델 라우팅의 절감률 공식과 그에 따르는 정확도 손실을 어떻게 같은 단위로 재는지를 정리했습니다. 월 비용을 시뮬레이션하는 코드와, 토큰 추정치가 실제 청구액과 어긋나는 다섯 가지 원인도 함께 다룹니다. Sun, 26 Jul 2026 00:00:00 GMT fjvbn2003@gmail.com (Youngju Kim) llmcost-optimizationprompt-cachingragmodel-routing