Language Learning Quiz
Based on: Ray Serve로 구현하는 확장 가능한 LLM 서빙 파이프라인
Do you know this expression?
Model Composition
모델 구성
여러 모델을 하나의 서빙 파이프라인으로 결합하는 패턴으로, A/B 테스트, 앙상블, 캐스케이드 추론 등을 구현합니다.
Tap to flip
Based on: Ray Serve로 구현하는 확장 가능한 LLM 서빙 파이프라인
여러 모델을 하나의 서빙 파이프라인으로 결합하는 패턴으로, A/B 테스트, 앙상블, 캐스케이드 추론 등을 구현합니다.
Tap to flip