Language Learning Quiz
Based on: BentoML로 ML 모델 서빙 파이프라인 구축하기: 패키징부터 Kubernetes 배포까지
BentoML로 ML 모델 서빙 파이프라인 구축하기: 패키징부터 Kubernetes 배포까지1 / 10
이 표현을 알고 있나요?
Adaptive Batching
적응형 배칭
BentoML이 요청 도착 패턴에 따라 배치 크기와 대기 시간을 자동으로 조절하여 처리량과 레이턴시를 최적화하는 내장 기능입니다.
탭하여 뒤집기