Skip to content

Time-slicing

  • Published on
    GPU 한 장에 여러 워크로드를 올리는 방법은 크게 두 가지입니다. 시간을 나누는 time-slicing과 하드웨어를 나누는 MIG인데, 이름이 비슷해 보이는 것과 달리 격리 수준이 전혀 다릅니다. 이 글은 NVIDIA GPU Operator 공식 문서를 기준으로 두 방식의 설정 파일 구조와 노드 라벨, 광고되는 리소스 이름, 지원 하드웨어 조건을 정리하고, time-slicing 복제본 사이에 메모리와 장애 격리가 없다는 사실이 실무에서 무엇을 뜻하는지, 어떤 워크로드에 무엇을 골라야 하는지를 판단 기준으로 정리합니다. 쿠버네티스 GPU 운영·관측 시리즈의 세 번째 글입니다.