Volcano Scheduler

개요

Volcano Scheduler는 쿠버네티스(Kubernetes) 환경에서 AI/ML, HPC, Big Data 등 고성능 연산(Batch/Job) 워크로드에 최적화된 스케줄링 기능을 제공하는 확장형 스케줄러다. 기본 kube-scheduler의 한계를 보완하며, 자원 예약, 우선순위, Job 그룹 스케줄링, 공정성(Fairness) 등 배치 컴퓨팅에 필수적인 기능들을 지원한다.

---

1. 개념 및 정의

Volcano는 쿠버네티스의 CRD(Custom Resource Definition)를 기반으로 Job 단위의 리소스 요청과 스케줄링 정책을 정의하고 실행할 수 있도록 하는 스케줄링 프레임워크이다. 쿠버네티스 네이티브 방식으로 통합되며, 대규모 AI 모델 학습, 병렬 계산 작업 등에 유용하다.

목적 및 필요성

• 고성능 컴퓨팅 자원의 효율적 할당
• GPU/CPU 자원의 병렬 예약 및 공유
• ML/DL 워크로드의 스케일링 및 효율화

---

2. 특징

항목	Volcano	kube-scheduler	Spark on K8s
스케줄링 단위	Job/TaskGroup	Pod	ApplicationDriver 중심
우선순위/Queue	지원	제한적	제한적
리소스 공유	Gang Scheduling, Affinity	없음	없음

Batch Job의 특성을 고려한 세밀한 리소스 제어 가능

---

3. 구성 요소

구성 요소	설명	예시
Volcano Scheduler	핵심 스케줄링 엔진	Job Group 큐, 정책 실행
Queue	우선순위 기반 Job 대기열	FIFO, Fair-share 설정 가능
Job Controller	VolcanoJob CRD 관리 컨트롤러	Job 생성, 상태 업데이트 관리

스케줄러 + CRD + 컨트롤러 구성으로 동작

---

4. 기술 요소

기술 요소	설명	적용 예시
Gang Scheduling	모든 작업 가능할 때 동시에 시작	AI 분산 학습, MPI Job 등
Node Ordering	사용자 정의 노드 스코어링	GPU 메모리 여유순으로 배치
Plugin Framework	정책별 확장 플러그인 지원	binpack, DRF, node affinity 등

사용자 정의 정책 적용이 용이한 구조

---

5. 장점 및 이점

항목	내용	기대 효과
고성능 워크로드 최적화	자원 확보 후 일괄 실행 가능	학습 실패 최소화
스케일링 유연성	다양한 Queue 및 Priority 정책 지원	다중 팀 환경에서도 활용 가능
쿠버네티스 통합성	CRD, Controller 기반	DevOps/GitOps와의 통합 용이

워크로드 지연 최소화 및 클러스터 효율 향상

---

6. 주요 활용 사례 및 고려사항

사례	내용	참고사항
AI 분산 학습	Horovod, MPI 기반 Job 실행	Gang + GPU Affinity 설정 필요
Bio/HPC	병렬 생물정보 분석 Pipeline 스케줄링	Fair-Share Queue 구성
MLOps 파이프라인	Workflow 기반 배치 실행 최적화	Tekton/Argo 연계 가능

도입 시 고려사항

• 기본 kube-scheduler와 충돌 방지 위한 설정 필요
• Job 정의 및 Queue 체계 설계 선행 필요
• GPU/CPU 자원 예약 정책 및 공유 전략 수립

---

7. 결론

Volcano Scheduler는 쿠버네티스 환경에서 복잡한 배치 및 연산 워크로드를 효과적으로 스케줄링할 수 있는 전문 솔루션이다. AI/ML, HPC, 대규모 데이터 파이프라인 등에서 정밀한 리소스 조정과 실행 보장을 통해 클러스터 활용률과 워크로드 신뢰성을 동시에 높일 수 있다.