728x90
반응형

Knative 2

KServe

개요AI/ML 모델을 실제 서비스 환경에 배포하고 운영하는 과정은 단순한 학습(training)보다 더 복잡하고 까다롭습니다. 특히 확장성, 안정성, 보안, 표준화된 관리가 필수적입니다. 이를 해결하기 위해 CNCF 산하 Kubeflow 프로젝트의 일부로 개발된 KServe는 Kubernetes 네이티브 방식의 모델 서빙 프레임워크로, AI/ML 모델 운영을 단순화하고 표준화합니다.1. 개념 및 정의KServe는 Kubernetes 상에서 머신러닝 및 딥러닝 모델을 효율적으로 배포, 확장, 관리할 수 있는 오픈소스 서빙 프레임워크입니다. 다양한 프레임워크(TensorFlow, PyTorch, XGBoost 등)에서 학습된 모델을 손쉽게 서빙할 수 있도록 지원합니다.주요 목적은 확장 가능한 모델 서빙과 운..

Topic 2025.09.14

Knative

개요Knative는 Kubernetes 위에서 서버리스(serverless) 워크로드를 손쉽게 실행하고 관리할 수 있도록 도와주는 오픈소스 플랫폼입니다. 이벤트 기반 아키텍처, 컨테이너 배포 자동화, 확장성, 사용량 기반 요금 절감 등을 가능하게 하며, 클라우드 네이티브 애플리케이션 개발의 효율성과 민첩성을 극대화할 수 있습니다.Google과 CNCF 커뮤니티가 주도하는 Knative는 Kubernetes의 복잡한 설정을 추상화하여 개발자가 비즈니스 로직에 집중할 수 있도록 설계되었습니다.1. 개념 및 정의 항목 설명 정의Knative는 Kubernetes 위에서 서버리스 기능(자동 스케일링, 이벤트 기반 실행 등)을 구현하는 오픈소스 플랫폼입니다.목적DevOps 없이도 코드 배포와 실행이 가능하게 하..

Topic 2025.09.03
728x90
반응형