ITPE * JackerLab

개요NVIDIA GPU Operator는 Kubernetes 클러스터 내에서 GPU 리소스를 자동으로 배포, 구성, 모니터링 및 관리하는 오픈소스 오퍼레이터(Operator)입니다. AI/ML, HPC, 데이터 분석 워크로드를 위한 GPU 인프라를 컨테이너 환경에 최적화된 형태로 운영할 수 있도록 지원하며, NVIDIA의 GPU Cloud(NGC) 생태계와 통합되어 GPU 사용 효율성과 안정성을 극대화합니다.1. 개념 및 정의 항목 내용 비고 정의Kubernetes에서 GPU 드라이버, 런타임, 모니터링 등을 자동으로 관리하는 오퍼레이터CNCF 호환 오픈소스 솔루션목적GPU 리소스의 자동화된 프로비저닝 및 유지관리GPU 인프라 운영 효율화필요성클라우드 네이티브 AI 워크로드 증가 및 GPU 복잡성 완..

개요AI 시스템이 산업 전반에 확산되면서, 신뢰성과 일관된 관리 체계를 보장하기 위한 국제 표준의 필요성이 커졌습니다. 이를 위해 ISO(국제표준화기구)와 IEC(국제전기기술위원회)는 ISO/IEC 23053를 제정했습니다. 이 표준은 인공지능 시스템의 구조와 구성 요소를 정의하는 AI 시스템 프레임워크로, 다른 AI 표준의 참조 모델 역할을 수행합니다.1. 개념 및 정의ISO/IEC 23053는 인공지능 시스템의 구성 요소, 데이터 흐름, 운영 단계 등을 정의하는 프레임워크 표준입니다. AI 시스템의 개발·운영 전 과정에서 일관성과 상호운용성을 보장하기 위해 마련되었습니다.주요 목적은 AI 시스템 구축·운영의 구조적 가이드라인 제공 및 글로벌 표준화 지원입니다.2. 특징특징기존 AI 적용 방식ISO/I..

개요Seldon Core는 머신러닝 모델을 Kubernetes 환경에 안정적이고 확장 가능하게 배포(서빙)할 수 있도록 지원하는 오픈소스 MLOps 플랫폼입니다. REST/gRPC API, A/B 테스트, Canary 배포, 모델 해석성(Explainability) 등 다양한 기능을 제공하며, 다양한 프레임워크와 언어의 모델을 통합 관리할 수 있습니다. 본 글에서는 Seldon Core의 핵심 기능, 아키텍처, 활용 전략을 소개합니다.1. 개념 및 정의Seldon Core는 컨테이너화된 머신러닝 모델을 Kubernetes 상에서 배포하고, 서빙하며, 운영할 수 있는 MLOps 인프라입니다. 모델을 마이크로서비스로 감싸고, 서비스 메쉬 및 모니터링 도구와 통합하여 프로덕션 수준의 배포 자동화, 트래픽 제어..