ITPE * JackerLab

개요Ray Serve는 분산 컴퓨팅 프레임워크 Ray 위에서 동작하는 머신러닝 모델 서빙 플랫폼으로, 대규모 트래픽 처리와 실시간 추론을 지원하는 확장성 높은 MLOps 도구입니다. 다양한 ML/DL 프레임워크와 통합되어, 단일 노트북 프로토타입에서 대규모 클러스터 환경까지 유연하게 확장할 수 있습니다.1. 개념 및 정의 구분 내용 정의Ray Serve는 Ray 분산 프레임워크 기반의 고성능 모델 서빙 플랫폼으로, REST/gRPC API 형태로 추론 서비스를 제공합니다.목적대규모 트래픽 처리, 멀티모델 서빙, 실시간 ML 추론 지원필요성기존 모델 서빙 도구는 확장성 한계가 있으며, 분산 환경에 최적화된 솔루션 필요Ray Serve는 AI/ML 모델 서빙의 표준으로 자리잡고 있으며, Python 생태계..

개요빅데이터 프레임워크는 대용량 데이터를 저장, 처리 및 분석하기 위한 분산 컴퓨팅 기술입니다. 대표적인 빅데이터 프레임워크로는 Apache Hadoop과 Apache Spark가 있으며, 이들은 데이터 웨어하우스, 머신러닝, 실시간 데이터 분석 등 다양한 분야에서 활용됩니다. Hadoop은 배치 처리(Batch Processing)에 최적화된 분산 저장 및 연산 기술을 제공하며, Spark는 메모리 기반의 고속 데이터 처리를 지원하여 실시간 분석을 가능하게 합니다.1. 빅데이터 프레임워크란?빅데이터 프레임워크는 대량의 데이터를 분산된 환경에서 효과적으로 저장하고 처리할 수 있도록 설계된 시스템입니다. **전통적인 데이터베이스 시스템(RDBMS)**과는 달리, 수십~수백 테라바이트(TB) 이상의 데이터를..

개요클라우드 컴퓨팅이 대중화됨에 따라 데이터 처리 속도와 실시간 응답성에 대한 요구가 증가하고 있다. 이에 따라 데이터 처리를 네트워크의 말단에서 수행하는 Edge Computing(엣지 컴퓨팅) 및 Fog Computing(포그 컴퓨팅) 개념이 주목받고 있다. 본 글에서는 두 기술의 개념, 차이점, 장점과 단점, 주요 사례, 그리고 미래 전망에 대해 살펴본다.1. Edge Computing(엣지 컴퓨팅) 이란?Edge Computing은 데이터를 중앙 클라우드 서버가 아닌 사용자 또는 디바이스 근처(edge)에서 처리하는 기술이다. 이는 IoT(Internet of Things) 기기, 스마트 센서, 모바일 장치 등에서 데이터를 신속하게 분석하고 응답할 수 있도록 지원한다.특징:데이터 처리를 네트워크 ..