728x90
반응형

로그수집 2

OTLP (OpenTelemetry Protocol)

개요OTLP(OpenTelemetry Protocol)는 OpenTelemetry 프로젝트의 핵심 구성요소로, 분산 추적(Trace), 메트릭(Metrics), 로그(Logs) 데이터를 통합 형식으로 전송하는 표준화된 텔레메트리 프로토콜입니다. 데이터 수집기(Agent), Collector, 백엔드 간 상호운용성을 강화하며, 다양한 관측 시스템에서 통일된 데이터 흐름을 가능하게 합니다.1. 개념 및 정의항목설명정의Telemetry 데이터를 수집기 → Collector → Backend로 전송하는 gRPC/HTTP 기반 프로토콜포함 데이터Traces, Metrics, Logs다양한 텔레메트리 소스를 통합 기반 기술Protocol Buffers (protobuf) 기반 직렬화 포맷OTLP는 JSON보다 더 ..

Topic 2025.05.27

데이터 수집 기술(Data Ingestion Technologies)

개요데이터 기반 시스템의 출발점은 '수집'입니다. 어떤 데이터를 어떻게, 얼마나 빠르게, 어떤 형식으로 수집할 수 있는가에 따라 분석 품질, 실시간성, 대응력이 결정됩니다. 데이터 수집 기술은 IoT, 웹, 로그, 메시지, API, 배치/실시간 등 다양한 형태로 진화하고 있으며, 이에 따라 수집 아키텍처와 도구 또한 다변화되고 있습니다. 이 글에서는 대표적인 수집 기술과 아키텍처 유형, 적용 전략을 체계적으로 정리합니다.1. 데이터 수집이란? 항목 설명 정의다양한 출처에서 데이터를 수신, 추출, 적재하기 위한 기술적 처리 과정목적데이터 분석·모델링을 위한 원천 확보, 실시간 반응 시스템 기반 확보수집 유형배치 수집(Batch), 실시간 스트리밍(Stream), 이벤트 기반, CDC(Change Data..

Topic 2025.04.21
728x90
반응형