728x90
반응형

openlineage 2

Column-Level Lineage with OpenLineage v1.2

개요OpenLineage는 데이터 파이프라인의 실행과 흐름을 표준화된 방식으로 기록하는 메타데이터 계보(lineage) 표준입니다. v1.2 버전에서는 특히 컬럼 단위 계보(Column-Level Lineage) 추적 기능이 공식 지원되면서, 데이터 품질 추적, 규정 준수, 영향도 분석에서의 실용성이 크게 향상되었습니다.1. 개념 및 정의Column-Level Lineage는 테이블 간의 흐름뿐만 아니라, 개별 컬럼 간 데이터 변환 및 이동을 정밀하게 추적하는 메타데이터 구조를 의미합니다.OpenLineage v1.2: 컬럼 종속성 명시 기능 포함Input/Output Facets: 컬럼 입출력 간 매핑 정보 제공명시적 ColumnMapping: 변환 로직 기반 의존성 정의 가능2. 특징 특징 설명 ..

Topic 04:04:17

OpenLineage

개요OpenLineage는 데이터 파이프라인의 흐름을 추적하고 분석할 수 있도록 돕는 오픈소스 메타데이터 표준 프레임워크입니다. 데이터의 생산부터 소비까지의 경로(Lineage)를 표준화된 방식으로 수집·분석함으로써 데이터 품질, 거버넌스, 디버깅에 핵심 역할을 합니다. 본 글에서는 OpenLineage의 구조, 주요 기능, 기술 요소 및 활용 방안을 심층적으로 소개합니다.1. 개념 및 정의 항목 설명 정의데이터 워크플로우 내에서 발생하는 메타데이터를 수집하여, 데이터 이동 경로를 표준화된 방식으로 기록하는 오픈소스 프로젝트주요 목적데이터 파이프라인 추적, 품질 관리, 오류 진단 자동화배경Marquez 프로젝트 기반, LF AI & Data 재단 주도OpenLineage는 Airflow, Spark, ..

Topic 2025.06.11
728x90
반응형