ITPE * JackerLab

개요LIME은 복잡한 머신러닝 모델(블랙박스 모델)의 예측 결과에 대해 국소적(지역적) 설명을 제공하여, 모델이 특정 예측을 어떻게 내렸는지 이해할 수 있도록 돕는 모델 해석 기법입니다. 다양한 모델 구조와 무관하게 작동하며, 개별 예측에 대한 직관적인 설명을 제공합니다.1. 개념 및 정의 항목 설명 정의블랙박스 모델의 개별 예측에 대해 단순한 선형 모델로 근사하여 설명하는 방식목적모델의 신뢰도 검증, 디버깅, 사용자 신뢰 확보필요성복잡한 딥러닝, 앙상블 모델의 불투명한 결정 과정을 해석 필요LIME은 예측 주변(local)에서 가중치를 부여하여 단순 모델로 설명을 제공함2. 특징특징설명비교모델 불가지론어떤 ML 모델에도 적용 가능SHAP은 일부 모델에 최적화됨국소 근사예측 주변 데이터를 선형 모델로 ..

개요Cleanlab은 머신러닝 모델 학습에 사용되는 데이터셋의 품질을 진단하고, 라벨 오류(Label Error)를 자동으로 탐지하고 보정하는 오픈소스 프레임워크입니다. 모델 예측 결과를 활용해 라벨의 신뢰도를 통계적으로 평가함으로써, 라벨링 오류, 혼동 클래스, 이상값 등을 체계적으로 식별할 수 있도록 돕습니다.1. 개념 및 정의 항목 설명 정의학습 데이터의 라벨 품질을 자동으로 분석하고 오류를 탐지하는 Python 기반 프레임워크목적모델 성능 향상을 위한 데이터 정제 자동화필요성수작업 라벨링 오류로 인한 성능 저하 및 불안정성 개선Cleanlab은 신뢰도 기반 필터링과 클래스 혼동 행렬 기반 진단 기능을 제공함2. 특징특징설명비교모델 예측 기반사전 학습된 모델의 softmax 출력 활용예측 확률로 ..

개요Snorkel은 수작업 라벨링 없이 라벨링 함수(Labeling Function)를 통해 대규모 학습 데이터를 생성하고, 노이즈를 제거하여 고품질의 데이터셋을 만들어내는 약지도 학습 프레임워크입니다. Stanford 대학에서 개발되었으며, 자연어 처리(NLP), 문서 분류, 의료 AI 등 다양한 분야에서 활용됩니다.1. 개념 및 정의 항목 설명 정의라벨링 함수로 생성된 노이즈 라벨을 통합·보정해 학습용 데이터셋을 생성하는 프레임워크목적대규모 수작업 라벨링 비용 절감 및 빠른 모델 개발필요성수동 라벨링은 비용·시간·일관성 측면에서 한계 존재Snorkel은 수많은 약한 라벨을 결합하여 강한 학습 데이터셋을 생성함2. 특징특징설명비교라벨링 함수 기반전문가 지식으로 작성한 규칙 활용전통적 수작업 라벨링 대..

개요Pachyderm은 머신러닝 및 데이터 엔지니어링을 위한 데이터 중심의 MLOps 플랫폼으로, Git과 유사한 방식의 데이터 버전 관리와 자동화된 파이프라인 실행을 제공합니다. Kubernetes 기반에서 작동하며, 반복 가능하고 추적 가능한 ML 워크플로우 구축을 가능하게 합니다.1. 개념 및 정의 항목 설명 정의데이터 버전 관리와 파이프라인 자동화를 지원하는 MLOps 플랫폼목적머신러닝 실험의 반복성과 재현성을 확보필요성모델 뿐 아니라 데이터 변경 이력도 관리하는 체계적 MLOps 구조 필요Pachyderm은 Git for Data를 표방하며, 코드뿐 아니라 데이터의 변경 추적과 분기(Branching)를 지원2. 특징특징설명비교데이터 버전 관리Git과 유사한 커밋, 브랜치 구조DVC, Lake..

개요RRF(Reciprocal Rank Fusion)는 여러 개의 검색 시스템 또는 랭커(rankers)로부터 도출된 결과를 통합(fusion)하여, 더 우수한 전체 검색 성능을 달성하기 위한 앙상블 기법입니다. 간단한 수식과 높은 실용성으로 인해 정보 검색(IR), 메타 검색 시스템, 하이브리드 검색 엔진에서 널리 사용됩니다.1. 개념 및 정의 항목 설명 정의여러 랭커의 순위를 역순위 점수 기반으로 융합하는 알고리즘목적다양한 랭커의 장점을 조합하여 검색 정확도 향상필요성하나의 랭커가 가진 편향이나 한계를 보완RRF는 학습 없이도 강력한 성능을 내는 비가중치 기반 순위 융합 방법입니다.2. 특징특징설명비교간단한 수식 기반1 / (k + rank) 형태로 점수 계산Borda Count 등보다 직관적학습 ..