ITPE * JackerLab

개요Test-Time Training(TTT)은 학습이 완료된 모델이 테스트 단계에서 입력 데이터에 대해 스스로를 추가로 학습(최적화)하는 방식입니다. 이는 학습 데이터와 테스트 데이터 간의 분포 차이(domain shift)에 적응하기 위한 방식으로, 특히 일반화 성능 향상과 도메인 적응(domain adaptation)에 효과적인 기법으로 주목받고 있습니다.1. 개념 및 정의 항목 내용 정의테스트 단계에서 입력 데이터에 대해 모델을 부분적으로 추가 학습시키는 방법목적도메인 이동이나 예측 불확실성이 높은 상황에서 성능 향상필요성실제 서비스 환경에서는 학습 시점과 다른 데이터 분포에 자주 노출됨2. 주요 특징특징설명장점Self-supervised learning 활용레이블 없이 입력으로부터 자체 학습 ..

개요BYOL은 라벨 없이도 강력한 시각 표현을 학습할 수 있도록 설계된 자가 지도 학습(Self-Supervised Learning) 프레임워크입니다. 기존 대조 학습(Contrastive Learning)과는 달리, negative sample 없이도 representation을 학습할 수 있다는 점에서 새로운 패러다임을 제시합니다. 본 글에서는 BYOL의 구조, 핵심 기술 요소, 기존 기법과의 차이, 장점 및 활용 사례를 심층 분석합니다.1. 개념 및 정의BYOL(Bootstrap Your Own Latent)은 이미지의 두 augmented view 간의 표현을 예측하도록 학습하면서, negative pair 없이도 유의미한 표현을 획득하는 자가 지도 학습 방법입니다.목적: 라벨 없이 견고하고 일반..

개요Graph Contrastive Learning(GCL)은 라벨이 없는 그래프 데이터를 효과적으로 활용하기 위해 개발된 자기지도학습(self-supervised learning) 프레임워크입니다. 기존의 그래프 신경망(GNN)이 라벨 기반 학습에 주로 의존했던 것과 달리, GCL은 그래프의 노드, 엣지, 서브그래프 간의 관계성을 기반으로 '양의 쌍(positive pair)'과 '음의 쌍(negative pair)'을 설정하고, 이들 간의 표현 차이를 극대화하는 방식으로 그래프 임베딩을 학습합니다.1. 개념 및 정의GCL은 그래프 내 또는 그래프 간 다양한 형태의 유사성과 비유사성을 학습하여, 라벨 없이도 효과적인 노드/그래프 수준 임베딩을 생성하는 학습 전략입니다.핵심 전략: contrastive ..