ITPE * JackerLab

개요SimCLR은 대규모 이미지 데이터에 라벨 없이 학습할 수 있는 자가 지도(contrastive learning) 기반 프레임워크입니다. 본 글에서는 SimCLR의 학습 구조, 핵심 기술 요소, 일반 지도 학습 대비 특징, 성능 및 실제 활용 사례를 심층적으로 분석합니다.1. 개념 및 정의SimCLR(Simple Framework for Contrastive Learning of Visual Representations)는 이미지 간의 유사성/비유사성을 기반으로 시각 표현을 학습하는 대조 학습(Contrastive Learning) 기법입니다. 주어진 이미지에 다양한 변형(augmentation)을 가해 양성 쌍(positive pair)을 만들고, 서로 다른 이미지들과의 차별화를 통해 강건한 특징 ..

개요Mixup과 CutMix는 이미지 분류 및 딥러닝 모델 훈련 시 데이터 다양성과 일반화 능력을 향상시키기 위한 고급 데이터 증강 기법입니다. 본 글에서는 두 기법의 원리, 차이점, 기술 요소, 성능 향상 사례, 적용 시 고려사항 등을 비교 중심으로 정리합니다.1. 개념 및 정의Mixup과 CutMix는 각각 이미지 및 레이블을 혼합하거나 부분적으로 결합하는 방식으로, 딥러닝 모델이 다양한 데이터 조건에 강건하게 대응할 수 있도록 돕는 증강 기법입니다.Mixup: 두 이미지를 선형적으로 혼합하고 레이블도 동일 비율로 섞음CutMix: 한 이미지의 일부분을 잘라 다른 이미지에 삽입하고, 비율에 따라 레이블도 혼합공통 목적: 과적합 방지 및 일반화 성능 향상2. 특징 항목 Mixup CutMix 일반..

개요DenseNet(Dense Convolutional Network)은 레이어 간의 연결 방식을 혁신적으로 바꿔, 각 레이어가 이전 모든 레이어의 출력을 입력으로 사용하는 ‘전결합(Dense Connectivity)’ 구조를 가진 합성곱 신경망(CNN)입니다. 2017년 Huang et al.이 발표한 DenseNet은 파라미터 수를 줄이면서도 뛰어난 성능과 학습 효율을 보여주며, ResNet 이후의 대표적 CNN 진화 구조로 평가받고 있습니다.1. 개념 및 정의 항목 설명 정의각 레이어가 앞선 모든 레이어의 특징 맵을 입력으로 받아 연산하는 CNN 아키텍처구조 특징Dense Block, Transition Layer, Growth Rate 등의 개념 도입목표정보 손실 최소화, 특징 재사용 극대화, ..

개요ResNet(Residual Network, 레즈넷)은 딥러닝 모델의 층을 깊게 쌓을수록 발생하는 학습 저하 문제(Vanishing Gradient, Degradation Problem)를 해결하기 위해 제안된 잔차 학습 기반 신경망 구조입니다. Microsoft의 He et al.이 2015년 발표한 ResNet은 ILSVRC 이미지 분류 대회에서 우승하며 CNN 구조의 새로운 전환점을 마련했으며, 현재도 다양한 비전 모델 및 변형 모델의 기반이 되는 핵심 구조입니다.1. 개념 및 정의 항목 설명 정의입력 정보를 '직접 전달(skip connection)'해 잔차 학습을 수행하는 CNN 기반 딥러닝 모델목적딥러닝의 깊이 증가로 발생하는 학습 저하, 기울기 소실 문제를 해결주요 구조Residual ..