ITPE * JackerLab

PATE-GAN(Private Aggregation of Teacher Ensembles - GAN)

개요PATE-GAN은 민감한 데이터를 보호하면서도 고품질의 합성 데이터를 생성할 수 있도록 고안된 차등 프라이버시(Differential Privacy, DP) 기반의 생성적 적대 신경망(Generative Adversarial Network) 아키텍처입니다. PATE 프레임워크와 GAN을 결합하여 민감 정보를 포함한 원본 데이터 없이도 학습 가능한 프라이버시 보존 데이터 생성을 목표로 합니다.1. 개념 및 정의 항목 설명 비고 정의PATE 구조와 GAN을 결합한 프라이버시 보존 합성 데이터 생성 모델Differential Privacy 지원목적원본 데이터 노출 없이 머신러닝 모델 학습의료, 금융 등 민감 분야 적합필요성데이터 프라이버시 보호와 데이터 활용 간의 균형 필요합법적 데이터 공유 도구로 활..

개요Flow Matching은 확률적 생성 모델에서 목표 분포로의 경로(flow)를 직접 학습하여, 디퓨전 모델이나 score-based 모델보다 더 간단하고 안정적으로 샘플링을 가능하게 하는 학습 기법입니다. 목표는 데이터 분포로 연결되는 벡터 필드(Vector Field)를 추정하는 것입니다.1. 개념 및 정의 항목 내용 정의데이터 분포로의 연속적인 흐름 경로를 학습하는 확률적 생성 모델 훈련 기법목적빠르고 안정적인 샘플링이 가능한 생성 모델 구축필요성디퓨전 모델의 복잡한 역과정 또는 noise schedule 없이 효율적인 생성 모델 구현 필요2. 주요 특징특징설명장점직접적인 벡터 필드 학습시작-끝 점 사이의 흐름을 직접 학습수치적 안정성 향상단일 단계 훈련복잡한 noise schedule 없음학..

개요Rectified Flow는 확률적 생성 모델 분야에서 제안된 새로운 패러다임으로, 샘플링 과정을 경로 최적화 문제로 정식화하여 효율성과 품질을 동시에 향상시키는 접근법입니다. 디퓨전 모델과 유사한 프레임워크를 갖지만, 노이즈 제거가 아닌 직접적인 경로 추정(flow estimation)에 집중합니다.1. 개념 및 정의 항목 내용 정의확률적 샘플링을 위한 흐름(field)을 학습하여 데이터 분포를 복원하는 생성 모델목적기존 디퓨전 모델보다 빠르고 정확한 샘플 생성필요성고품질 이미지 생성을 위한 효율적이고 안정적인 경로 기반 학습 수요 증가2. 주요 특징특징설명장점경로 최적화 기반 학습확률 경로를 최소 거리로 정렬하여 훈련더 짧은 샘플링 경로, 빠른 생성one-way trajectory역과정 없이 정..

개요DiT(Diffusion Transformer)는 이미지 생성을 위한 딥러닝 아키텍처로, 기존 CNN 기반의 디퓨전 모델 대신 트랜스포머(Transformer) 구조를 사용하여 고해상도 이미지를 효율적으로 생성합니다. OpenAI의 DALLE이나 Stable Diffusion과 유사한 방식의 생성 메커니즘에 Transformer의 장점을 결합한 새로운 접근입니다.1. 개념 및 정의 항목 내용 정의트랜스포머 아키텍처를 디퓨전 모델의 노이즈 예측에 활용한 이미지 생성 모델목적고성능 이미지 생성을 위한 트랜스포머 기반 구조 설계필요성CNN의 표현력 한계를 넘어 더 정교한 패턴 학습과 확장성 확보를 위함2. 주요 특징특징설명효과트랜스포머 구조비전 트랜스포머(ViT) 기반 아키텍처장거리 의존 관계 학습에 유..

개요DiT-XL은 Diffusion Transformer(DiT) 아키텍처를 기반으로 고해상도 이미지 생성 성능을 극대화한 초대형 모델입니다. 기존 CNN 기반의 생성 모델 대비 세밀한 구조 이해와 표현력에서 뛰어난 성능을 보이며, 특히 텍스트 조건 기반 이미지 생성(text-to-image) 및 창작 콘텐츠 분야에서 활발히 활용되고 있습니다. Stability AI의 Stable Diffusion XL(SDXL) 등 상용 모델에도 적용되며, 생성 AI 진화의 척도를 보여주는 사례로 주목받고 있습니다.1. 개념 및 정의DiT: Transformer 아키텍처를 이미지 패치 기반으로 적용한 생성형 Diffusion 모델DiT-XL: 더 많은 레이어와 파라미터 수를 갖춘 확장형 DiT 모델로, 고정밀 생성 능..

개요Diffusion Transformers는 확률적 생성 모델인 Diffusion Model과 자연어 처리·시계열 예측 등에서 성능을 입증한 Transformer 구조를 결합한 하이브리드 생성 AI 아키텍처입니다. 기존의 GAN이나 VAE 기반 모델의 한계를 극복하며, 특히 이미지 생성, 텍스트-이미지 변환, 오디오 생성 등에서 높은 정밀도와 안정성을 제공하는 최신 기술로 각광받고 있습니다.1. 개념 및 정의Diffusion Model: 데이터를 점진적으로 노이즈화하고 역으로 원복하여 샘플을 생성하는 확률 기반 모델Transformer: 자기 주의(attention) 기반의 딥러닝 모델로, 시퀀스 정보를 효과적으로 처리함Diffusion Transformer: Transformer를 노이즈 제거 및 타..

개요DreamBooth는 소수의 사용자 이미지(3~5장)만으로도, 특정 인물이나 스타일을 기존 텍스트-이미지 확산 모델(Stable Diffusion 등)에 맞춤 학습시켜 개인화된 이미지 생성을 가능하게 하는 파인튜닝 기법입니다. 2022년 Google Research와 Boston University 연구팀이 발표한 이 기술은 사용자 고유의 특성을 보존하면서도 원하는 문맥에 맞는 이미지 생성을 가능하게 하며, 팬아트, 게임 캐릭터, 패션, 브랜딩 등 다양한 분야에서 각광받고 있습니다.1. 개념 및 정의DreamBooth는 **사전 학습된 텍스트-이미지 생성 모델을 특정 개체(object, identity)에 대해 미세조정(fine-tune)**하여, 해당 개체가 다양한 문맥에 등장하는 이미지를 생성할 ..