ITPE * JackerLab

개요Flow Matching은 확률적 생성 모델에서 목표 분포로의 경로(flow)를 직접 학습하여, 디퓨전 모델이나 score-based 모델보다 더 간단하고 안정적으로 샘플링을 가능하게 하는 학습 기법입니다. 목표는 데이터 분포로 연결되는 벡터 필드(Vector Field)를 추정하는 것입니다.1. 개념 및 정의 항목 내용 정의데이터 분포로의 연속적인 흐름 경로를 학습하는 확률적 생성 모델 훈련 기법목적빠르고 안정적인 샘플링이 가능한 생성 모델 구축필요성디퓨전 모델의 복잡한 역과정 또는 noise schedule 없이 효율적인 생성 모델 구현 필요2. 주요 특징특징설명장점직접적인 벡터 필드 학습시작-끝 점 사이의 흐름을 직접 학습수치적 안정성 향상단일 단계 훈련복잡한 noise schedule 없음학..

개요Rectified Flow는 확률적 생성 모델 분야에서 제안된 새로운 패러다임으로, 샘플링 과정을 경로 최적화 문제로 정식화하여 효율성과 품질을 동시에 향상시키는 접근법입니다. 디퓨전 모델과 유사한 프레임워크를 갖지만, 노이즈 제거가 아닌 직접적인 경로 추정(flow estimation)에 집중합니다.1. 개념 및 정의 항목 내용 정의확률적 샘플링을 위한 흐름(field)을 학습하여 데이터 분포를 복원하는 생성 모델목적기존 디퓨전 모델보다 빠르고 정확한 샘플 생성필요성고품질 이미지 생성을 위한 효율적이고 안정적인 경로 기반 학습 수요 증가2. 주요 특징특징설명장점경로 최적화 기반 학습확률 경로를 최소 거리로 정렬하여 훈련더 짧은 샘플링 경로, 빠른 생성one-way trajectory역과정 없이 정..

개요DiT(Diffusion Transformer)는 이미지 생성을 위한 딥러닝 아키텍처로, 기존 CNN 기반의 디퓨전 모델 대신 트랜스포머(Transformer) 구조를 사용하여 고해상도 이미지를 효율적으로 생성합니다. OpenAI의 DALLE이나 Stable Diffusion과 유사한 방식의 생성 메커니즘에 Transformer의 장점을 결합한 새로운 접근입니다.1. 개념 및 정의 항목 내용 정의트랜스포머 아키텍처를 디퓨전 모델의 노이즈 예측에 활용한 이미지 생성 모델목적고성능 이미지 생성을 위한 트랜스포머 기반 구조 설계필요성CNN의 표현력 한계를 넘어 더 정교한 패턴 학습과 확장성 확보를 위함2. 주요 특징특징설명효과트랜스포머 구조비전 트랜스포머(ViT) 기반 아키텍처장거리 의존 관계 학습에 유..

개요DiT(Diffusion Transformer)는 이미지 생성 디퓨전 모델에서 기존 U-Net 구조를 Transformer로 대체하여 성능과 확장성을 개선한 새로운 구조입니다. 특히, Transformer의 표현력과 스케일업 가능성을 활용해 고해상도 이미지 생성, 안정적 학습 등에서 차별화된 성능을 보여주며, DALL·E 3 및 Stable Diffusion 3와 같은 최신 생성형 AI 시스템에 영향을 주고 있습니다.1. 개념 및 정의 항목 내용 정의디퓨전 노이즈 제거 네트워크에 Transformer를 적용한 모델목표기존 CNN 기반 U-Net 대비 더 강력한 표현력 확보특징Latent 디퓨전 과정에서 Transformer가 노이즈 예측을 수행DiT는 Diffusion 과정에서 일정 단계(times..

개요제너레이티브 AI(Generative AI)는 주어진 데이터를 기반으로 새로운 콘텐츠(텍스트, 이미지, 음성, 코드 등)를 생성할 수 있는 인공지능 기술을 의미한다. 이 기술은 기존의 분류·예측 중심 AI와 달리, ‘무엇인가를 창조하는’ 능력에 중점을 두며, 인간의 창의적 활동을 보조하거나 대체할 수 있는 잠재력을 지닌다. 최근 GPT, DALL·E, Stable Diffusion, Codex 등 다양한 모델의 등장과 함께 전 산업에 걸쳐 활용 사례가 확산되고 있다.1. 개념 및 정의Generative AI는 대량의 학습 데이터를 바탕으로 새로운 데이터를 생성하는 모델로, 대표적으로 생성형 언어모델(LLM), 생성형 이미지 모델, 생성형 오디오/음성 모델 등이 있다.목적: 사람의 창작 능력을 보완하거..