Rectified Flow

개요

Rectified Flow는 확률적 생성 모델 분야에서 제안된 새로운 패러다임으로, 샘플링 과정을 경로 최적화 문제로 정식화하여 효율성과 품질을 동시에 향상시키는 접근법입니다. 디퓨전 모델과 유사한 프레임워크를 갖지만, 노이즈 제거가 아닌 직접적인 경로 추정(flow estimation)에 집중합니다.

---

1. 개념 및 정의

항목	내용
정의	확률적 샘플링을 위한 흐름(field)을 학습하여 데이터 분포를 복원하는 생성 모델
목적	기존 디퓨전 모델보다 빠르고 정확한 샘플 생성
필요성	고품질 이미지 생성을 위한 효율적이고 안정적인 경로 기반 학습 수요 증가

---

2. 주요 특징

특징	설명	장점
경로 최적화 기반 학습	확률 경로를 최소 거리로 정렬하여 훈련	더 짧은 샘플링 경로, 빠른 생성
one-way trajectory	역과정 없이 정방향 경로만 학습	학습 단순화, 효율성 증가
스케일 불변 정규화	위치와 무관한 벡터 필드 학습 가능	일반화 성능 향상

Rectified Flow는 “노이즈 제거”가 아닌 “경로 예측” 중심으로 설계된 생성 모델입니다.

---

3. 구성 요소

구성 요소	설명	역할
벡터 필드(Vector Field)	데이터 분포로 가는 최적 경로를 나타냄	각 시점에서 방향 결정
훈련 경로 샘플링	시작과 끝을 연결하는 중간 지점 경로 생성	flow 추정 학습용 데이터 구성
궤적 기반 손실 함수	목표와의 거리 최소화 방식	방향성과 일관성 유지

이러한 구성은 훈련 효율성과 경로 해석력을 동시에 제공합니다.

---

4. 기술 요소

기술 요소	설명	관련 기법
ODE Solver	훈련된 flow를 따라 샘플을 생성	Ordinary Differential Equation 방식
Scaling normalization	입력의 스케일에 관계없는 학습 가능	Invariant Field Modeling
Latent-based sampling	Latent space에서 경로 학습 가능	고해상도 생성 및 압축

Rectified Flow는 디퓨전과 플로우 기반 모델의 하이브리드 구조를 가집니다.

---

5. 장점 및 이점

장점	설명	기대 효과
빠른 샘플링	fewer steps with deterministic path	샘플링 시간 단축
고품질 이미지 생성	정확한 경로 예측으로 품질 향상	FID/IS 성능 우수
학습 안정성 개선	noise schedule 없이도 학습 가능	하이퍼파라미터 단순화

Rectified Flow는 속도, 품질, 안정성을 모두 개선한 생성 모델 대안입니다.

---

6. 활용 사례 및 고려사항

활용 사례	설명	고려사항
이미지 생성	자연 이미지, 얼굴, 아트워크 등	복잡한 경로 표현을 위한 모델 용량 확보 필요
의료 데이터 합성	CT, MRI 등 이미지 기반 의료 데이터	경로 안정성 확보 중요
물리 기반 시뮬레이션	입자 또는 유체 흐름 예측 및 생성	경로 해석 가능성 중요

활용 시 ODE Solver 선택 및 벡터 필드 정규화 전략이 성능에 영향을 줍니다.

---

7. 결론

Rectified Flow는 기존 생성 모델의 한계를 뛰어넘어, 경로 기반의 새로운 학습 및 샘플링 접근을 제시합니다. 특히 빠른 샘플링과 높은 품질, 그리고 수학적으로 해석 가능한 구조는 디퓨전 모델의 실용적 대안이 될 수 있으며, 향후 고차원 생성 문제에 있어 중요한 기술적 축이 될 수 있습니다.