ITPE * JackerLab

개요대규모 언어 모델(Large Language Model)의 발전은 대부분 트랜스포머(Transformer) 아키텍처 기반으로 이루어져 왔습니다. 하지만 트랜스포머의 병렬 처리 능력과 RNN의 시간 순서 인식 능력을 동시에 갖춘 새로운 아키텍처인 RWKV가 최근 주목받고 있습니다. RWKV는 Receptance-Weighted Key-Value 구조를 활용하여 순차적 학습과 병렬 추론을 모두 가능하게 만드는 혁신적 하이브리드 언어 모델입니다.1. 개념 및 정의**RWKV(Receptance-Weighted Key-Value)**는 RNN과 트랜스포머의 장점을 결합한 언어 모델 아키텍처입니다. 시퀀스를 순차적으로 처리하면서도 병렬화 가능한 계산 구조를 갖추고 있어, LLM의 훈련 및 추론 효율성을 동시에..

개요Stable Diffusion은 텍스트 입력을 기반으로 고품질 이미지를 생성하는 딥러닝 모델로, Latent Diffusion 모델 구조를 채택하여 효율성과 품질을 동시에 확보했습니다. 오픈소스로 공개되어 누구나 사용할 수 있으며, 생성 AI 대중화의 결정적 역할을 했습니다. 강력한 제어력, 가벼운 연산 요구, 커스터마이징 가능성 덕분에 다양한 산업과 크리에이티브 분야에 빠르게 확산되었습니다.1. 개념 및 정의 항목 내용 정의텍스트 설명을 기반으로 고해상도 이미지를 생성하는 Latent Space 기반 확률적 생성 모델목적고품질 이미지를 빠르고 저렴한 연산 비용으로 생성필요성기존 Text-to-Image 모델(GPT-3 기반, GAN 기반 등)의 높은 비용과 제어 한계 극복Stable Diffusi..