728x90
반응형

트랜스포머 3

Graph Transformer Network (GTN)

개요Graph Transformer Network(GTN)는 트랜스포머(Transformer)의 강력한 표현력과 그래프 구조의 유연함을 결합한 딥러닝 기반의 그래프 표현 학습 모델입니다. GTN은 이질적인(homogeneous/heterogeneous) 그래프 구조를 처리하고, 노드 간의 관계나 경로를 자동으로 학습하며, 기존의 GCN(Graph Convolutional Network)이나 GAT(Graph Attention Network)의 한계를 극복합니다. 본 글에서는 GTN의 동작 원리, 핵심 구성, 장점과 활용 사례를 기반으로 최신 그래프 딥러닝 기술을 자세히 소개합니다.1. 개념 및 정의 항목 설명 정의GTN은 관계 및 경로 중심의 그래프 데이터를 처리하기 위해 트랜스포머 구조를 그래프 형태..

Topic 2025.05.14

Vision Transformer(ViT)

개요Vision Transformer(ViT)는 자연어 처리에서 뛰어난 성능을 보인 트랜스포머(Transformer) 구조를 이미지 처리에 도입한 혁신적인 딥러닝 모델입니다. 기존 CNN 기반 모델들과 달리, 이미지를 패치 단위로 분할하고 이를 토큰으로 처리하여, 시각적 정보를 글로벌 컨텍스트 기반으로 학습합니다.1. 개념 및 정의**ViT(Vision Transformer)**는 이미지를 고정된 크기의 패치로 나눈 후, 각 패치를 임베딩하여 순서가 있는 토큰 시퀀스로 변환한 뒤 트랜스포머 인코더에 입력하는 방식의 이미지 분류 아키텍처입니다.기반 기술: Transformer Encoder (Self-Attention 기반)등장 배경: CNN의 지역적 특성과 한계를 극복, 글로벌 관계 학습주요 논문: Do..

Topic 2025.05.06

제너레이티브 AI(Generative AI)

개요제너레이티브 AI(Generative AI)는 주어진 데이터를 기반으로 새로운 콘텐츠(텍스트, 이미지, 음성, 코드 등)를 생성할 수 있는 인공지능 기술을 의미한다. 이 기술은 기존의 분류·예측 중심 AI와 달리, ‘무엇인가를 창조하는’ 능력에 중점을 두며, 인간의 창의적 활동을 보조하거나 대체할 수 있는 잠재력을 지닌다. 최근 GPT, DALL·E, Stable Diffusion, Codex 등 다양한 모델의 등장과 함께 전 산업에 걸쳐 활용 사례가 확산되고 있다.1. 개념 및 정의Generative AI는 대량의 학습 데이터를 바탕으로 새로운 데이터를 생성하는 모델로, 대표적으로 생성형 언어모델(LLM), 생성형 이미지 모델, 생성형 오디오/음성 모델 등이 있다.목적: 사람의 창작 능력을 보완하거..

Topic 2025.04.27
728x90
반응형