728x90
반응형

정보 이론 2

Deep Entropy Model

개요Deep Entropy Model은 딥러닝을 활용한 정보 이론 기반 확률 모델로, 데이터의 정보량(엔트로피)을 정밀하게 추정하여 압축 및 부호화 효율을 극대화하는 기술입니다. 특히 Neural Source Coding, Neural Image Compression, Variational Inference 등 다양한 분야에서 확률 분포 예측을 위한 핵심 모듈로 활용됩니다. 이 모델은 데이터를 잠재 공간(latent space)으로 인코딩하고, 해당 분포의 엔트로피를 추정해 최적화된 비트스트림 생성을 유도합니다.1. 개념 및 정의 항목 설명 비고 정의딥러닝을 통해 잠재 표현의 확률 분포를 학습하고 엔트로피를 추정하는 모델비트 예측 기반 압축 성능 결정목적비트 수를 최소화하면서도 정보 재구성이 가능한 ..

Topic 2025.05.31

소스코딩(Source Coding) vs 채널코딩(Channel Coding)

개요디지털 통신 시스템에서 데이터 전송의 효율성과 신뢰성을 확보하기 위해 **소스코딩(Source Coding)**과 **채널코딩(Channel Coding)**이 사용된다. 소스코딩은 데이터 압축을 통해 전송 효율을 극대화하는 기법, 채널코딩은 전송 중 발생하는 오류를 검출하고 정정하는 기법이다. 본 글에서는 소스코딩과 채널코딩의 개념, 차이점, 주요 기법 및 실제 활용 사례를 비교 분석한다.1. 소스코딩(Source Coding)이란?소스코딩은 데이터의 중복성을 줄여 전송 또는 저장을 위한 비트 수를 최소화하는 기법으로, 데이터 압축(Compression)이라고도 한다. 이는 정보의 손실 여부에 따라 **무손실 압축(Lossless Compression)**과 **손실 압축(Lossy Compress..

Topic 2025.03.19
728x90
반응형