728x90
반응형

정보이론 7

샤논의 정보 용량 이론(Information Capacity Theory)

개요샤논의 정보 용량 이론은 정보 이론(Information Theory)의 창시자인 클로드 E. 샤논(Claude E. Shannon)이 1948년 발표한 논문에서 제안한 개념으로, **통신 채널을 통해 오류 없이 전달할 수 있는 정보의 최대량(채널 용량)**을 정의합니다. 이 이론은 디지털 통신, 데이터 압축, 암호화 등 현대 정보 기술의 핵심 수학적 기반을 제공합니다.1. 개념 및 정의샤논의 정보 용량 이론은 노이즈가 존재하는 채널에서도 일정 수준 이하의 오류 확률로 정보를 안정적으로 전송할 수 있다는 사실을 수학적으로 증명합니다.정의: 정보 채널의 최대 전송 속도는 노이즈 수준과 대역폭에 의해 제한되며, 이 한계치를 '채널 용량(Channel Capacity)'이라고 함공식: C = B log₂(..

Topic 2025.04.20

흐름제어(Flow Control)

개요흐름제어(Flow Control)는 네트워크 통신 또는 컴퓨터 간 데이터 전송 과정에서 송신자와 수신자의 처리 속도를 조절하여 데이터 손실 없이 안정적인 통신을 보장하는 핵심 기술입니다. 수신자의 버퍼가 가득 차 데이터가 손실되는 상황을 방지하고, 전송 품질을 유지하기 위한 중요한 통신 제어 기법입니다.1. 개념 및 정의흐름제어는 수신자의 수신 능력을 초과하지 않도록 송신 속도를 제어하는 메커니즘입니다. 수신자의 처리 속도가 느릴 경우, 송신자가 일방적으로 데이터를 계속 전송하면 버퍼 오버플로우(Overflow)로 인해 데이터가 유실될 수 있습니다.흐름제어는 이러한 상황을 예방하기 위해 수신자 상태를 고려한 전송 제어를 수행하며, 대표적인 기법으로 Stop-and-Wait, Sliding Window..

Topic 2025.04.18

LRC(Longitudinal Redundancy Check)

개요LRC(Longitudinal Redundancy Check)는 데이터 전송 중 발생할 수 있는 오류를 검출하기 위해 사용되는 수평 패리티 기반의 오류 제어 방식입니다. VRC(Vertical Redundancy Check)와 반대되는 개념으로, **열 방향(컬럼 기준)**의 패리티 비트를 생성하여 오류를 검출합니다. VRC와 함께 사용되면 이중 오류 검출 체계를 구성할 수 있어 신뢰성을 강화할 수 있습니다.1. 개념 및 정의LRC는 여러 개의 데이터 행(row)을 열 방향으로 비교하여 각 열의 1의 개수에 따라 패리티 비트를 생성하고, 이를 별도의 **패리티 행(Row)**에 추가합니다. 이렇게 만들어진 블록은 수신 측에서 동일한 방식으로 계산된 LRC와 비교되어 오류 여부를 판단하게 됩니다.2. ..

Topic 2025.04.18

VRC(Vertical Redundancy Check)

개요VRC(Vertical Redundancy Check, 수직 중복 검사)는 디지털 데이터 전송에서 가장 기초적인 오류 검출 방식 중 하나로, 데이터 각 행에 대해 패리티 비트를 추가하여 수직 방향으로 오류를 검출합니다. 주로 단일 비트 오류를 확인하기 위해 사용되며, 단순하고 빠른 구현이 가능해 초기 통신 시스템 및 간단한 프로토콜에 널리 사용되어 왔습니다.1. 개념 및 정의VRC는 데이터의 각 행(row)에 대해 짝수 또는 홀수 패리티 규칙을 적용해 한 비트의 오류를 검출하는 방법입니다. 패리티는 1의 개수가 홀수/짝수인지에 따라 비트를 추가하여 오류 유무를 판단합니다. 수직(열) 기준으로 비트를 정렬했을 때, 각 열의 패리티도 검사할 수 있어 확장된 방식으로 활용되기도 합니다.2. 특징 구분 설..

Topic 2025.04.18

패리티 검사(Parity Check)

개요패리티 검사(Parity Check)는 디지털 통신 및 데이터 저장에서 가장 기본적으로 사용되는 오류 검출 방식입니다. 전송 데이터에 하나의 패리티 비트를 추가하여 전송 중 발생할 수 있는 단일 비트 오류를 감지할 수 있도록 합니다. 구현이 간단하면서도 효과적이어서 초기 컴퓨터 시스템부터 현재의 간단한 센서 네트워크까지 널리 사용됩니다.1. 개념 및 정의패리티 검사란 데이터 비트의 개수를 기준으로 오류를 검출하는 방식입니다. 보통 전송 비트열의 1의 개수를 기준으로 패리티 비트를 설정하며, 두 가지 유형이 있습니다:짝수 패리티(Even Parity): 1의 개수가 짝수가 되도록 패리티 비트를 설정홀수 패리티(Odd Parity): 1의 개수가 홀수가 되도록 패리티 비트를 설정이 방식은 단일 비트 오류..

Topic 2025.04.18

해밍코드(Hamming Code)

개요해밍코드는 디지털 통신과 저장 장치에서 발생할 수 있는 데이터 오류를 효과적으로 검출하고 수정할 수 있는 고전적인 오류 제어 방식입니다. 특히, 1비트 오류를 자동으로 수정할 수 있는 능력으로 인해 메모리 시스템, 네트워크, 위성 통신 등 다양한 분야에서 널리 사용되고 있습니다.1. 개념 및 정의해밍코드는 1950년에 리처드 해밍(Richard Hamming)에 의해 개발된 오류 수정 코드입니다. 이는 데이터 전송 중 발생할 수 있는 단일 비트 오류를 검출하고 자동으로 수정하기 위한 체계적인 방법입니다.오류 제어 방식은 크게 오류 검출과 오류 수정으로 나뉘며, 해밍코드는 이 중에서도 오류 수정이 가능한 코드로 분류됩니다. 해밍코드는 특정 위치에 패리티 비트(Parity Bit)를 삽입하여 데이터 전송..

Topic 2025.04.18

엔트로피 지수(Entropy Index)

개요엔트로피 지수(Entropy Index)는 집단 내 구성의 다양성과 균형 정도를 측정하는 지표로, 경제학, 사회학, 도시학, 생태학 등 다양한 분야에서 사용됩니다. 정보 이론에서 유래한 개념으로, 특정 항목이 얼마나 다양하게 분포되어 있는지를 0~1 또는 0~ln(n) 사이의 수치로 정량화합니다. 균일할수록 엔트로피 값이 높고, 특정 항목에 치우칠수록 낮아집니다.1. 개념 및 정의엔트로피는 원래 정보 이론에서 하나의 사건이 발생할 확률과 관련된 정보량을 측정하기 위한 지표였습니다. 이를 다변량 분포 분석에 적용해 다양성(Diversity) 또는 **균등성(Equity)**의 수치적 척도로 확장한 것이 엔트로피 지수입니다.정의: 여러 범주 간 분포의 불균형 정도를 측정하는 지표공식: : i번째 범주의 ..

Topic 2025.04.17
728x90
반응형