ITPE * JackerLab

개요DP-SGD는 딥러닝 모델 학습 과정에서 개인 데이터를 보호하기 위해 고안된 차등 개인정보 보호(Differential Privacy) 기법을 적용한 확률적 경사 하강법(Stochastic Gradient Descent) 알고리즘입니다. 민감한 정보가 포함된 데이터셋을 학습하더라도, 결과 모델이 특정 개인의 정보를 노출하지 않도록 보장합니다.1. 개념 및 정의항목설명정의경사 하강법에 잡음 추가 및 기울기 클리핑을 적용한 차등 개인정보 보호 SGD 알고리즘목적학습 데이터에 포함된 개인 정보 보호필요성AI 모델이 훈련 데이터로부터 민감 정보를 유출하는 리스크 방지DP-SGD는 수학적으로 ε-차등 개인정보 보호(ε-DP)를 만족하도록 설계됨2. 특징특징설명비교Gradient Clipping각 샘플의 기울기..

개요Model Inversion Attack Mitigation(MIA-Guard)는 인공지능 모델의 훈련 데이터를 기반으로 민감한 정보를 역추론하는 공격(MIA: Model Inversion Attack)을 방어하기 위한 기술적 전략입니다. 개인 프라이버시가 핵심 가치로 부상한 시대에, MIA는 AI 윤리와 보안의 핵심 위협으로 떠오르고 있으며, MIA-Guard는 이러한 위협을 사전에 차단하는 데 중점을 둡니다.1. 개념 및 정의MIA는 훈련된 모델의 출력 또는 파라미터를 분석하여 원본 데이터의 특성을 재구성하는 공격 방식입니다.목적: AI 모델에서 훈련 데이터 유출 방지공격 대상: 의료, 금융, 얼굴 인식 모델 등 민감 정보를 포함하는 모델기반 이론: 정보 이득 추론, 출력 확률 분석, 멤버십 추론..