ITPE * JackerLab

개요DP-SGD는 딥러닝 모델 학습 과정에서 개인 데이터를 보호하기 위해 고안된 차등 개인정보 보호(Differential Privacy) 기법을 적용한 확률적 경사 하강법(Stochastic Gradient Descent) 알고리즘입니다. 민감한 정보가 포함된 데이터셋을 학습하더라도, 결과 모델이 특정 개인의 정보를 노출하지 않도록 보장합니다.1. 개념 및 정의항목설명정의경사 하강법에 잡음 추가 및 기울기 클리핑을 적용한 차등 개인정보 보호 SGD 알고리즘목적학습 데이터에 포함된 개인 정보 보호필요성AI 모델이 훈련 데이터로부터 민감 정보를 유출하는 리스크 방지DP-SGD는 수학적으로 ε-차등 개인정보 보호(ε-DP)를 만족하도록 설계됨2. 특징특징설명비교Gradient Clipping각 샘플의 기울기..

개요PATE(Private Aggregation of Teacher Ensembles)는 Google Brain이 제안한 프라이버시 보호 머신러닝(Privacy-Preserving Machine Learning) 기술로, 민감한 데이터가 포함된 모델 학습 과정에서 차등프라이버시(Differential Privacy)를 보장하면서도 고성능 예측 모델을 만들기 위한 방법론입니다. 여러 개의 개별 모델(Teacher)에서 나온 예측 결과를 프라이버시 보호 집계(Aggregation) 기법으로 결합해 Student 모델을 학습시키는 구조입니다.1. 개념 및 정의항목내용비고정의여러 Teacher 모델이 제공한 예측을 안전하게 집계하여 Student 모델을 학습시키는 프라이버시 보호 학습 구조2017 Google ..

개요OpenDP(Open Differential Privacy)는 하버드와 Microsoft가 공동으로 개발한 오픈소스 프레임워크로, 데이터 분석과 공유 과정에서 개인정보 보호를 보장하기 위해 차등 프라이버시(DP, Differential Privacy)를 구현한다. 데이터 활용성과 보안성을 동시에 확보할 수 있는 현대적 개인정보 보호 기술이다.1. 개념 및 정의 항목 내용 설명 정의OpenDP차등 프라이버시 구현 오픈소스 라이브러리목적데이터 분석 시 개인정보 보호안전한 데이터 활용 가능필요성데이터 프라이버시 규제 강화GDPR, HIPAA 등 대응OpenDP는 민감한 데이터 보호와 동시에 데이터 기반 의사결정을 지원한다.2. 특징특징설명비고오픈소스누구나 활용·확장 가능투명성과 검증 가능수학적 보장차등..

개요Model Inversion Attack Mitigation(MIA-Guard)는 인공지능 모델의 훈련 데이터를 기반으로 민감한 정보를 역추론하는 공격(MIA: Model Inversion Attack)을 방어하기 위한 기술적 전략입니다. 개인 프라이버시가 핵심 가치로 부상한 시대에, MIA는 AI 윤리와 보안의 핵심 위협으로 떠오르고 있으며, MIA-Guard는 이러한 위협을 사전에 차단하는 데 중점을 둡니다.1. 개념 및 정의MIA는 훈련된 모델의 출력 또는 파라미터를 분석하여 원본 데이터의 특성을 재구성하는 공격 방식입니다.목적: AI 모델에서 훈련 데이터 유출 방지공격 대상: 의료, 금융, 얼굴 인식 모델 등 민감 정보를 포함하는 모델기반 이론: 정보 이득 추론, 출력 확률 분석, 멤버십 추론..

개요Data Clean Room v2는 데이터 제공자와 분석자가 직접 식별 가능하지 않은 개인정보를 보호하면서도, 협업 분석, 머신러닝 모델 트레이닝, 광고 측정 등을 안전하게 수행할 수 있도록 설계된 차세대 데이터 협업 플랫폼입니다. 기존 Data Clean Room의 한계를 보완하여 프라이버시 강화, 연산 유연성, 다중 파티 연합 분석을 동시에 지원합니다.1. 개념 및 정의 항목 설명 정의개인 데이터 노출 없이 안전한 환경에서 다수 주체가 공동 분석을 수행할 수 있도록 지원하는 강화형 보안 데이터 협업 공간목적데이터 프라이버시 보호를 전제로 한 데이터 공유 및 공동 인사이트 생성필요성GDPR, CCPA 등 개인정보 규제 강화와 퍼스트파티 데이터 기반 비즈니스 혁신 요구 증대Data Clean Roo..

개요차분 프라이버시(Differential Privacy)는 개인 데이터를 포함한 데이터셋에 대한 분석 결과에서, 특정 개인의 포함 여부가 결과에 거의 영향을 주지 않도록 수학적으로 보장하는 프라이버시 보호 기법입니다. 구글, 애플, 마이크로소프트 등 글로벌 기업뿐만 아니라 통계청과 같은 공공기관에서도 활용되는 현대 데이터 거버넌스의 핵심 기술로 자리잡고 있습니다.1. 개념 및 정의차분 프라이버시는 2006년 Cynthia Dwork 등의 연구진이 제안한 이론으로, 다음 조건을 만족하는 시스템을 말합니다:"두 데이터셋 D와 D'가 단 하나의 레코드만 차이 날 경우, 어떤 분석 쿼리의 결과 분포가 거의 동일하다면 해당 시스템은 ε-차분 프라이버시를 만족한다."이 말은, 어떤 개인이 포함되거나 빠졌더라도 분..