ITPE * JackerLab

개요DP-SGD는 딥러닝 모델 학습 과정에서 개인 데이터를 보호하기 위해 고안된 차등 개인정보 보호(Differential Privacy) 기법을 적용한 확률적 경사 하강법(Stochastic Gradient Descent) 알고리즘입니다. 민감한 정보가 포함된 데이터셋을 학습하더라도, 결과 모델이 특정 개인의 정보를 노출하지 않도록 보장합니다.1. 개념 및 정의항목설명정의경사 하강법에 잡음 추가 및 기울기 클리핑을 적용한 차등 개인정보 보호 SGD 알고리즘목적학습 데이터에 포함된 개인 정보 보호필요성AI 모델이 훈련 데이터로부터 민감 정보를 유출하는 리스크 방지DP-SGD는 수학적으로 ε-차등 개인정보 보호(ε-DP)를 만족하도록 설계됨2. 특징특징설명비교Gradient Clipping각 샘플의 기울기..

개요Confidential AI는 민감한 데이터를 기반으로 인공지능 모델을 학습하거나 추론하는 과정에서, 데이터의 기밀성과 무결성을 보장하기 위한 보안 기술과 설계 전략을 말합니다. 특히 의료, 금융, 국방 등 고신뢰 산업에서 프라이버시 보호와 AI 성능 간 균형을 확보하기 위한 핵심 프레임워크로 주목받고 있으며, 하드웨어 기반의 신뢰 실행 환경(TEE)과 암호화 기반 연산 기술을 결합해 보안성과 확장성을 동시에 달성할 수 있습니다.1. 개념 및 정의 구분 내용 정의AI 학습 및 추론 과정에서 민감 데이터의 노출 없이 연산이 수행되도록 보장하는 기술 전략목적데이터 보호, 규제 준수, 신뢰성 확보를 동시에 달성필요성개인정보보호법, 산업기밀 보호, 클라우드 기반 AI 도입 증가에 따른 보안 강화 요구2. ..