ITPE * JackerLab

개요SHAP(Shapley Additive Explanations)는 머신러닝 모델의 예측 결과에 대한 각 피처(feature)의 기여도를 정량적으로 설명해주는 XAI(설명 가능한 AI) 기법입니다. 게임 이론의 샤플리 값(Shapley Value)을 기반으로 하며, 모델의 복잡도와 관계없이 일관된 특성 중요도 평가를 가능하게 하여, 실무에서 모델 신뢰성 검증 및 규제 대응 수단으로 활용됩니다.1. 개념 및 정의 항목 설명 비고 정의모델 예측 결과에 대해 각 피처가 기여한 정도를 정량적으로 계산하는 기법Shapley Value + Additive Model목적모델의 의사결정 과정을 설명 가능하게 함규제 대응 및 실무 신뢰성 확보적용 모델트리, 선형, 딥러닝 등 대부분의 모델모델-불가지론(모델-비의존적..

개요Model Card는 인공지능(AI) 모델의 성능, 사용 범위, 제한 사항, 데이터 편향성 등을 명시한 설명서 형태의 문서로, 모델의 개발자와 사용자 간에 책임 있는 AI 사용을 유도하기 위한 도구이다. Google AI가 최초로 제안한 개념으로, 오늘날 다양한 AI 윤리 가이드라인과 규제 대응에서 Model Card는 필수 요소로 자리잡고 있다.1. 개념 및 정의Model Card는 머신러닝 모델에 대한 표준화된 설명서로, 모델을 언제, 어디서, 어떻게, 누구에게 사용할 수 있는지에 대한 정보와 함께 성능의 한계와 편향 리스크까지 투명하게 공유하는 것을 목표로 한다.목적: AI 모델 사용자의 이해도 증진과 책임 있는 활용형식: 표 또는 자연어 기반의 설명 문서 (HTML, PDF 등)포함 요소: 모..