ITPE * JackerLab

개요Model Cards는 AI 및 머신러닝 모델의 기능, 한계, 윤리적 고려사항, 사용 권장 시나리오 등을 정형화된 형식으로 문서화한 정보 카드다. Google AI의 연구진이 제안한 이 개념은 AI 모델의 신뢰성, 투명성, 공정성, 안전성 등을 확보하기 위한 표준적 접근 방식으로, 모델 배포 및 활용 과정에서 발생할 수 있는 오해, 남용, 리스크를 사전에 방지하고자 한다.1. 개념 및 정의Model Cards는 AI/ML 모델의 메타데이터를 중심으로 모델 개발자, 사용자, 이해관계자에게 모델의 특성과 의도를 명확히 전달하는 문서이다. 주로 JSON, Markdown, PDF 형식으로 제공되며, 각 모델에 대한 사양, 훈련 데이터 정보, 성능 지표, 한계, 윤리적 고려사항, 사용 권장/비권장 사례 등이..

개요ISO/IEC 24028은 인공지능(AI) 시스템의 신뢰성(Trustworthiness)을 확보하기 위한 리스크 기반 접근과 설계 원칙을 제시하는 국제 표준 가이드라인이다. AI의 투명성, 공정성, 보안성, 안정성 등을 체계적으로 평가하고 설계 단계에서부터 이를 고려하도록 하는 것이 핵심이다.1. 개념 및 정의 항목 내용 정의인공지능 시스템의 신뢰성을 확보하기 위한 품질 속성 및 리스크 요소를 정의한 ISO/IEC 가이드라인제정기관ISO/IEC JTC 1/SC 42 (AI 국제 표준 기술위원회)적용 대상정부, 기업, AI 개발 조직, 평가기관 등ISO/IEC 24028은 'AI 시스템이 얼마나 안전하고 예측 가능하며 책임 있는 방식으로 동작하는가'에 대한 판단 기준을 제공한다.2. 특징특징설명기존 ..

개요인공지능(AI)의 성능과 신뢰성은 학습용 데이터의 품질에 결정적으로 의존합니다. 이에 따라, AI 개발에 활용되는 데이터의 정확성, 다양성, 적시성, 일관성을 체계적으로 확보하고 검증하기 위한 데이터 품질관리 체계가 필수적으로 요구되고 있습니다. 특히 국가적 차원에서는 AI 학습용 데이터 구축사업의 품질 기준을 정립하고, 민간에서는 데이터 거버넌스를 통해 AI 모델의 안전성과 윤리성 확보를 지원하고 있습니다.1. 개념 및 정의AI 학습용 데이터 품질관리 체계란 AI 모델 학습에 사용되는 데이터셋의 전체 생애주기에서 품질을 확보·관리하기 위한 정책, 프로세스, 도구, 평가 기준 등의 총체적 시스템을 의미합니다. 이는 단순한 데이터 정제 작업을 넘어서, 데이터 확보 → 전처리 → 검수 → 평가 → 모니터..