ISO/IEC 24028

개요

ISO/IEC 24028은 인공지능(AI) 시스템의 신뢰성(Trustworthiness)을 확보하기 위한 리스크 기반 접근과 설계 원칙을 제시하는 국제 표준 가이드라인이다. AI의 투명성, 공정성, 보안성, 안정성 등을 체계적으로 평가하고 설계 단계에서부터 이를 고려하도록 하는 것이 핵심이다.

---

1. 개념 및 정의

항목	내용
정의	인공지능 시스템의 신뢰성을 확보하기 위한 품질 속성 및 리스크 요소를 정의한 ISO/IEC 가이드라인
제정기관	ISO/IEC JTC 1/SC 42 (AI 국제 표준 기술위원회)
적용 대상	정부, 기업, AI 개발 조직, 평가기관 등

ISO/IEC 24028은 'AI 시스템이 얼마나 안전하고 예측 가능하며 책임 있는 방식으로 동작하는가'에 대한 판단 기준을 제공한다.

---

2. 특징

특징	설명	기존 AI 윤리/가이드라인과 차이점
리스크 기반 구조	신뢰성의 위협 요소를 식별하고 대응 방안 체계화	단순 원칙 나열이 아닌 실행 가능한 구조 제시
다차원 속성 정의	보안성, 안전성, 회복력, 견고성 등 다중 관점 포함	기술적 측정 가능성과 관리 기반 제공
비편향적 구조	특정 기술이나 벤더 종속 없는 원칙 중심	글로벌 표준으로 광범위한 적용 가능

이는 AI 거버넌스, 인증, 품질관리 체계의 기준 틀이 될 수 있다.

---

3. 구성 요소 (핵심 속성과 리스크)

구성 항목	설명	예시
보안(Security)	AI 시스템의 무결성, 접근 통제, 악용 방지 등	AI API 접근 토큰 보호, 입력 공격 방지
안전(Safety)	예측 불가능한 행위로 인한 인명·자산 피해 방지	자율주행 차량의 긴급 회피 알고리즘
견고성(Robustness)	노이즈, 입력 변화에도 정확한 출력 유지	이상치 입력에 대한 모델 안정성
회복력(Resilience)	장애 발생 후 시스템 복구 및 복원 능력	AI 서비스 장애 복구 시나리오 자동 실행
설명 가능성(Explainability)	결정 결과에 대한 인간 이해 가능성	XAI 기법 적용, 설명 생성 알고리즘

각 속성은 리스크 대응 요소와 직접 연결되어 품질 기준으로 확장 가능하다.

---

4. 기술 요소 및 방법론

기술 요소	설명	활용 기법
XAI (Explainable AI)	모델의 판단 과정을 설명할 수 있는 기법	LIME, SHAP, Counterfactual Analysis
AI 보안 강화 기술	적대적 공격 대응, 입력 검증 기술	Adversarial Training, Robust ML
모니터링 및 로깅 체계	운영 중 신뢰성 위협 요소 탐지	AI Ops, Drift Detection
모델 리스크 평가 프레임워크	사전·사후 리스크 분석	Model Cards, Datasheets for Datasets

기술적 기반과 문서 기반 통제 체계가 함께 구성되어야 한다.

---

5. 장점 및 기대 효과

장점	설명	효과
AI 품질 기준 수립	개발 및 운영 단계에서 통일된 신뢰성 평가 가능	프로젝트 신뢰성 및 위험 관리 수준 향상
인증 및 감시 기반 마련	신뢰 가능한 AI 인증체계 기반 제공	정부·규제기관 대응력 확보
글로벌 경쟁력 강화	국제 기준에 따른 신뢰성 확보	시장 진출 시 경쟁 우위 확보

특히 B2B, 공공영역, 헬스케어, 자율 시스템 분야에서 필수 기준으로 활용될 수 있다.

---

6. 활용 사례 및 고려사항

사례	설명	고려사항
공공 AI 프로젝트 사전검증	RFP 요구사항에 ISO 24028 기준 반영	실제 리스크 측정 수단 구비 필요
AI 인증기준 기반 프레임워크 구축	설명가능성·보안성 기준을 내재화한 MLOps 설계	요구사항 별 정량화 기준 정립 필요
민감분야 AI 적용	금융/의료 영역에서 위험 최소화	법적·사회적 리스크와 기술 간 균형 고려

기준의 실효성을 위해 측정 가능한 지표 정의와 지속적 모니터링이 필요하다.

---

7. 결론

ISO/IEC 24028은 신뢰할 수 있는 인공지능 시스템의 정의와 요구 조건을 기술적·정책적으로 통합한 국제 가이드라인이다. AI 도입이 빠르게 확산되고 있는 산업 현장에서, 투명하고 예측 가능하며 책임 있는 시스템 구현을 위한 글로벌 기준점으로 기능하고 있으며, 앞으로 AI 거버넌스와 윤리체계 수립에 있어 필수적인 준거가 될 것이다.