ITPE * JackerLab

Supply Chain Vulnerabilities

개요Supply Chain Vulnerabilities(공급망 취약점)는 AI 모델 개발 및 배포 과정에서 사용되는 외부 라이브러리, 데이터셋, 모델, 플러그인 등의 무결성 부족으로 발생하는 보안 위협입니다. LLM 및 AI 서비스의 복잡한 생태계 속에서 공급망 보안은 AI 신뢰성을 좌우하는 핵심 요소로 자리잡고 있습니다.1. 개념 및 정의 구분 내용 정의AI 개발과 운영 과정에서 외부 컴포넌트(코드, 데이터, 모델 등)가 변조·악용되어 보안 위협이 발생하는 현상목적공급망 전반의 무결성·신뢰성을 확보하여 AI 서비스 보호필요성AI는 오픈소스와 외부 데이터 의존도가 높아 공급망 취약성 위험이 커짐이는 OWASP LLM Top 10의 다섯 번째 위험 요소로 분류됩니다.2. 특징특징설명비교복잡한 생태계다수의..

Model Denial of Service (Model DoS)

개요Model Denial of Service(DoS)는 대규모 언어 모델(LLM) 과 같은 AI 시스템에 과도한 요청이나 악의적 입력을 보내 모델 응답 속도를 저하시키거나 정상 서비스를 불가능하게 만드는 공격 기법입니다. 이는 기존 네트워크 DoS 공격과 유사하지만, AI 모델의 고비용 연산 자원을 표적으로 삼는다는 점에서 차별화됩니다.1. 개념 및 정의 구분 내용 정의Model DoS는 과도한 요청 처리나 악성 프롬프트를 통해 모델의 응답 불가 상태를 유발하는 공격입니다.목적모델 가용성 저하, 서비스 중단, 비용 상승 유발필요성LLM은 연산 비용이 높아, DoS 공격 시 피해 규모가 기존 시스템보다 큼이 공격은 OWASP LLM Top 10에서 네 번째 주요 위험 요소로 지정되었습니다.2. 특징특징..

Training Data Poisoning

개요Training Data Poisoning은 머신러닝 및 대규모 언어 모델(LLM)의 학습 데이터셋을 조작하여 모델 성능을 왜곡하거나 악용하는 공격 기법입니다. 공격자는 의도적으로 잘못된 데이터를 삽입해 모델이 오작동하도록 유도하며, 이는 AI 신뢰성과 보안을 위협하는 핵심 문제로 부각되고 있습니다.1. 개념 및 정의 구분 내용 정의Training Data Poisoning은 학습 데이터에 악의적·조작된 데이터를 포함시켜 모델의 정확성과 안정성을 저해하는 공격입니다.목적모델 성능 저하, 특정 결과 왜곡, 백도어 삽입 등필요성AI가 데이터 중심으로 학습하기 때문에 데이터 무결성이 보안의 핵심 요소이 공격은 OWASP LLM Top 10의 세 번째 주요 위험 요소로 분류됩니다.2. 특징특징설명비교데이터..