ITPE * JackerLab

개요Model Theft(모델 탈취)는 대규모 언어 모델(LLM) 과 같은 인공지능 모델이 불법적으로 복제·도용되어 발생하는 보안 및 지적재산권(IP) 위협입니다. 공격자는 합법적으로 접근한 모델의 API, 학습 데이터, 혹은 추론 결과를 이용해 원본 모델을 복제하거나 역설계합니다.1. 개념 및 정의 구분 내용 정의Model Theft는 정당한 소유자가 아닌 공격자가 AI 모델을 불법적으로 복제·활용하는 행위입니다.목적지적재산권 침해, 경쟁 우위 확보, 악용된 서비스 배포필요성모델 개발 비용은 막대하지만, 탈취는 상대적으로 용이하여 심각한 경제적 손실 유발이는 OWASP LLM Top 10의 열 번째 주요 위험 요소로 지정되어 있습니다.2. 특징특징설명비교API 남용모델 API를 대량 호출해 동작을 재..

개요Overreliance(과도한 의존)는 대규모 언어 모델(LLM) 의 출력 결과를 사용자가 비판적 검증 없이 그대로 수용할 때 발생하는 보안 및 운영상의 위험입니다. LLM은 설득력 있는 텍스트를 생성하지만, 항상 사실적이거나 안전하지 않을 수 있기 때문에 무비판적 의존은 심각한 피해를 초래할 수 있습니다.1. 개념 및 정의 구분 내용 정의Overreliance는 LLM 출력에 대한 사용자 또는 시스템의 무비판적 신뢰를 의미합니다.목적AI 활용 시 인간의 검증 절차를 포함해 오류 및 위험을 최소화필요성LLM은 불완전한 정보와 환각(Hallucination)을 생성할 수 있음이는 OWASP LLM Top 10의 아홉 번째 주요 보안 위험으로 지정됩니다.2. 특징특징설명비교환각(Hallucination..

개요Excessive Agency(과도한 자율성)는 대규모 언어 모델(LLM) 기반 시스템이 과도한 권한과 자율적 의사결정을 허용받아 발생하는 보안 위험을 의미합니다. AI가 사용자 대신 자동으로 행동하거나 외부 시스템과 상호작용할 때, 제어되지 않은 권한 남용이나 오작동이 발생할 수 있습니다.1. 개념 및 정의 구분 내용 정의Excessive Agency는 LLM이 불필요하게 광범위한 권한을 갖고 자율적으로 행동할 때 발생하는 위험입니다.목적LLM의 권한을 최소화하고 안전한 범위 내에서 동작 보장필요성AI 에이전트·플러그인 사용 확산으로 LLM의 권한 오남용 가능성 증가이는 OWASP LLM Top 10의 여덟 번째 주요 위험 요소로 지정되어 있습니다.2. 특징특징설명비교권한 과다 부여필요 이상의 파..

개요Insecure Plugin Use(플러그인 오용 취약점)는 대규모 언어 모델(LLM) 기반 서비스에서 외부 플러그인·도구와의 연계 과정에서 발생하는 보안 위협입니다. 플러그인은 LLM의 기능을 확장하지만, 검증되지 않은 플러그인 사용은 민감 데이터 유출, 악성 코드 실행, 공급망 공격 등으로 이어질 수 있습니다.1. 개념 및 정의 구분 내용 정의Insecure Plugin Use는 검증되지 않은 플러그인 또는 취약한 플러그인을 사용해 발생하는 보안 문제입니다.목적플러그인 활용 시 안전한 실행 환경을 보장필요성플러그인은 강력한 기능을 제공하지만 동시에 공격 벡터를 확대이는 OWASP LLM Top 10의 일곱 번째 위험 요소로 분류됩니다.2. 특징특징설명비교외부 의존성플러그인은 외부 서비스/API에..