ITPE * JackerLab

개요AI 에이전트 하이재킹(Agent Hijacking)은 인공지능 시스템, 특히 자동화된 에이전트나 자율 실행 AI가 공격자에게 통제권을 탈취당하는 사이버 공격 유형입니다. 이는 명령어 조작, 학습 데이터 오염, 통신 경로 개입 등을 통해 발생하며, 개인정보 유출, 시스템 오작동, 악성 자동화로 이어질 수 있습니다.1. 개념 및 정의AI 에이전트 하이재킹 공격은 AI가 수행하는 작업 흐름을 공격자가 탈취하거나 변조하여 악의적인 목적을 수행하도록 조작하는 공격 방식입니다.주 대상: 챗봇, RPA, 자율 에이전트, 멀티에이전트 시스템공격 목표: 정보 유출, 정책 위반, 악성 실행 유도차이점: 기존 시스템 하이재킹보다 자율성 기반 AI의 조작이 핵심2. 특징 구분 AI 에이전트 하이재킹 일반 악성코드 공..

개요Adversarial Patch는 이미지 인식 AI 모델에 물리적 오브젝트를 삽입해 오작동을 유도하는 적대적 공격(adversarial attack) 기법 중 하나입니다. 작은 이미지 조각 또는 스티커 형태의 '패치'를 실제 환경에 배치해 AI 모델이 잘못된 분류나 인식을 하도록 유도하는 방식입니다. 본 글에서는 Adversarial Patch의 개념, 작동 방식, 연구 사례, 보안 위협 및 방어 전략을 다룹니다.1. 개념 및 정의Adversarial Patch는 입력 이미지 내 특정 위치에 인위적인 패턴(Noise)을 삽입하여, 딥러닝 모델 특히 CNN(합성곱 신경망)의 분류 결과를 교란시키는 공격 방법입니다. 기존의 픽셀 단위 조작 대신, 물리적 공간에 부착 가능하고 사람이 알아보기 어려운 시각 ..