728x90
반응형

자율에이전트 2

AI 에이전트 하이재킹(Agent Hijacking

개요AI 에이전트 하이재킹(Agent Hijacking)은 인공지능 시스템, 특히 자동화된 에이전트나 자율 실행 AI가 공격자에게 통제권을 탈취당하는 사이버 공격 유형입니다. 이는 명령어 조작, 학습 데이터 오염, 통신 경로 개입 등을 통해 발생하며, 개인정보 유출, 시스템 오작동, 악성 자동화로 이어질 수 있습니다.1. 개념 및 정의AI 에이전트 하이재킹 공격은 AI가 수행하는 작업 흐름을 공격자가 탈취하거나 변조하여 악의적인 목적을 수행하도록 조작하는 공격 방식입니다.주 대상: 챗봇, RPA, 자율 에이전트, 멀티에이전트 시스템공격 목표: 정보 유출, 정책 위반, 악성 실행 유도차이점: 기존 시스템 하이재킹보다 자율성 기반 AI의 조작이 핵심2. 특징 구분 AI 에이전트 하이재킹 일반 악성코드 공..

Topic 2025.06.24

Auto-GPT(Auto Generative Pre-trained Transformer)

개요Auto-GPT는 사용자의 고수준 목표를 이해하고 이를 하위 작업으로 자동 분해하여 실행하는 자율 AI 시스템입니다. 기존 챗봇이나 프롬프트 기반 AI와 달리, 지속적인 피드백 루프와 목표 지향적인 작업 수행이 가능해 AI의 활용 범위를 획기적으로 확장시킵니다. 본 글에서는 Auto-GPT의 개념, 구성 요소, 기술 스택부터 실무 적용까지 상세히 다룹니다.1. 개념 및 정의 구분 내용 정의Auto-GPT는 OpenAI의 GPT 모델을 기반으로 작동하는 자율 AI 에이전트입니다.목적사용자가 지시한 목표를 스스로 분석하고 실행하며, 반복 피드백을 통해 개선합니다.필요성복잡한 프로젝트나 정보 수집, 자동화 업무에서 인간 개입 최소화를 목표로 합니다.2. 특징특징설명차별성자율성초기 목표만 설정하면 하위 작..

Topic 2025.05.18
728x90
반응형