728x90
반응형

ai리스크 4

GenAI Security

개요GenAI Security(생성형 AI 보안)는 LLM, 이미지 생성 모델 등 생성형 AI 시스템에서 발생할 수 있는 보안 위협을 식별하고 방어하기 위한 기술 및 전략을 의미한다. 생성형 AI는 텍스트, 코드, 이미지 등을 생성하는 강력한 능력을 갖지만, 동시에 프롬프트 인젝션, 데이터 유출, 모델 악용 등의 새로운 보안 리스크를 동반한다. 이에 따라 기업 및 조직에서는 AI 활용과 동시에 보안 체계 구축이 필수적으로 요구되고 있다.1. 개념 및 정의GenAI Security는 생성형 AI의 입력(프롬프트), 모델 내부 처리, 출력 결과, 외부 시스템 연동 과정에서 발생할 수 있는 보안 위협을 예방하고 대응하는 전반적인 보안 프레임워크이다. 이는 기존 정보보안과 AI 특화 보안이 결합된 형태로 발전하..

Topic 2026.05.02

AI Agent Security

개요AI Agent Security(AI 에이전트 보안)는 자율적으로 판단하고 행동하는 AI 에이전트가 외부 위협으로부터 안전하게 동작하도록 보호하는 보안 체계이다. Agentic AI의 확산으로 인해 프롬프트 인젝션, 데이터 유출, 권한 오용 등 새로운 공격 벡터가 등장하고 있으며, 이에 대응하기 위한 보안 전략이 필수적으로 요구된다. 특히 LLM 기반 에이전트는 외부 도구와 API를 활용하기 때문에 공격 표면(Attack Surface)이 크게 확장되는 특징을 가진다.1. 개념 및 정의AI 에이전트 보안은 에이전트의 입력(프롬프트), 내부 추론, 외부 도구 호출, 출력 결과까지 전 과정에서 발생할 수 있는 보안 위협을 식별하고 방어하는 기술 및 정책을 의미한다. 이는 전통적인 애플리케이션 보안(App..

Topic 2026.05.01

ISO/IEC 23053

개요AI 시스템이 산업 전반에 확산되면서, 신뢰성과 일관된 관리 체계를 보장하기 위한 국제 표준의 필요성이 커졌습니다. 이를 위해 ISO(국제표준화기구)와 IEC(국제전기기술위원회)는 ISO/IEC 23053를 제정했습니다. 이 표준은 인공지능 시스템의 구조와 구성 요소를 정의하는 AI 시스템 프레임워크로, 다른 AI 표준의 참조 모델 역할을 수행합니다.1. 개념 및 정의ISO/IEC 23053는 인공지능 시스템의 구성 요소, 데이터 흐름, 운영 단계 등을 정의하는 프레임워크 표준입니다. AI 시스템의 개발·운영 전 과정에서 일관성과 상호운용성을 보장하기 위해 마련되었습니다.주요 목적은 AI 시스템 구축·운영의 구조적 가이드라인 제공 및 글로벌 표준화 지원입니다.2. 특징특징기존 AI 적용 방식ISO/I..

Topic 2025.09.16

ISO/IEC 23894

개요인공지능(AI)의 활용이 확대되면서, 윤리적 문제, 안전성, 보안, 책임성에 대한 우려가 커지고 있습니다. 이에 따라 국제표준화기구(ISO)와 국제전기기술위원회(IEC)는 AI 위험 관리에 관한 국제 표준인 ISO/IEC 23894를 제정했습니다. 이 표준은 AI 시스템의 개발과 운영 전 주기에 걸쳐 위험을 체계적으로 관리하기 위한 가이드라인을 제공합니다.1. 개념 및 정의ISO/IEC 23894는 인공지능 시스템과 관련된 위험을 식별, 평가, 모니터링 및 완화하기 위한 프레임워크를 정의하는 국제 표준입니다.주요 목적은 AI 기술의 신뢰성 확보, 안전한 활용, 규제 준수 지원입니다.2. 특징특징기존 AI 개발ISO/IEC 23894 적용위험 관리부분적·비공식적표준화된 프로세스 적용적용 범위기술적 요소..

Topic 2025.09.16
728x90
반응형