ITPE * JackerLab

CPM(Critical Path Method)

개요CPM(Critical Path Method)은 프로젝트 일정 관리에서 작업 간의 의존 관계를 분석하여 프로젝트 완료에 직접적인 영향을 미치는 핵심 경로(Critical Path)를 식별하는 일정 관리 기법이다. 1950년대 DuPont과 Remington Rand가 화학 공장 유지보수 프로젝트의 일정 최적화를 위해 개발한 방법으로 이후 다양한 산업에서 프로젝트 일정 계획의 핵심 기법으로 활용되고 있다.CPM은 프로젝트의 모든 작업(Activity)과 선행 관계를 네트워크 형태로 표현하고 각 작업의 소요 시간을 기반으로 프로젝트 완료까지 가장 긴 경로를 계산한다. 이 경로를 Critical Path라고 하며 해당 경로의 작업이 지연될 경우 전체 프로젝트 일정이 지연된다.특히 IT 프로젝트, 건설 프로..

PERT(Program Evaluation and Review Technique)

개요PERT(Program Evaluation and Review Technique)는 프로젝트 일정 계획과 관리에서 작업 간 의존 관계와 불확실성을 고려하여 프로젝트 완료 시간을 예측하는 네트워크 기반 일정 관리 기법이다. 1950년대 미국 해군의 Polaris 미사일 개발 프로젝트에서 처음 개발되었으며 대규모 연구개발 프로젝트의 일정 관리 문제를 해결하기 위해 만들어졌다.PERT는 프로젝트 작업(Activity)과 이벤트(Event)를 네트워크 형태로 표현하고 각 작업의 소요 시간을 낙관적 시간(Optimistic Time), 가장 가능성 높은 시간(Most Likely Time), 비관적 시간(Pessimistic Time)으로 정의하여 확률적 일정 분석을 수행한다.이 기법은 프로젝트 일정의 불확실..

WBS(Work Breakdown Structure)

개요WBS(Work Breakdown Structure)는 프로젝트 관리에서 프로젝트의 전체 범위를 계층적 구조로 분해하여 관리하는 핵심 기법이다. 프로젝트 목표를 달성하기 위해 필요한 모든 작업을 체계적으로 분해하여 정의함으로써 일정, 비용, 자원, 리스크 관리를 보다 효과적으로 수행할 수 있도록 지원한다.WBS는 PMBOK(Project Management Body of Knowledge)에서 정의하는 프로젝트 범위 관리의 핵심 산출물 중 하나로, 프로젝트 계획 수립 단계에서 작성된다. 복잡한 프로젝트를 관리 가능한 단위로 나누어 프로젝트 팀이 각 작업을 명확하게 이해하고 책임을 할당할 수 있도록 돕는다.특히 IT 프로젝트, 건설 프로젝트, 연구개발 프로젝트 등 대규모 프로젝트에서 일정 관리, 비용 ..

Prototyping(프로토타이핑)

개요Prototyping은 소프트웨어 개발 초기 단계에서 시스템의 핵심 기능이나 사용자 인터페이스를 빠르게 구현한 시제품(Prototype)을 제작하여 요구사항을 검증하고 사용자 피드백을 반영하는 개발 접근 방식이다. 전통적인 개발 모델에서는 요구사항을 문서로 정의한 후 설계를 진행하지만, 실제 사용자 요구를 정확히 이해하기 어렵다는 문제가 존재한다. 이러한 문제를 해결하기 위해 Prototyping 기법이 활용된다.프로토타이핑은 사용자와 개발자 간의 커뮤니케이션을 강화하고 요구사항의 불확실성을 줄이는 데 큰 역할을 한다. 특히 UI/UX 중심 애플리케이션, 웹 서비스, 모바일 애플리케이션 개발에서 매우 중요한 방법론으로 활용되고 있으며 Agile 개발 방식과도 밀접하게 연결된다.1. 개념 및 정의Pro..

V-Model(Verification & Validation Model)

개요V-Model은 소프트웨어 개발 생명주기(SDLC: Software Development Life Cycle)의 한 형태로, 개발 단계(Verification)와 테스트 단계(Validation)를 대응 구조로 연결한 개발 프로세스 모델이다. 이 모델은 전통적인 Waterfall 모델을 확장한 형태로, 개발 단계의 각 산출물에 대해 대응되는 테스트 단계를 정의하여 품질을 체계적으로 검증하도록 설계되었다.V-Model은 개발 단계가 진행됨에 따라 테스트 계획이 동시에 수립되는 특징을 가지며, 프로젝트 초기부터 품질 검증 활동을 수행할 수 있다는 장점이 있다. 이러한 특성 때문에 항공우주, 국방, 자동차, 의료 시스템 등 높은 신뢰성과 안전성이 요구되는 분야에서 널리 사용된다.1. 개념 및 정의V-Mod..

COCOMO(Constructive Cost Model)

개요COCOMO(Constructive Cost Model)는 소프트웨어 개발 프로젝트의 비용, 인력, 개발 기간을 예측하기 위해 Barry W. Boehm이 제안한 소프트웨어 비용 추정 모델이다. 1981년에 최초로 제안된 이후 다양한 프로젝트 환경을 반영하기 위해 COCOMO II 모델로 발전하였다. 이 모델은 소프트웨어 규모(주로 KLOC: Kilo Lines of Code)를 기반으로 개발에 필요한 노력(Effort), 개발 기간(Time), 인력 규모를 수학적 모델을 통해 계산한다.대규모 소프트웨어 프로젝트에서는 초기 단계에서 정확한 비용과 일정 예측이 매우 중요하다. COCOMO는 이러한 요구를 충족하기 위해 경험적 데이터와 통계적 분석을 기반으로 만들어졌으며, 프로젝트 계획 수립, 예산 산정..

PMBOK(Project Management Body of Knowledge)

개요PMBOK(Project Management Body of Knowledge)은 미국 PMI(Project Management Institute)가 제정한 프로젝트 관리 표준 지식 체계로, 프로젝트 관리에 필요한 핵심 원칙, 프로세스, 지식 영역을 체계적으로 정리한 가이드라인이다. PMBOK Guide는 전 세계 프로젝트 관리 실무에서 사실상의 표준(reference standard)으로 활용되며, PMP(Project Management Professional) 자격증의 핵심 기반 지식으로도 사용된다.현대 조직에서는 IT 프로젝트, 건설 프로젝트, 연구개발 프로젝트 등 다양한 형태의 프로젝트가 수행되며, 이러한 프로젝트를 성공적으로 수행하기 위해 체계적인 관리 방법론이 필요하다. PMBOK은 이러한..

SWEBOK(Software Engineering Body of Knowledge)

개요SWEBOK은 IEEE Computer Society가 주도하여 정의한 소프트웨어 공학 지식 체계로, 소프트웨어 엔지니어링 분야에서 공통적으로 합의된 핵심 지식 영역(Knowledge Area)을 체계적으로 정리한 표준 지식 프레임워크이다. 소프트웨어 공학이 단순한 개발 기술이 아니라 독립적인 공학 분야로 자리잡도록 하기 위해 만들어졌으며, 교육, 연구, 산업 현장에서 소프트웨어 엔지니어링의 기준(reference model)으로 활용된다.SWEBOK은 소프트웨어 개발 프로세스 전반을 포괄하는 15개의 Knowledge Area(KA)로 구성되어 있으며, 요구사항 분석부터 유지보수, 품질, 구성관리, 공학적 방법론까지 소프트웨어 생명주기의 핵심 지식을 체계적으로 정의한다. 현재 SWEBOK Guide..

개요Runtime Instrumentation은 프로그램이 실행되는 동안 코드의 동작을 실시간으로 관찰하고 필요한 정보를 수집하거나 동작을 변경할 수 있도록 하는 기술이다. 전통적인 정적 분석(static analysis)이나 컴파일 단계의 instrumentation과 달리, 런타임 환경에서 동적으로 코드에 후킹(hooking)하거나 바이트코드를 변형하여 시스템의 내부 상태를 분석한다. 이 기술은 APM(Application Performance Monitoring), 보안 탐지, 디버깅, Observability, 테스트 자동화, 프러덕션 장애 분석 등 다양한 영역에서 핵심 기술로 활용된다.최근 클라우드 네이티브 환경과 마이크로서비스 아키텍처 확산으로 인해 서비스 간 호출 추적(Distributed ..

개요Google SAIF(Secure AI Framework)는 Google이 제안한 인공지능 보안 프레임워크로, AI 시스템의 설계·개발·운영 전반에서 발생할 수 있는 보안 위험을 체계적으로 관리하기 위한 보안 전략 모델이다. 이 프레임워크는 기존 사이버 보안 원칙을 AI 환경에 적용하면서도 AI 특유의 공격 벡터와 위험 요소를 고려하여 설계되었다.SAIF는 데이터, 모델, 인프라, 애플리케이션 전반에 걸쳐 AI 보안을 통합적으로 관리하도록 설계되었으며, 특히 생성형 AI와 대규모 언어모델(LLM) 환경에서 중요한 보안 가이드라인으로 활용되고 있다.1. 개념 및 정의Google SAIF는 AI 시스템 전반에 보안 설계를 적용하여 AI 모델과 데이터, 파이프라인, 사용자 인터페이스까지 포함한 전체 AI ..

개요AI Guardrails는 인공지능 시스템이 안전하고 책임감 있게 동작하도록 제어하기 위한 정책, 기술, 운영 체계를 의미한다. 이는 AI 모델이 생성하는 결과의 품질, 윤리성, 안전성, 규제 준수 여부를 지속적으로 관리하기 위한 보호 장치 역할을 한다. 특히 생성형 AI, 대규모 언어모델(LLM), 자동화된 의사결정 시스템이 확산됨에 따라 AI Guardrails는 조직의 AI 거버넌스와 위험 관리 전략에서 핵심 요소로 자리 잡고 있다.1. 개념 및 정의AI Guardrails는 AI 시스템이 허용된 범위 내에서만 동작하도록 제한하고, 위험한 행동이나 부적절한 출력이 발생하지 않도록 제어하는 기술적·정책적 메커니즘이다.주요 목적은 다음과 같다.AI 출력 안전성 확보윤리적 AI 운영 지원규제 및 정책..

개요AST Orchestration은 다양한 애플리케이션 보안 테스트(AST: Application Security Testing) 도구를 통합하여 자동화된 보안 테스트 파이프라인을 구축하고 운영하는 보안 관리 접근 방식이다. 현대 DevSecOps 환경에서는 SAST, DAST, SCA, IaC Security, API Security 등 여러 보안 도구가 사용되며, AST Orchestration은 이러한 도구들을 하나의 통합 플랫폼에서 조정하여 효율적인 보안 테스트와 취약점 관리를 가능하게 한다.1. 개념 및 정의AST Orchestration은 다양한 보안 테스트 도구와 개발 파이프라인을 연결하여 보안 검사를 자동으로 실행하고 결과를 통합 관리하는 보안 운영 체계이다.주요 목적은 다음과 같다.애플..

개요ASPM(Application Security Posture Management)은 애플리케이션 개발 및 운영 전반에서 발생하는 보안 위험을 통합적으로 관리하기 위한 보안 관리 프레임워크이다. 현대 DevSecOps 환경에서는 코드 저장소, CI/CD 파이프라인, 오픈소스 의존성, 클라우드 인프라 등 다양한 영역에서 보안 취약점이 발생할 수 있으며, ASPM은 이러한 분산된 보안 데이터를 통합하여 애플리케이션의 전반적인 보안 상태(Posture)를 지속적으로 분석하고 관리한다.ASPM은 SAST, DAST, SCA, IaC 보안, API 보안 등 여러 보안 도구에서 생성되는 결과를 통합하여 조직이 애플리케이션 보안 위험을 우선순위 기반으로 관리할 수 있도록 지원한다.1. 개념 및 정의ASPM은 애플리..

개요OpenRASP는 Runtime Application Self-Protection(RASP) 기술을 기반으로 하는 오픈소스 애플리케이션 보안 프레임워크로, 애플리케이션 실행 환경(Runtime) 내부에서 공격을 탐지하고 차단하는 보안 기술이다. 기존의 웹 방화벽(WAF)이나 네트워크 보안 솔루션이 애플리케이션 외부에서 공격을 차단하는 것과 달리, OpenRASP는 애플리케이션 내부에서 동작하며 실제 코드 실행 흐름을 분석하여 공격을 탐지한다.OpenRASP는 특히 SQL Injection, Command Injection, File Inclusion, Deserialization 공격 등 다양한 애플리케이션 공격을 실시간으로 탐지하고 대응할 수 있도록 설계되었다.1. 개념 및 정의OpenRASP는 애..

개요ISO/IEC 27570은 디지털 시스템과 서비스 설계 과정에서 개인정보 보호 요구사항을 기술적으로 구현하기 위한 프라이버시 엔지니어링(Privacy Engineering) 지침을 제공하는 국제 표준이다. 이 표준은 시스템 설계 단계에서 개인정보 보호 원칙을 통합하여 데이터 수집, 처리, 저장, 공유 과정에서 발생할 수 있는 프라이버시 위험을 최소화하는 것을 목표로 한다. 특히 AI 시스템, 클라우드 플랫폼, 데이터 기반 서비스 환경에서 Privacy by Design 원칙을 실질적으로 구현하기 위한 기술적 프레임워크로 활용된다.1. 개념 및 정의ISO/IEC 27570은 정보 시스템 설계 및 개발 과정에서 개인정보 보호 요구사항을 체계적으로 적용하기 위한 기술적 설계 모델을 정의한다.이 표준의 핵심..

개요ISO/IEC 27563은 개인정보 처리 활동이 개인의 프라이버시에 미치는 영향을 체계적으로 평가하기 위한 개인정보 영향평가(Privacy Impact Assessment, PIA) 프레임워크를 정의한 국제 표준이다. 조직이 새로운 시스템, 서비스, 데이터 처리 활동을 도입할 때 개인정보 위험을 사전에 식별하고 완화할 수 있도록 구조적 방법론을 제공한다. 특히 데이터 기반 서비스, AI 시스템, 클라우드 플랫폼 환경에서 프라이버시 위험을 관리하기 위한 핵심 관리 체계로 활용된다.1. 개념 및 정의ISO/IEC 27563은 조직이 개인정보 처리 활동이 개인의 프라이버시에 미치는 잠재적 영향을 분석하고 관리하기 위한 평가 모델을 정의한다.개인정보 영향평가의 주요 목적은 다음과 같다.개인정보 처리 위험 식..

개요ISO/IEC 27555는 조직이 개인정보를 분석, 공유 또는 활용하는 과정에서 개인 식별 위험을 최소화하기 위해 적용할 수 있는 데이터 비식별화(Data De-identification) 운영 프레임워크를 정의하는 국제 표준이다. 이 표준은 데이터 활용과 개인정보 보호 사이의 균형을 유지하기 위해 기술적 비식별화 기법과 관리적 통제 절차를 함께 제시한다. 특히 AI 데이터 활용, 데이터 분석, 데이터 공유 환경에서 개인정보 재식별 위험을 관리하기 위한 핵심 가이드라인으로 활용된다.1. 개념 및 정의ISO/IEC 27555는 개인을 직접 또는 간접적으로 식별할 수 있는 데이터를 변환하거나 제거하여 재식별 가능성을 최소화하는 비식별화 데이터 처리 모델을 정의한다.비식별화의 주요 목적은 다음과 같다.개인..

개요ISO/IEC 27561은 개인정보 처리에 대한 사용자 동의(Consent)를 다양한 시스템과 서비스 환경에서 상호운용 가능하게 관리하기 위한 국제 표준 프레임워크이다. 이 표준은 조직, 플랫폼, 서비스 간에 동의 정보를 교환하고 해석할 수 있도록 구조화된 모델과 운영 지침을 제공한다. 특히 데이터 경제, 클라우드 서비스, 디지털 플랫폼 환경에서 사용자 동의의 이동성과 투명성을 확보하는 것을 목표로 한다.1. 개념 및 정의ISO/IEC 27561은 개인정보 처리에 대한 사용자의 동의 정보를 여러 서비스 및 데이터 처리 시스템 간에 공유하고 해석할 수 있도록 하는 상호운용성 기반 프레임워크이다.이 표준의 핵심 목적은 다음과 같다.사용자 동의 정보의 시스템 간 호환성 확보개인정보 처리 투명성 강화자동화된..

개요ISO/IEC 27565는 인공지능(AI) 시스템의 설계, 개발 및 운영 과정에서 프라이버시 보호를 체계적으로 구현하기 위한 프라이버시 엔지니어링(Privacy Engineering) 프레임워크를 제시하는 국제 표준이다. 이 표준은 AI 모델과 데이터 처리 파이프라인에서 개인정보 보호 요구사항을 기술적으로 구현하는 방법을 제시하며, 개인정보 보호 설계(Privacy by Design) 원칙을 AI 시스템에 적용하도록 지원한다.1. 개념 및 정의ISO/IEC 27565는 AI 시스템의 전 생명주기(데이터 수집, 학습, 추론, 운영)에 걸쳐 프라이버시 보호 메커니즘을 설계하고 구현하기 위한 기술적 접근 방식을 정의한다.핵심 목표는 다음과 같다.AI 시스템 설계 단계에서 프라이버시 고려개인정보 보호 기술의..

개요ISO/IEC 27559는 조직이 개인정보 보호 활동을 체계적으로 운영하고 관리하기 위한 프라이버시 운영 모델(Privacy Operational Model)을 정의하는 국제 표준이다. 이 표준은 개인정보 보호 정책, 데이터 처리 절차, 기술적 보호 조치, 거버넌스 구조를 통합적으로 관리할 수 있도록 프레임워크를 제공한다. 특히 디지털 서비스와 데이터 중심 비즈니스 환경에서 개인정보 보호 관리체계(PIMS)와 데이터 거버넌스를 강화하는 데 목적이 있다.1. 개념 및 정의ISO/IEC 27559는 조직이 개인정보 보호 정책을 실제 운영 환경에서 효과적으로 실행할 수 있도록 하는 프라이버시 운영 모델을 제시한다. 이 모델은 개인정보 수집, 저장, 처리, 공유 및 폐기까지 전 과정에 대한 관리 구조를 포함..

개요ISO/IEC 27556은 개인정보 보호를 위한 데이터 비식별화(De-identification)와 프라이버시 강화 기술(Privacy Enhancing Technologies, PETs)을 체계적으로 적용하기 위한 국제 표준이다. 이 표준은 조직이 개인정보를 분석, 공유 또는 활용하는 과정에서 개인 식별 가능성을 최소화하고 데이터 활용 가치를 유지할 수 있도록 구조적 지침을 제공한다. 특히 데이터 경제와 AI 분석 환경에서 개인정보 보호와 데이터 활용 간 균형을 달성하기 위한 핵심 프라이버시 기술 프레임워크로 평가된다.1. 개념 및 정의ISO/IEC 27556은 개인을 직접적으로 식별할 수 있는 정보를 제거하거나 변형하여 재식별 가능성을 최소화하는 데이터 처리 방법과 관리 절차를 정의한다.비식별화는..

개요ISO/IEC 27560은 개인정보 처리 과정에서 생성되는 사용자 동의(Consent)에 대한 기록을 체계적으로 관리하기 위한 정보 구조를 정의한 국제 표준이다. 이 표준은 조직이 개인정보 처리 활동에 대한 동의 정보를 투명하고 검증 가능한 형태로 저장·관리할 수 있도록 지원한다. 특히 GDPR, 개인정보 보호법, 데이터 거버넌스 요구사항과 연계되어 동의 기록의 추적성, 무결성, 감사 가능성을 확보하는 것을 목표로 한다.1. 개념 및 정의ISO/IEC 27560은 개인정보 처리에 대한 사용자의 동의 상태와 관련 메타데이터를 구조화하여 기록하고 관리하기 위한 데이터 모델과 관리 지침을 제공하는 표준이다.동의 기록은 다음과 같은 정보를 포함한다.동의 주체(데이터 주체)동의 대상 데이터 처리 목적동의 시점..

개요ISO/IEC 27562는 소비자가 자신의 개인정보 처리와 관련된 선호도(privacy preferences)를 표준화된 방식으로 표현하고 서비스 제공자가 이를 해석·적용할 수 있도록 지원하는 국제 표준이다. 이 표준은 개인정보 보호 관리체계(PIMS) 및 데이터 거버넌스와 연계되어 사용자 중심의 프라이버시 제어를 구현하는 것을 목표로 한다. 특히 디지털 서비스, IoT, 온라인 플랫폼 환경에서 개인정보 수집·이용·공유에 대한 사용자 의사를 기계 판독 가능한 형태로 전달하고 자동으로 집행할 수 있는 기반을 제공한다.1. 개념 및 정의ISO/IEC 27562는 소비자가 개인정보 처리 방식에 대해 사전에 선호 조건을 정의하고 이를 서비스 시스템이 해석하여 정책으로 적용할 수 있도록 하는 프라이버시 선호도..

개요Proof of Work(PoW)와 Proof of Learning(PoL)은 분산 시스템에서 신뢰를 확보하기 위한 증명(Proof) 메커니즘이라는 공통점을 가지지만, 목적과 검증 방식에서 본질적인 차이를 가진다. PoW는 블록체인 네트워크에서 연산 자원 소모를 통해 합의를 달성하는 방식이며, PoL은 인공지능 모델 학습 과정 자체를 유의미한 작업으로 간주하고 이를 검증 가능한 형태로 증명하는 차세대 개념이다. 최근 에너지 효율성, AI 연산 자산화, 탈중앙 AI 네트워크의 등장과 함께 두 메커니즘의 비교 논의가 활발히 진행되고 있다.1. 개념 및 정의Proof of Work는 특정 난이도의 해시 연산을 수행함으로써 블록 생성 권한을 획득하는 합의 알고리즘이다. 비트코인 네트워크에서 SHA-256 기..

개요PRADA는 Deep Neural Network(DNN) 모델 탈취(Model Stealing) 공격을 탐지하기 위해 제안된 질의(Query) 분포 기반 방어 기법이다. 2019년 USENIX Security Symposium에서 Juuti et al.이 발표한 연구로, 모델 추출 공격자가 생성하는 질의 패턴이 정상 사용자 질의 분포와 통계적으로 다르다는 점에 착안하였다. PRADA는 입력 간 거리 분포(distance distribution)를 분석하여 모델 복제 시도를 효과적으로 탐지하는 최초의 체계적 접근 중 하나로 평가된다.1. 개념 및 정의PRADA는 모델 API에 전달되는 입력 샘플 간의 거리 분포를 지속적으로 모니터링하고, 해당 분포가 정규 분포에서 벗어나는지를 통계적으로 검정하여 모델 ..

개요Prediction Poisoning 또는 Output Perturbation은 AI 모델의 학습 데이터가 아닌 ‘출력 단계’를 직접 조작하거나 왜곡하여 사용자에게 전달되는 예측 결과의 신뢰성을 저해하는 공격 기법이다. 이는 모델 내부를 변조하지 않더라도 API 응답, 확률값, 순위 결과 등을 교란함으로써 모델 성능을 오판하게 만들거나 의사결정을 왜곡할 수 있다. 특히 SaaS AI, 추천 시스템, 금융 예측 API 환경에서 중요한 보안 위협으로 분류된다.1. 개념 및 정의Prediction Poisoning은 모델이 생성한 예측값에 악의적 노이즈를 주입하거나 특정 클래스의 확률을 인위적으로 증폭·감소시키는 방식으로 결과를 왜곡하는 공격이다.Output Perturbation은 출력 확률 벡터, 순위..

개요Query Auditing / Detection은 AI 모델 또는 API 서비스에 대한 질의(Query) 패턴을 분석하여 비정상적 접근, 모델 추출(Model Extraction), 적대적 공격(Adversarial Attack), 과도한 자동화 요청 등을 탐지하는 보안 기술이다. 특히 블랙박스 환경에서 수행되는 Hard-label Attack, Logit-based Extraction, Distillation Attack 등은 반복적이고 통계적으로 특징적인 질의 패턴을 남기기 때문에, 질의 기반 이상 탐지는 실질적인 방어 전략으로 평가된다.1. 개념 및 정의Query Auditing은 API 요청 로그, 입력 분포, 응답 패턴을 지속적으로 수집·분석하여 정상 사용자 행위와 공격 행위를 구분하는 과정..

개요Model Fingerprinting은 특정 인공지능 모델의 고유한 특성을 식별하고 추적하기 위한 기술적 기법이다. 이는 모델 추출(Model Extraction), 무단 복제(Model Stealing), 지식 증류 기반 탈취 공격 등으로부터 지적 재산권을 보호하고, 모델 출처를 검증하기 위한 핵심 보안 전략으로 활용된다. 최근 상용 AI API와 대규모 언어모델(LLM)의 확산에 따라 모델 무단 사용 여부를 판별하는 기술의 중요성이 급격히 증가하고 있다.1. 개념 및 정의Model Fingerprinting은 모델이 특정 입력 집합에 대해 생성하는 고유한 출력 패턴 또는 결정 경계 특성을 활용하여 해당 모델의 신원을 식별하는 기법이다.이는 디지털 콘텐츠의 워터마킹과 유사하지만, 모델 동작 특성(b..

개요Distillation Attack은 원래 모델 경량화 및 성능 향상을 위해 사용되는 지식 증류(Knowledge Distillation) 기법을 악용하여, 대상 모델(Teacher)의 출력 정보를 기반으로 대체 모델(Student)을 학습시키는 모델 추출(Model Extraction) 공격 방식이다. 공격자는 API를 통해 수집한 Soft-label(확률 분포 또는 로짓)을 활용하여 원본 모델과 유사한 성능을 갖는 복제 모델을 구축할 수 있다. 최근 상용 AI API 확산과 함께 지적재산권 침해 및 모델 자산 탈취 리스크가 주요 보안 이슈로 부상하고 있다.1. 개념 및 정의Distillation Attack은 공격자가 대상 모델 f_T(x)의 출력 확률 분포 P_T(y|x)를 수집한 후, 이를 S..

개요Logit-based Extraction은 모델이 반환하는 로짓(Logit) 값 또는 확률 분포 정보를 활용하여 대상 모델의 의사결정 구조를 역추정(Model Extraction)하는 공격 기법이다. 이는 단순 라벨 기반 추출보다 훨씬 정밀한 모델 복제가 가능하며, 상용 API에서 확률값을 노출하는 경우 심각한 지적재산권 및 보안 위협이 될 수 있다. 최근 연구에서는 로짓 정보가 모델 경계와 파라미터 구조를 재구성하는 데 충분한 신호를 제공함이 입증되었다.1. 개념 및 정의Logit-based Extraction은 공격자가 대상 모델 f(x)의 출력 로짓 벡터 z(x)를 수집하고, 이를 기반으로 대체 모델 f'(x)를 학습시켜 원본 모델의 동작을 모사하는 공격 방식이다.일반적인 구조는 다음과 같다.A..