ITPE * JackerLab

개요MLIR(Multi-Level Intermediate Representation)은 Google이 TensorFlow/XLA 컴파일러 최적화를 위해 개발한 범용 컴파일러 인프라 구조로, 다양한 수준의 연산(High-Level → Low-Level)을 통합적으로 표현하고 최적화할 수 있는 중간 표현체계(IR)이다. MLIR은 단순히 TensorFlow 전용 기술이 아니라, **모든 도메인별 언어(DSL)**와 하드웨어 타깃 간의 다리 역할을 수행하는 범용 프레임워크로 발전하고 있다.1. 개념 및 정의MLIR은 이름 그대로 **‘다단계 중간 표현(Multi-Level IR)’**을 의미한다. 전통적인 컴파일러의 단일 IR 구조와 달리, MLIR은 서로 다른 수준의 추상화 계층(예: 그래프 수준, 연산 수..

개요TFX(TensorFlow Extended)는 TensorFlow 기반의 엔드투엔드 머신러닝(ML) 파이프라인 플랫폼으로, 데이터 준비부터 모델 배포까지 전체 ML 워크플로우를 자동화하고 관리합니다. 대규모 프로덕션 환경에서 안정적이고 반복 가능한 ML 운영(MLOps)을 지원합니다.1. 개념 및 정의 항목 설명 비고 정의TensorFlow 기반의 프로덕션 ML 파이프라인 플랫폼구글 개발목적데이터 처리, 학습, 검증, 배포까지 자동화엔드투엔드 지원필요성ML 모델의 프로덕션 운영 효율성 확보MLOps 핵심 구성요소산업 현장에서 재현성과 확장성을 보장하는 플랫폼입니다.2. 특징특징설명비교엔드투엔드 지원데이터 준비~모델 배포까지 지원Airflow, Kubeflow 등과 통합 가능표준화재현성과 일관된 파..

개요AI 모델을 실제 서비스에 적용하려면, 학습 이후 단계인 **추론(Inference)**을 빠르고 안정적으로 처리할 수 있어야 합니다. 이를 위한 대표적 오픈소스 플랫폼이 NVIDIA의 Triton Inference Server입니다. 다양한 프레임워크 모델을 일관된 방식으로 배포하고, GPU 및 CPU 리소스를 효율적으로 활용하며, 대규모 AI 추론 워크로드를 안정적으로 처리할 수 있는 서버입니다. 본 글에서는 Triton Inference Server의 구조, 기능, 장점 및 적용 사례를 상세히 살펴봅니다.1. 개념 및 정의Triton Inference Server는 NVIDIA가 개발한 범용 AI 추론 서버로, 다양한 딥러닝 프레임워크(PyTorch, TensorFlow, ONNX 등) 기반의 ..

개요TRADES는 딥러닝 모델의 일반화 성능과 적대적 견고성(robustness) 사이의 균형을 수학적으로 정립하고 이를 기반으로 훈련 전략을 구성한 방어 알고리즘입니다. 기존 Adversarial Training이 모델 정확도를 희생하며 견고성을 추구했던 반면, TRADES는 이 둘 사이의 트레이드오프를 명시적으로 고려하여 효과적인 방어를 구현합니다.1. 개념 및 정의TRADES(TRadeoff-inspired Adversarial DEfense via Surrogate-loss)는 정규화된 손실 함수를 통해 모델이 clean data(정상 입력)와 adversarial data(적대 입력) 모두에 대해 견고하게 작동하도록 학습시키는 방법입니다.목적: 모델의 일반화 능력과 적대 견고성 간의 균형 유지핵..

개요PGD(Projected Gradient Descent)는 딥러닝 모델에 대한 적대적 공격 기법 중 가장 강력하고 일반적인 방법으로, 반복적인 그래디언트 업데이트와 투영 과정을 통해 최적의 적대적 예제를 생성합니다. 본 글에서는 PGD의 이론적 원리와 수식, 주요 특징, 구현 방법, 실제 적용 사례 및 방어 전략 등을 포괄적으로 설명합니다.1. 개념 및 정의PGD는 입력 공간에서 손실 함수를 최대화하는 방향으로 여러 번 그래디언트를 계산하고, 그 결과를 원래 입력 범위로 투영하여 적대적 예제를 생성하는 공격 방식입니다. FGSM의 확장된 반복형으로도 간주됩니다.목적: 모델의 예측 취약성을 극대화하기 위한 고강도 테스트필요성: 실제 환경에서 AI 시스템의 보안성과 견고성 검증기반 원리: 경사하강법을 반..

개요FGSM(Fast Gradient Sign Method)은 적대적 예제를 생성하는 대표적인 공격 알고리즘으로, 딥러닝 모델의 입력에 미세한 노이즈를 추가해 잘못된 예측을 유도합니다. 이 글에서는 FGSM의 개념과 작동 원리, 수학적 정의, 적용 사례, 그리고 이를 방어하는 방법 등을 포괄적으로 설명합니다.1. 개념 및 정의FGSM은 입력 이미지에 작은 노이즈를 추가하여 딥러닝 모델이 잘못된 출력을 내도록 유도하는 적대적 공격 기법입니다. 이 노이즈는 손실 함수의 그래디언트를 활용하여 계산되며, 빠른 계산 속도와 단순한 구조가 특징입니다.목적: 딥러닝 모델의 취약점 식별 및 테스트기반 이론: 그래디언트 방향을 활용한 손실 함수 최대화주요 분야: 보안 테스트, 모델 검증, XAI 연구 등2. 특징 항목 ..

개요Integrated Gradients는 복잡한 딥러닝 모델의 예측 결과에 대한 신뢰할 수 있는 설명을 제공하는 기법입니다. 본 글에서는 이 기법의 개념, 수학적 기반, 주요 특징과 적용 사례를 중심으로 설명하며, XAI(Explainable AI)의 핵심 도구로서 Integrated Gradients가 왜 중요한지를 탐구합니다.1. 개념 및 정의Integrated Gradients는 입력의 각 피처가 모델의 출력에 미치는 영향을 정량적으로 계산하는 기법입니다. 기존의 그래디언트 기반 방법과 달리, 입력 값과 기준 값(baseline) 사이의 적분을 통해 더 안정적이고 해석 가능한 결과를 제공합니다.목적: 입력 피처의 중요도를 수치로 평가하여 모델의 판단 근거를 설명필요성: 딥러닝 모델의 블랙박스 문제..