ITPE * JackerLab

개요BFV(Braithwaite–Fan–Vercauteren)는 정수 기반 연산을 지원하는 대표적인 동형암호(Homomorphic Encryption, HE) 방식 중 하나입니다. 민감한 데이터를 암호화된 상태에서 덧셈과 곱셈 연산을 직접 수행할 수 있으며, 의료, 금융, 공공 데이터 분석에서 개인정보 보호와 데이터 활용을 동시에 달성하는 데 활용됩니다. CKKS와 달리 근사 계산이 아닌 정확한 정수 연산을 지원합니다.1. 개념 및 정의 항목 설명 정의BFV는 정수 연산에 특화된 동형암호 스킴으로, 암호화된 데이터에 대해 정확한 연산 가능목적암호화된 데이터 처리에서 정확성 보장필요성민감한 데이터를 복호화하지 않고 안전하게 분석할 필요성 증대데이터 프라이버시와 정확한 연산을 동시에 충족하는 암호화 기법입..

개요CKKS(Cheon–Kim–Kim–Song)는 근사(Approximate) 암호화를 지원하는 동형암호(Homomorphic Encryption, HE) 체계로, 실수/복소수 벡터 연산을 암호화된 상태에서 근사적으로 수행할 수 있도록 설계되었습니다. 이를 통해 데이터 프라이버시를 유지하면서 머신러닝, 통계 분석, 금융 데이터 처리 등에서 안전한 계산을 가능하게 합니다.1. 개념 및 정의 항목 설명 정의CKKS는 근사 계산을 지원하는 동형암호 방식으로, 실수 기반 암호 연산을 가능하게 함목적암호화된 데이터에 대한 연산 수행을 통한 개인정보 보호필요성머신러닝/AI 모델 학습과 예측 과정에서 민감 데이터 보호 요구 증가데이터 활용과 프라이버시 보호를 동시에 달성하는 차세대 암호화 기법입니다.2. 특징특징설..

개요Medusa는 LLM(Large Language Model) 추론 속도를 가속화하기 위해 설계된 멀티 디코딩(Multi-decoding) 프레임워크입니다. 기존의 토큰 단위 디코딩 방식을 개선하여, 여러 개의 후보 토큰 시퀀스를 동시에 예측하고 검증함으로써 추론 효율성을 크게 향상시킵니다. 이는 특히 대규모 언어 모델에서 응답 지연(latency)을 줄이고, 실시간 응용 서비스(예: 챗봇, 검색, 추천 시스템)에서 뛰어난 성능을 발휘합니다.1. 개념 및 정의 항목 설명 정의Medusa는 멀티 디코딩 헤드를 추가하여 LLM의 토큰 생성 속도를 가속화하는 프레임워크입니다.목적LLM 추론 시 토큰 단위 생성의 병목 현상을 완화필요성대규모 모델일수록 응답 시간이 길어 실시간 응용에서 제약 발생LLM의 대화..

개요FlashAttention-3(FA-3)은 GPU에서 Transformer 모델의 어텐션 연산을 극한까지 최적화한 고성능 커널입니다. 기존의 FlashAttention 시리즈를 계승하여, 더 넓은 범위의 시나리오(예: Multi-query attention, grouped query attention 등)를 지원하며, 고속 처리와 낮은 메모리 사용량을 동시에 달성합니다. OpenAI, Meta, NVIDIA 등의 대형 LLM 연구에 필수적으로 적용되고 있으며, HuggingFace Transformers와도 완전하게 통합됩니다.1. 개념 및 정의항목설명정의FlashAttention-3는 GPU에서 어텐션 연산을 빠르게 수행하기 위한 CUDA 기반 커널입니다.목적Transformer 모델의 학습 속도 ..