ITPE * JackerLab

개요대규모 언어 모델(LLM)이 혁신적 성능을 보이며 다양한 산업에서 활용되고 있지만, 계산 자원 요구량이 크고, 배포 및 운영에 어려움이 따르는 것이 현실입니다. 이에 대한 대안으로 주목받고 있는 것이 바로 **SLM(Small Language Model)**입니다. SLM은 파라미터 수를 줄이고 목적 지향적으로 설계된 경량 언어 모델로, 에지 컴퓨팅, 로컬 환경, 특정 도메인 활용에 최적화되어 점차 활용 범위를 넓혀가고 있습니다.1. 개념 및 정의SLM(Small Language Model)은 수억~수십억 개의 파라미터 수준으로 구성된 소형 언어 모델을 의미하며, GPT-4, LLaMA-3 등의 LLM과 비교해 경량화, 저전력, 빠른 추론 속도에 초점을 맞춘 자연어 처리 모델군입니다.SLM은 ‘범용’..

개요클라우드 네이티브 컴퓨팅이 컨테이너와 쿠버네티스를 중심으로 진화함에 따라, **WebAssembly (Wasm)**는 경량화와 보안성 측면에서 주목받고 있다. 특히 에지 컴퓨팅과 IoT 환경에서는 컨테이너보다 가볍고 빠른 실행 환경이 요구되며, 이를 가능하게 하는 대표적인 기술이 WasmEdge다.**WasmEdge Device Plugin(WasmEdge DP)**은 쿠버네티스 환경에서 WebAssembly 워크로드를 안전하고 고성능으로 실행할 수 있도록 지원하는 장치 플러그인이다. 쿠버네티스와의 통합을 통해 WebAssembly를 네이티브 워크로드처럼 취급할 수 있게 하며, 에지 환경의 성능과 확장성을 극대화한다.1. 개념 및 정의 항목 설명 정의WasmEdge DP는 Kubernetes에서 W..

개요FHE-ML은 사용자의 민감 데이터를 암호화된 상태로 유지한 채 머신러닝 추론을 수행할 수 있도록 해주는 기술로, ‘완전동형암호(Fully Homomorphic Encryption, FHE)’와 ‘인공지능 추론(Inference)’의 융합 모델입니다. 특히 헬스케어, 금융, 공공 데이터 등 고보안·고프라이버시 환경에서의 AI 활용을 가능하게 합니다.1. 개념 및 정의Fully Homomorphic Encryption은 데이터를 복호화하지 않고도 산술 연산이 가능한 암호 기술입니다. FHE-ML은 이 기술을 활용하여 AI 모델이 암호화된 데이터를 직접 추론하는 구조를 의미합니다.FHE 기본 원리: 암호화된 입력 + 암호화된 연산 = 암호화된 출력Inference 융합: 모델 자체 혹은 추론 연산을 암호..