ITPE * JackerLab

개요HBM4(High Bandwidth Memory 4)는 차세대 고대역폭 메모리로, 초고속 연산 성능이 요구되는 AI, HPC, 그래픽 환경을 위해 설계되었습니다. 여기에 Logic-on-Memory Stacking 기술을 접목하면, 로직 다이(Processor, Controller)를 메모리 스택 위에 수직 적층함으로써 데이터 병목을 줄이고, 면적 효율성과 전력 효율을 동시에 극대화할 수 있습니다.1. 개념 및 정의 항목 설명 HBM4JEDEC 기반의 4세대 고대역폭 메모리 표준Logic-on-Memory로직 회로를 메모리 위에 직접 적층하는 구조주요 목적대역폭 확대, 응답 지연 최소화, 패키지 집적도 향상이 조합은 AI/ML 추론과 훈련, 고속 시뮬레이션, 엣지 서버 등에서 핵심적인 구조로 떠오르..

개요AIB(Advanced Interface Bus)는 인텔(Intel)이 주도해 개발한 표준 칩렛 인터페이스로, 동일 패키지 내에서 칩 간(die-to-die) 통신을 위한 고속/저지연 버스 기술입니다. 2.5D 및 3D 패키징을 고려한 구조로서, 다양한 제조사의 칩렛 간 상호 운용성을 보장하며, 고성능/저전력 시스템 구현에 핵심적인 역할을 합니다.1. 개념 및 정의 항목 설명 정의칩렛 간 통신을 위한 개방형 고속 물리 인터페이스 규격목적이기종 칩렛 간 연결 표준화 및 다이 간 통신 최적화지원 구조2.5D interposer, EMIB(Embedded Multi-die Interconnect Bridge) 등AIB는 고집적 시스템 설계 시 설계 복잡성을 줄이고, 공급망 유연성을 확보하는 기반 기술입니..

개요Edge/Depth Conditioning Diffusion은 이미지 생성 AI 모델에 윤곽선(edge map) 또는 깊이 정보(depth map)를 조건(condition)으로 제공하여 더욱 정밀하고 현실감 있는 이미지를 생성할 수 있도록 하는 기술입니다. ControlNet을 비롯한 조건 기반 확산 모델들과 결합해 다양한 실무 응용이 가능하며, 특히 공간 정보 기반의 이미지 생성에서 높은 정확도를 제공합니다.1. 개념 및 정의 항목 설명 정의Edge map 또는 Depth map을 조건 입력으로 사용하여 이미지 생성 결과를 제어하는 확산 모델 기술목적구조, 형태, 원근 정보를 반영한 이미지 생성적용 방식조건 맵을 확산 모델에 추가로 주입하여 방향성 제어 강화이 기술은 생성 결과가 입력 조건을 정..

개요ControlNet은 이미지 생성 확산 모델(예: Stable Diffusion)에 다양한 조건 입력을 결합해 보다 정밀한 제어와 사용자 의도를 반영한 결과물을 생성할 수 있도록 하는 모델 구조입니다. 기존 텍스트 기반 프롬프트만으로는 제어가 어려웠던 위치, 윤곽, 포즈, 스타일 등 다양한 요소를 명시적으로 지정할 수 있어 생성형 AI의 실용성과 정밀도를 한 단계 끌어올렸습니다.1. 개념 및 정의 항목 설명 정의Pretrained Diffusion 모델에 조건 입력(Condition Map)을 삽입하여 출력 이미지를 제어하는 구조목적사용자 지정 조건(스케치, 포즈 등)을 반영한 이미지 생성접근 방식기존 모델의 파라미터는 고정, 조건 전용 Branch를 추가하여 연산 병렬화ControlNet은 Sta..

개요Semantic Kernel은 Microsoft가 개발한 오픈소스 SDK로, 대형 언어 모델(LLM)의 기능을 애플리케이션 내에서 플러그인 기반으로 손쉽게 활용할 수 있도록 돕는 AI 오케스트레이션 프레임워크입니다. Python과 C# 기반으로 개발되며, LLM, 플러그인, 사용자 정의 함수 등을 통합해 자연어 인터페이스 중심의 애플리케이션을 빠르게 구현할 수 있게 합니다.1. 개념 및 정의 항목 설명 정의LLM 기능을 함수 단위로 조합할 수 있는 AI 오케스트레이션 프레임워크목적텍스트 기반 자연어 명령을 다양한 기능 호출로 연결주요 언어Python, C# SDK 지원Semantic Kernel은 GPT 기반 LLM을 활용한 ‘AI 플러그인 엔진’으로 이해할 수 있습니다.2. 특징특징설명장점Func..

개요Embodied LLM은 언어 모델(LLM)에 시각 정보와 센서 데이터를 통합해 실세계 물리 환경에서 행동이 가능한 인공지능 시스템을 말합니다. 이는 단순한 질문 응답을 넘어, 로봇 제어, 현실 기반 작업 수행, 자연어 지시 이해와 같은 고차원적 인식-행동 통합 능력을 갖춘 모델로 진화하고 있습니다.1. 개념 및 정의 항목 설명 정의물리적 환경에서 멀티모달 정보를 처리하고 실질적인 행동을 생성하는 언어 모델핵심 요소언어 + 시각 + 센서 + 행동 시퀀스의 통합 처리진화 방향추상적 텍스트 처리 → 실세계 맥락 이해 및 행동 수행Embodied LLM은 AI가 단순한 텍스트 생성기를 넘어서 현실 환경에서 유의미한 행동을 수행할 수 있도록 합니다.2. 특징특징설명기존 LLM과의 차이점Multimodal ..

개요PaLM-E는 Google Research가 발표한 'Embodied Multimodal Language Model(VLM)'로, 로봇 제어 능력을 갖춘 대형 언어 모델입니다. Vision-Language-Action의 통합 아키텍처를 지향하며, 언어, 이미지, 센서 데이터를 동시에 처리하여 로봇에 직접적인 명령을 수행할 수 있는 특징을 갖습니다. 이는 기존 언어 모델과는 다른 실시간 상호작용 중심의 AI로서 새로운 진화를 예고합니다.1. 개념 및 정의 항목 내용 정의텍스트, 이미지, 로봇 센서 데이터를 입력으로 받아 언어 출력 및 로봇 행동 시퀀스를 생성하는 멀티모달 모델목표로봇이 사람의 명령을 언어와 시각정보로 이해하고 실세계에서 직접 실행 가능하게 함구성 기반PaLM (Language) + V..

개요DiT(Diffusion Transformer)는 이미지 생성 디퓨전 모델에서 기존 U-Net 구조를 Transformer로 대체하여 성능과 확장성을 개선한 새로운 구조입니다. 특히, Transformer의 표현력과 스케일업 가능성을 활용해 고해상도 이미지 생성, 안정적 학습 등에서 차별화된 성능을 보여주며, DALL·E 3 및 Stable Diffusion 3와 같은 최신 생성형 AI 시스템에 영향을 주고 있습니다.1. 개념 및 정의 항목 내용 정의디퓨전 노이즈 제거 네트워크에 Transformer를 적용한 모델목표기존 CNN 기반 U-Net 대비 더 강력한 표현력 확보특징Latent 디퓨전 과정에서 Transformer가 노이즈 예측을 수행DiT는 Diffusion 과정에서 일정 단계(times..

개요SparseGPT One-Shot Pruning은 사전 학습된 대형 언어 모델(LLM)을 희소화(sparsification)하여 연산량과 메모리 요구량을 줄이기 위한 혁신적인 기법입니다. 이 방법은 단 한 번의 forward pass만으로 전체 모델의 가중치를 효율적으로 제거하는 특징을 가지며, 복잡한 재학습(fine-tuning) 없이도 높은 정확도를 유지합니다.1. 개념 및 정의 항목 내용 정의One-shot 방식으로 파라미터를 희소화하는 LLM 전처리 기법목적모델 추론 속도 향상 및 메모리 사용량 감소방식단일 forward pass 기반 가중치 중요도 평가 후 pruning이 방식은 특히 학습 자원이 부족한 환경에서도 기존 GPT 모델을 경량화하여 빠르게 배포할 수 있게 합니다.2. 특징특징설..

개요Mamba는 2023년 후반 등장한 혁신적인 시퀀스 모델로, 기존 Transformer의 한계를 극복하며 긴 시퀀스 처리에 최적화된 새로운 아키텍처입니다. Attention 메커니즘 없이도 고성능을 달성할 수 있는 Selective State Space(Model)를 기반으로, 자연어 처리, 시계열 예측 등에서 강력한 성능을 보입니다.1. 개념 및 정의 항목 설명 정의Selective Structured State Space 모델 기반의 시퀀스 처리 신경망목적Attention 구조 없이도 긴 시퀀스 모델링 가능하게 함핵심 목표Transformer보다 빠르고, 메모리 효율적인 대안 모델 제공Mamba는 기존의 Transformer 구조가 가지는 O(n^2) 복잡도를 벗어나 선형 시간 처리 구조를 기반..

개요State-Space Model(상태공간 모델)은 시간에 따라 변화하는 시스템의 동작을 수학적으로 설명하기 위한 모델로, 공학, 제어 이론, 경제학, 신호처리 등 다양한 분야에서 널리 사용됩니다. 이 모델은 시스템의 입력, 상태, 출력 간의 관계를 행렬 형태로 기술하여 복잡한 동적 시스템을 효과적으로 분석하고 제어할 수 있도록 합니다.1. 개념 및 정의 항목 내용 정의시스템의 상태(state)와 그 변화에 따른 출력을 기술하는 수학 모델목적시간에 따라 변화하는 시스템을 분석하고 제어하기 위함배경선형시불변(LTI) 시스템 이론에 기반한 동적 시스템 모델링 방식State-Space Model은 전통적인 전달함수 방식보다 유연성이 높고, 다변량 시스템에 적합하다는 점에서 제어 이론의 핵심 기법으로 자리잡..

개요Direct Preference Optimization(DPO)는 사용자 피드백 또는 선호 데이터를 직접 활용하여 AI 모델의 행동을 조정하는 최신 최적화 기법입니다. 기존의 강화 학습 방식(RLHF)보다 단순하고 효율적으로 사용자 만족도를 높일 수 있어, AI 모델의 성능을 한 차원 끌어올리는 방식으로 주목받고 있습니다.1. 개념 및 정의 항목 내용 정의사용자 선호(preference)에 기반해 AI 모델의 출력을 직접 최적화하는 방법목적사용자의 기대에 더 부합하는 응답을 생성하는 모델 훈련필요성RLHF의 복잡성과 비용 문제를 해결하고, 보다 정교한 사용자 맞춤 응답 제공DPO는 복잡한 보상 모델 없이도 AI 응답의 질을 향상시키는 방식으로, ChatGPT 등 대규모 언어모델(LLM) 튜닝에 효과..