ITPE * JackerLab

개요AI, HPC, 데이터센터 워크로드가 폭발적으로 증가하면서 단일 SoC(System on Chip)의 한계를 넘어서기 위한 칩렛 기반 아키텍처가 급부상하고 있다. 칩렛은 기능별 반도체 블록을 조합하여 하나의 시스템을 구성하는 방식으로, 설계 유연성과 제조 효율을 동시에 제공한다. 이러한 칩렛 간 연결에서 핵심적인 기술이 바로 **NVIDIA NVLink-C2C (Chip-to-Chip)**이다.NVC2C는 NVIDIA가 2023년 발표한 초고속, 저지연 칩렛 인터커넥트 기술로, 멀티 칩렛 기반 GPU 및 CPU-GPU 통합 칩에서 초고속 데이터 교환을 실현한다. 이는 AI 슈퍼컴퓨팅, 차세대 데이터센터 플랫폼, 고성능 엣지 디바이스의 핵심 인프라로 자리잡고 있다.1. 개념 및 정의 항목 설명 정의N..

개요HBM(High Bandwidth Memory) 시리즈는 TSV(Through-Silicon Via) 기반 3D 스택 DRAM 기술로, 고대역폭과 낮은 지연 시간, 높은 전력 효율을 특징으로 합니다. HBM1부터 최신 HBM3E까지, 세대별 발전을 거듭하며 AI, HPC, 그래픽, 네트워크 장비 등 다양한 고성능 시스템에 적용되고 있습니다. 본 글에서는 각 HBM 세대의 특징, 기술 변화, 활용 환경을 정리합니다.1. 개념 및 정의HBM 시리즈는 기존 DDR DRAM 구조와 달리, 메모리 다이를 수직으로 적층하고 인터포저를 통해 프로세서와 근접 연결하는 방식의 고성능 메모리입니다. 병렬성이 극대화된 구조로 인해, 대역폭과 전력 효율이 매우 뛰어난 것이 특징입니다.기반 기술: TSV, 인터포저(CoWo..

개요HBM3(High Bandwidth Memory 3)는 기존 DRAM 기술을 뛰어넘는 초고속, 고대역폭, 저전력 메모리 기술로서, AI, 고성능 컴퓨팅(HPC), 그래픽 처리, 데이터센터 분야의 차세대 워크로드를 위한 핵심 메모리로 부상하고 있습니다. HBM3는 JEDEC 표준 기반으로, HBM2E 대비 대역폭과 용량이 획기적으로 향상되었으며, GPU 및 DPU, AI 가속기에 통합되어 높은 연산 성능을 실현합니다.1. 개념 및 정의HBM3는 다층 3D TSV(Through-Silicon Via) 스택 구조를 기반으로 하는 고성능 DRAM 인터페이스 기술입니다. 메모리 다이를 수직으로 적층하고, 초고속 인터페이스를 통해 프로세서에 밀착 배치함으로써 기존 DDR 기반 메모리보다 수배 높은 대역폭을 제공..