ITPE * JackerLab

개요Fabric-Attached Memory(FAM)는 CPU와 직접 연결되지 않고, 고속 패브릭(Fabric) 네트워크를 통해 여러 컴퓨팅 노드에서 공유/접근 가능한 메모리 아키텍처입니다. 이는 메모리와 컴퓨팅 리소스의 분리(disaggregation)를 가능하게 하여, 확장성과 유연성을 극대화하는 새로운 데이터 중심 컴퓨팅 모델을 실현합니다. FAM은 특히 고성능 컴퓨팅(HPC), 대규모 AI 분석, 데이터베이스, 인메모리 컴퓨팅 환경에서 각광받고 있습니다.1. 개념 및 정의Fabric-Attached Memory는 기존의 CPU 중심 메모리 구조와 달리, 메모리를 시스템 메모리가 아닌 네트워크를 통해 공유 자원처럼 사용하는 기술입니다. CPU, GPU, FPGA 등 다양한 연산 자원이 메모리 풀에 ..

개요AI 모델의 대형화, 고밀도 GPU 클러스터, HPC(High Performance Computing) 수요 증가에 따라 데이터센터는 기존 공냉 방식으로는 감당하기 어려운 고열밀도(Higher Heat Density) 문제에 직면하고 있습니다. 이에 대응하는 혁신 기술로 주목받는 것이 **Cold-Plate 기반 액침 냉각(Liquid Cooling)**입니다. 최근에는 이 기술이 **서비스 형태(aaS)**로 제공되는 Cold-Plate Liquid Cooling-as-a-Service(CPLaaS) 모델로 진화하고 있습니다. 이 글에서는 해당 기술의 개념, 구성, 도입 효과 및 전략적 의의에 대해 살펴봅니다.1. 개념 및 정의Cold-Plate Liquid Cooling은 금속 플레이트 내부를 흐..

개요반도체 소자의 고성능화와 집적도가 급격히 증가함에 따라, 칩 패키징 기술의 중요성이 날로 커지고 있습니다. 그중에서도 Glass-Core Substrate Packaging(글래스 코어 기판 패키징)은 고집적, 저전력, 고신뢰성 요구를 충족하는 차세대 패키징 솔루션으로 주목받고 있습니다. 유리(glass)를 코어로 사용하는 이 방식은 기존 유기물(Organic) 기반이나 세라믹 기반 패키징 대비 우수한 전기적·기계적 특성을 제공합니다.1. 개념 및 정의Glass-Core Substrate Packaging은 반도체 패키지의 중심 기판(core substrate)을 유리(glass) 재질로 대체한 고밀도 인터커넥트 패키징 기술입니다. 전통적으로는 BT(비스말레이드 트리아진)와 같은 유기기판이 사용되어 ..

개요**Compute Express Link(CXL)**는 고속, 저지연, 효율적인 CPU-가속기/메모리 간 상호 연결을 위한 개방형 인터페이스 표준으로, 인텔(Intel)을 중심으로 주요 반도체 기업들이 주도하고 있는 차세대 I/O 기술입니다. CXL은 PCIe 5.0 기반으로 설계되어 메모리 공유, 캐시 일관성 유지, 연산 자원의 유연한 확장을 가능하게 하며, AI/ML, HPC, 클라우드 환경에서 핵심 기술로 각광받고 있습니다.1. 개념 및 정의CXL은 CPU와 디바이스(메모리 확장 장치, GPU, SmartNIC 등) 간의 고속 데이터 전송 및 메모리 일관성 유지를 목표로 설계된 인터커넥트입니다. CXL은 세 가지 프로토콜을 하나의 물리적 인터페이스에서 지원합니다:CXL.io: PCIe와 동일한 ..

개요HBM3(High Bandwidth Memory 3)는 기존 DRAM 기술을 뛰어넘는 초고속, 고대역폭, 저전력 메모리 기술로서, AI, 고성능 컴퓨팅(HPC), 그래픽 처리, 데이터센터 분야의 차세대 워크로드를 위한 핵심 메모리로 부상하고 있습니다. HBM3는 JEDEC 표준 기반으로, HBM2E 대비 대역폭과 용량이 획기적으로 향상되었으며, GPU 및 DPU, AI 가속기에 통합되어 높은 연산 성능을 실현합니다.1. 개념 및 정의HBM3는 다층 3D TSV(Through-Silicon Via) 스택 구조를 기반으로 하는 고성능 DRAM 인터페이스 기술입니다. 메모리 다이를 수직으로 적층하고, 초고속 인터페이스를 통해 프로세서에 밀착 배치함으로써 기존 DDR 기반 메모리보다 수배 높은 대역폭을 제공..

개요메모리 공유 방식 분류는 다중 프로세서 또는 코어가 메모리 자원을 어떻게 접근하고 관리하는지에 따라 병렬 컴퓨팅 구조를 분류하는 체계입니다. 이는 병렬 시스템의 성능, 확장성, 프로그래밍 모델에 큰 영향을 미치며, 컴퓨터 아키텍처 설계 및 고성능 컴퓨팅(HPC) 구현 시 중요한 고려 요소로 작용합니다.1. 개념 및 정의메모리 공유 방식은 여러 처리 장치가 메모리를 공유하는 구조인지, 또는 각자 독립적인 메모리를 가지며 메시지를 통해 통신하는지에 따라 크게 **공유 메모리 모델(Shared Memory Model)**과 **분산 메모리 모델(Distributed Memory Model)**로 나뉘며, 최근에는 **하이브리드 모델(Hybrid Memory Model)**이 널리 사용되고 있습니다.2. 분..

개요병렬처리 컴퓨팅(Parallel Computing)은 대규모 연산 작업을 여러 개의 프로세서 또는 코어에 동시에 분산 처리하여 성능을 향상시키는 컴퓨팅 방식입니다. 과학 기술 계산, 인공지능, 그래픽 렌더링, 시뮬레이션 등 막대한 처리량이 요구되는 분야에서 핵심 기술로 자리 잡고 있으며, CPU와 GPU, 클러스터 및 클라우드 인프라까지 다양한 환경에서 적용되고 있습니다.1. 개념 및 정의병렬 컴퓨팅은 단일 작업을 여러 개의 작은 작업으로 나누어 동시에 실행하는 방식으로, 처리 시간을 줄이고 자원을 효율적으로 활용하는 것이 목적입니다. 이는 하드웨어 아키텍처와 소프트웨어 알고리즘이 유기적으로 작동해야 하며, 동기화 및 통신 비용도 함께 고려되어야 합니다.2. 특징 특징 설명 비고 다중 처리여러 프..

개요HPC(High-Performance Computing, 고성능 컴퓨팅)는 대규모 병렬 처리 시스템을 통해 복잡하고 방대한 계산을 신속히 수행하는 컴퓨팅 기술입니다. 과학 시뮬레이션, 기후 모델링, 인공지능, 생명공학 등 데이터 집약적 분야에 필수적이며, 그 정점에 있는 것이 바로 **엑사스케일 컴퓨팅(Exascale Computing)**입니다. 엑사스케일은 초당 10^18번의 연산(ExaFLOPS)을 처리할 수 있는 컴퓨팅 성능으로, 기존 페타스케일(10^15 FLOPS)을 넘어서는 차세대 슈퍼컴퓨터의 기준입니다.1. 개념 및 정의 용어 정의 HPC고성능 서버, 슈퍼컴퓨터, 클러스터를 활용해 대규모 병렬 처리를 수행하는 컴퓨팅 기술Exascale Computing초당 1엑사플롭스(10^18 FL..

개요High Bandwidth Memory(HBM)는 기존 DRAM보다 높은 대역폭과 낮은 전력 소비를 제공하는 고성능 메모리 기술입니다. HBM은 3D TSV(Through-Silicon Via) 기술을 이용하여 여러 개의 DRAM 다이를 수직으로 적층(stack)하여 높은 메모리 대역폭을 제공하며, GPU, AI/ML 가속기, 데이터센터, 고성능 컴퓨팅(HPC) 분야에서 널리 사용됩니다. 본 글에서는 HBM의 개념과 특징, 기존 메모리와의 비교, 주요 활용 사례 및 최신 트렌드를 살펴봅니다. 1. High Bandwidth Memory(HBM)란?HBM은 기존 DDR 및 GDDR 메모리의 대역폭 한계를 극복하기 위해 개발된 고속 메모리 기술입니다. HBM은 여러 개의 DRAM 다이를 적층하여 TSV ..