728x90
반응형

ai 인프라 4

Compute Express Link 3.1 (CXL 3.1)

개요CXL 3.1은 Compute Express Link(CXL) 표준의 최신 버전으로, 더 빠른 속도, 향상된 메모리 공유 모델, 고도화된 패브릭 아키텍처를 제공하여 고성능 컴퓨팅(HPC), AI/ML, 클라우드 데이터센터의 요구를 충족합니다. CXL 3.0의 주요 기능을 계승하면서도, 성능과 확장성을 극대화하기 위해 새로운 링크 프로토콜, 패브릭 관리 기능, 다중 토폴로지 지원 기능 등을 추가한 것이 특징입니다.1. 개념 및 정의CXL 3.1은 CPU, GPU, 메모리, DPU 등의 이기종 컴퓨팅 자원을 하나의 논리적 시스템처럼 구성할 수 있는 고속, 저지연 연결 패브릭을 구현합니다. 이 버전은 PCIe 6.0 기반 물리 계층 위에서 동작하며, 다음과 같은 핵심 개념을 강화합니다:패브릭 통신(Fabr..

Topic 2025.05.17

Compute Express Link (CXL)

개요**Compute Express Link(CXL)**는 고속, 저지연, 효율적인 CPU-가속기/메모리 간 상호 연결을 위한 개방형 인터페이스 표준으로, 인텔(Intel)을 중심으로 주요 반도체 기업들이 주도하고 있는 차세대 I/O 기술입니다. CXL은 PCIe 5.0 기반으로 설계되어 메모리 공유, 캐시 일관성 유지, 연산 자원의 유연한 확장을 가능하게 하며, AI/ML, HPC, 클라우드 환경에서 핵심 기술로 각광받고 있습니다.1. 개념 및 정의CXL은 CPU와 디바이스(메모리 확장 장치, GPU, SmartNIC 등) 간의 고속 데이터 전송 및 메모리 일관성 유지를 목표로 설계된 인터커넥트입니다. CXL은 세 가지 프로토콜을 하나의 물리적 인터페이스에서 지원합니다:CXL.io: PCIe와 동일한 ..

Topic 2025.05.17

NVSwitch

개요NVSwitch는 NVIDIA가 설계한 고속 GPU 인터커넥트 스위치로, 복수의 GPU를 단일 시스템 내에서 **풀 메쉬(Fully Connected Topology)**로 연결하여 고속 데이터 전송을 실현하는 핵심 기술입니다. 기존 NVLink보다 더욱 확장성 있고, 고대역폭 연결이 가능해 AI 모델 학습, HPC, 클라우드 데이터센터 환경에서 핵심적 역할을 수행합니다.1. 개념 및 정의NVSwitch는 NVIDIA의 고성능 스위칭 ASIC으로, 다수의 GPU를 고속으로 상호 연결하여 마치 하나의 통합 메모리 공간처럼 작동할 수 있도록 지원하는 장치입니다.목적: GPU 간 병렬 작업에서 발생하는 대역폭 병목 해결필요성: AI, 시뮬레이션, 과학계산 등에서 메모리 공유 및 대규모 연산 처리 가속화기반..

Topic 2025.05.06

NVLink

개요NVLink는 NVIDIA가 개발한 고속 GPU 인터커넥트 기술로, GPU 간 및 GPU-CPU 간 대역폭과 효율성을 획기적으로 향상시키는 것을 목표로 합니다. 기존의 PCIe 인터페이스의 한계를 극복하고, 대규모 병렬 컴퓨팅 환경에서 탁월한 성능을 발휘하며, AI, HPC(High Performance Computing), 데이터센터 환경에서 핵심적인 역할을 합니다.1. 개념 및 정의NVLink는 NVIDIA GPU 및 CPU 간의 고대역폭, 저지연의 직렬 인터커넥트 기술입니다. 멀티 GPU 환경에서 더 빠른 메모리 공유와 동기화가 가능하도록 설계되어, 데이터 병목을 최소화하고 GPU 간 협업 처리를 원활하게 해줍니다.목적: PCIe 대비 높은 대역폭을 제공하여 GPU 간 병렬 작업 최적화필요성: ..

Topic 2025.05.06
728x90
반응형