ITPE * JackerLab

개요NVSwitch는 NVIDIA가 설계한 고속 GPU 인터커넥트 스위치로, 복수의 GPU를 단일 시스템 내에서 **풀 메쉬(Fully Connected Topology)**로 연결하여 고속 데이터 전송을 실현하는 핵심 기술입니다. 기존 NVLink보다 더욱 확장성 있고, 고대역폭 연결이 가능해 AI 모델 학습, HPC, 클라우드 데이터센터 환경에서 핵심적 역할을 수행합니다.1. 개념 및 정의NVSwitch는 NVIDIA의 고성능 스위칭 ASIC으로, 다수의 GPU를 고속으로 상호 연결하여 마치 하나의 통합 메모리 공간처럼 작동할 수 있도록 지원하는 장치입니다.목적: GPU 간 병렬 작업에서 발생하는 대역폭 병목 해결필요성: AI, 시뮬레이션, 과학계산 등에서 메모리 공유 및 대규모 연산 처리 가속화기반..

개요메모리 공유 방식 분류는 다중 프로세서 또는 코어가 메모리 자원을 어떻게 접근하고 관리하는지에 따라 병렬 컴퓨팅 구조를 분류하는 체계입니다. 이는 병렬 시스템의 성능, 확장성, 프로그래밍 모델에 큰 영향을 미치며, 컴퓨터 아키텍처 설계 및 고성능 컴퓨팅(HPC) 구현 시 중요한 고려 요소로 작용합니다.1. 개념 및 정의메모리 공유 방식은 여러 처리 장치가 메모리를 공유하는 구조인지, 또는 각자 독립적인 메모리를 가지며 메시지를 통해 통신하는지에 따라 크게 **공유 메모리 모델(Shared Memory Model)**과 **분산 메모리 모델(Distributed Memory Model)**로 나뉘며, 최근에는 **하이브리드 모델(Hybrid Memory Model)**이 널리 사용되고 있습니다.2. 분..

개요NUMA(Non-Uniform Memory Access)는 다중 프로세서 시스템에서 각 CPU가 로컬 메모리에 빠르게 접근하고, 다른 CPU의 메모리에 상대적으로 느리게 접근하는 메모리 구조입니다. 고성능 컴퓨팅, 대형 서버, 클라우드 시스템에서 처리 성능과 확장성을 높이기 위해 필수적인 아키텍처입니다.1. 개념 및 정의NUMA는 SMP(Symmetric Multi-Processing)의 확장된 형태로, CPU마다 고유의 메모리 영역(Node)을 갖고 있습니다. 각 CPU는 자신의 로컬 메모리에는 빠르게 접근할 수 있지만, 다른 CPU의 메모리(Node)에 접근할 경우 상대적으로 긴 지연 시간(latency)이 발생합니다. 이는 메모리 접근 속도의 '비균일성(Non-Uniform)'에서 유래한 용어입..