NUMA (Non-Uniform Memory Access)

개요

NUMA(Non-Uniform Memory Access)는 다중 프로세서 시스템에서 각 CPU가 로컬 메모리에 빠르게 접근하고, 다른 CPU의 메모리에 상대적으로 느리게 접근하는 메모리 구조입니다. 고성능 컴퓨팅, 대형 서버, 클라우드 시스템에서 처리 성능과 확장성을 높이기 위해 필수적인 아키텍처입니다.

---

1. 개념 및 정의

NUMA는 SMP(Symmetric Multi-Processing)의 확장된 형태로, CPU마다 고유의 메모리 영역(Node)을 갖고 있습니다. 각 CPU는 자신의 로컬 메모리에는 빠르게 접근할 수 있지만, 다른 CPU의 메모리(Node)에 접근할 경우 상대적으로 긴 지연 시간(latency)이 발생합니다. 이는 메모리 접근 속도의 '비균일성(Non-Uniform)'에서 유래한 용어입니다.

---

2. 특징

항목	설명	비고
메모리 접근 지연 시간	로컬 메모리는 빠르고 원격 메모리는 느림	메모리 최적 배치 중요
높은 확장성	CPU와 메모리를 Node 단위로 확장 가능	서버 및 클러스터 환경 적합
병렬 처리 성능 향상	CPU가 병렬로 처리 가능한 구조	NUMA-aware 설계 필요

SMP 구조 대비 확장성과 병렬성이 뛰어나지만, 메모리 접근 경로의 설계가 성능에 큰 영향을 미칩니다.

---

3. 구성 요소

구성 요소	설명	예시
NUMA Node	CPU + 로컬 메모리로 구성된 단위	2소켓 서버에서 2개 Node
Memory Controller	각 Node 내 메모리 접근을 제어	인텔 QPI, AMD Infinity Fabric
NUMA 인터커넥트	Node 간 데이터 전송 경로	NUMALink, HyperTransport 등

NUMA 구성 시 Node 간 연결 품질과 대역폭이 전체 시스템 성능을 좌우합니다.

---

4. 기술 요소

기술 요소	설명	관련 기술
NUMA-aware 스케줄링	OS가 프로세스를 로컬 Node에 배치	Linux의 numactl, Windows Group Policy
메모리 바인딩	특정 메모리에 프로세스 데이터를 고정	NUMA API, libnuma 라이브러리
캐시 코히어런시	CPU 간 메모리 상태 동기화 유지	MESI 프로토콜 등

운영체제와 소프트웨어가 NUMA 구조를 인식하고 최적화하도록 구성해야 성능을 극대화할 수 있습니다.

---

5. 장점 및 이점

장점	설명	효과
고속 메모리 접근	로컬 메모리를 활용한 빠른 연산	실시간 처리 능력 강화
확장성 우수	CPU 및 메모리 추가 용이	대규모 시스템 구현 가능
에너지 효율성	로컬 자원 활용 극대화로 전력 절감	친환경 서버 설계 가능

대규모 데이터 처리, 고성능 DB, AI 연산 등에서 NUMA 구조는 성능 최적화에 유리합니다.

---

6. 주요 활용 사례 및 고려사항

분야	활용 사례	고려사항
클라우드 데이터센터	고성능 VM 배치 최적화	NUMA-aware 가상화 기술 필요
머신러닝 / HPC	대규모 병렬 연산 처리	스레드-메모리 바인딩 최적화
대형 DBMS	Oracle, SQL Server에서 메모리 접근 최적화	NUMA partitioning 전략 사용

NUMA 환경에선 프로세스와 메모리 위치가 멀어질수록 성능 저하가 심하므로, OS 및 애플리케이션 최적화가 핵심입니다.

---

7. 결론

NUMA는 고성능 컴퓨팅 환경에서 병목 현상을 줄이고 처리 성능을 극대화하기 위한 필수 아키텍처입니다. 현대 서버 및 클라우드 플랫폼은 NUMA 기반 구조를 채택하며, 이를 효율적으로 활용하려면 NUMA-aware한 설계 및 운영이 중요합니다. 향후에는 NUMA 구조가 AI, 데이터 분석, 엣지 컴퓨팅 등에서도 더욱 중요한 역할을 하게 될 것입니다.