개요GaLore(Gradient Low-Rank Adaptation)는 2024년 제안된 대규모 언어 모델(LLM) 및 딥러닝 모델의 학습 효율화 기술로, GPU 메모리 사용량을 크게 줄이면서도 기존 성능을 유지하거나 개선하는 저랭크(低秩) 기반 적응 학습(Low-Rank Adaptation) 방법이다. LoRA(Low-Rank Adaptation)의 발전형으로, 학습 중 **Gradient(기울기)**에 저랭크 근사(Low-Rank Approximation)를 적용해 메모리 및 계산 효율을 동시에 확보한다.1. 개념 및 정의GaLore는 모델 학습 단계에서 Gradient 행렬을 저랭크(Low-Rank) 형태로 분해하여, 학습 시 필요한 메모리 사용량과 연산량을 줄이는 방법이다. 이는 기존 LoRA가 ..