ITPE * JackerLab

개요ColPali(Collaborative Parallel Learning)는 최신 인공지능 학습 구조 중 하나로, **대규모 모델의 병렬 학습과 협업 학습(Collaborative Learning)**을 결합하여 효율적인 분산 트레이닝을 구현하는 기법이다. 이 방식은 여러 GPU/노드가 독립적으로 학습하면서도 상호 정보를 공유해, 성능과 학습 안정성을 동시에 확보할 수 있다.ColPali는 기존의 Data Parallelism 및 Model Parallelism 한계를 극복하고, 각 학습 노드 간 협업적 업데이트를 통해 더 빠르고 효율적인 학습을 지원한다.1. 개념 및 정의ColPali는 이름 그대로 Collaborative(협업적) + Parallel(병렬적) 학습 개념을 결합한 프레임워크다. 각 노..

개요GaLore(Gradient Low-Rank Adaptation)는 2024년 제안된 대규모 언어 모델(LLM) 및 딥러닝 모델의 학습 효율화 기술로, GPU 메모리 사용량을 크게 줄이면서도 기존 성능을 유지하거나 개선하는 저랭크(低秩) 기반 적응 학습(Low-Rank Adaptation) 방법이다. LoRA(Low-Rank Adaptation)의 발전형으로, 학습 중 **Gradient(기울기)**에 저랭크 근사(Low-Rank Approximation)를 적용해 메모리 및 계산 효율을 동시에 확보한다.1. 개념 및 정의GaLore는 모델 학습 단계에서 Gradient 행렬을 저랭크(Low-Rank) 형태로 분해하여, 학습 시 필요한 메모리 사용량과 연산량을 줄이는 방법이다. 이는 기존 LoRA가 ..