DPR(Dense Passage Retrieval)

개요

DPR(Dense Passage Retrieval)은 Facebook AI에서 개발한 대표적인 Supervised Dense Retriever로, 질문과 문서를 각각 임베딩한 후 벡터 간 유사도를 기반으로 관련 문서를 검색하는 방식입니다. 특히 오픈 도메인 질문응답(Open-domain QA) 시스템에서 정답이 포함된 문서를 빠르게 찾아주는 핵심 컴포넌트로 널리 활용되고 있습니다.

---

1. 개념 및 정의

항목	설명	비고
정의	질문과 문서를 각각 벡터로 임베딩하여 유사도 기반 검색을 수행하는 모델	Dense Retriever의 대표 주자
목적	QA 시스템에서 정확한 정답이 포함된 문서 빠르게 검색	Sparse 방식 대비 효율성 향상
필요성	정밀한 정보검색이 필요한 QA 시스템에서 높은 정확도 요구	대규모 문서에서도 실시간 검색 가능

---

2. 특징

항목	설명	비교
Supervised 학습	질문-문서 페어 라벨을 기반으로 학습	Contriever는 unsupervised 방식
Dual Encoder 구조	질문과 문서를 독립적으로 인코딩	실시간 검색 효율 높음
문맥 이해력 향상	BERT 기반으로 깊은 의미 파악 가능	TF-IDF 등 기존 방식보다 정밀함

DPR은 높은 정확도와 빠른 검색 속도를 모두 만족하는 구조를 가짐

---

3. 구성 요소

구성 요소	설명	역할
Query Encoder	입력 질문을 벡터로 임베딩	Dense vector 추출
Passage Encoder	문서를 벡터로 임베딩	쿼리와 동일한 임베딩 공간
Negative Sampling	Hard negative를 포함한 학습 전략	정확한 모델 학습 가능

Dual Encoder 구조를 통해 독립적인 인코딩과 빠른 벡터 매칭이 가능

---

4. 기술 요소

기술 요소	설명	비고
BERT 기반 Transformer	Pretrained BERT 활용	huggingface 모델 확장 가능
Dot Product Similarity	쿼리와 문서 벡터 간 유사도 계산	효율적 검색 구현
FAISS 연동	Facebook AI가 개발한 벡터 검색 라이브러리	고속 벡터 검색 지원

Dense 임베딩 기반 구조로 IR 효율성과 정확도 향상

---

5. 장점 및 이점

항목	설명	기대 효과
빠른 검색 성능	사전 인코딩된 벡터 사용	실시간 대규모 검색 가능
정확도 향상	의미 기반 유사도 계산	정답 문서 포함 확률 증가
QA 최적화	질문응답 시스템에 특화된 구조	End-to-End 파이프라인 구현

실시간 응답이 중요한 시스템에 적합한 정보 검색 모델

---

6. 주요 활용 사례 및 고려사항

항목	설명	적용 예시
오픈 도메인 QA	질문에 대해 관련 문서를 빠르게 반환	Google NQ, TriviaQA 등 벤치마크
내부 지식검색	기업 내 문서 검색 시스템	고객지원, 기술문서 검색 등
멀티모달 연계	텍스트 외 다른 모달 연계 가능	영상 설명, 이미지 기반 QA 등

Hard negative 선택과 도메인 적합한 튜닝 전략이 중요

---

결론

DPR은 오픈 도메인 질문응답 시스템의 핵심 기술로 자리 잡았으며, Supervised 학습 기반으로 높은 정확도와 효율적인 검색 성능을 동시에 만족합니다. 특히 실시간성과 정밀도가 중요한 검색 시스템에서 뛰어난 성능을 발휘하며, 다양한 도메인 및 응용 시스템에 쉽게 통합 가능한 확장성을 제공합니다.