ITPE * JackerLab

개요Contriever는 Meta AI에서 개발한 비지도 학습 기반의 문서 임베딩 및 검색 모델로, 사전 학습(pretraining)만으로도 다양한 오픈 도메인 질문응답(Open-domain QA) 및 문서 검색(Doc Retrieval) 태스크에서 높은 성능을 보입니다. 기존의 Supervised Dense Retriever보다도 우수한 성능을 보이며, 별도의 라벨링 데이터 없이도 강력한 검색 품질을 제공합니다.1. 개념 및 정의 항목 설명 비고 정의Contriever는 contrastive learning 기반의 비지도 학습 문서 검색 모델Dense Passage Retriever 계열목적오픈 도메인 검색에서 고품질의 문서 검색을 비지도 학습만으로 구현Supervised 대비 비용 절감필요성라벨링..

개요Transformer 아키텍처는 현재 대규모 언어 모델의 핵심이지만, 긴 시퀀스 처리에서 비효율적이며 추론 속도와 메모리 요구량에 제약이 있습니다. 이러한 한계를 극복하기 위해 Meta AI에서 제안한 **RetNet(Retention Network)**은 트랜스포머의 장점을 유지하면서도 RNN 기반의 효율성과 병렬처리 가능성을 결합한 차세대 언어 모델 구조입니다. 본 글에서는 RetNet의 개념, 구조, 기술적 차별점, 그리고 응용 가능성을 심층적으로 살펴봅니다.1. 개념 및 정의**RetNet(Retention Network)**은 입력 토큰에 대한 정보를 상태로 유지하면서, 동적 가중치를 부여해 다음 토큰을 예측하는 새로운 시퀀스 모델입니다. 트랜스포머의 Self-Attention을 대체하기 위..

개요딥러닝의 발전과 함께 단일 입력 모달(예: 이미지, 텍스트)만을 처리하던 기존 모델에서 벗어나, 다양한 입력 모달을 통합적으로 이해하는 멀티모달 AI가 주목받고 있습니다. 그 중심에 있는 것이 바로 ImageBind입니다. Meta AI가 개발한 ImageBind는 이미지, 텍스트, 오디오, 깊이(Depth), IMU 센서, 열(Infrared) 등 **여섯 가지 모달을 하나의 임베딩 공간에 결합(Binding)**하는 최초의 오픈소스 멀티모달 프레임워크로, 추론 성능과 범용성에서 새로운 기준을 제시합니다.1. 개념 및 정의ImageBind는 다양한 입력 소스를 동일한 표현 공간에 매핑하여 서로 다른 모달 간의 의미적 연관성을 추론할 수 있도록 설계된 멀티모달 통합 모델입니다. 예를 들어, 사용자가 ..