ITPE * JackerLab

개요LlamaIndex(구 GPT Index)는 LLM(Large Language Model)이 외부 데이터와 효율적으로 상호작용할 수 있도록 돕는 데이터 프레임워크이다. 문서, 데이터베이스, API 등 다양한 데이터 소스를 연결하고, 인덱싱 및 검색 기능을 제공하여 RAG(Retrieval-Augmented Generation) 파이프라인 구축에 최적화되어 있다.1 항목 내용 설명 정의LlamaIndexLLM 기반 데이터 검색·통합 프레임워크목적외부 데이터와 LLM 연결RAG 기반 응답 품질 향상필요성LLM의 지식 한계 극복최신 데이터 검색 및 활용LlamaIndex는 LLM이 정적 파라미터 지식을 넘어 동적 데이터와 상호작용할 수 있게 한다.2. 특징특징설명비고다양한 데이터 소스 연동PDF, DB..

개요Milvus는 대규모 벡터 데이터를 효율적으로 저장하고 고속으로 검색할 수 있는 오픈소스 벡터 데이터베이스입니다. 인공지능(AI), 추천 시스템, 자연어 처리(NLP), 이미지 검색 등에서 사용되는 고차원 벡터 데이터를 위한 특화된 인프라로, 비정형 데이터에 대한 유사성 검색(Approximate Nearest Neighbor, ANN)을 지원합니다. Milvus는 Zilliz에 의해 개발되었으며, LF AI & Data 재단의 프로젝트로 채택되어 활발히 발전하고 있습니다.1. 개념 및 정의 항목 설명정의Milvus는 벡터 데이터의 저장, 색인, 검색을 위한 분산형 오픈소스 벡터 DB입니다.목적고차원 벡터의 유사성 검색을 빠르고 정확하게 처리하기 위함필요성기존 RDBMS로는 불가능한 벡터 기반의 대규..

개요Generative AI 시대에서 정보 기반 응답 시스템의 정확성과 효율성을 향상시키기 위해 Retrieval-Augmented Generation(RAG)이 주목받고 있습니다. 그러나 수동으로 구축되는 RAG 파이프라인은 복잡하고 비효율적일 수 있으며, 운영과 유지 관리의 부담이 큽니다. 이러한 한계를 극복하기 위한 진화형 접근 방식이 Auto-RAG Pipeline(ARAG)입니다. ARAG는 RAG의 전 과정을 자동화하여 지식 수집, 임베딩 생성, 쿼리 처리, 응답 생성을 통합적이고 반복 가능하게 수행하는 프레임워크입니다. 본 포스트에서는 Auto-RAG의 개념, 구성, 기술적 특징, 주요 장점과 실제 적용 사례까지 상세히 다룹니다.1. 개념 및 정의Auto-RAG Pipeline(ARAG)은 ..