ITPE * JackerLab

개요LlamaIndex(구 GPT Index)는 LLM(Large Language Model)이 외부 데이터와 효율적으로 상호작용할 수 있도록 돕는 데이터 프레임워크이다. 문서, 데이터베이스, API 등 다양한 데이터 소스를 연결하고, 인덱싱 및 검색 기능을 제공하여 RAG(Retrieval-Augmented Generation) 파이프라인 구축에 최적화되어 있다.1 항목 내용 설명 정의LlamaIndexLLM 기반 데이터 검색·통합 프레임워크목적외부 데이터와 LLM 연결RAG 기반 응답 품질 향상필요성LLM의 지식 한계 극복최신 데이터 검색 및 활용LlamaIndex는 LLM이 정적 파라미터 지식을 넘어 동적 데이터와 상호작용할 수 있게 한다.2. 특징특징설명비고다양한 데이터 소스 연동PDF, DB..

개요LLMOps는 LLM(Large Language Models) 기반 애플리케이션을 개발, 배포, 모니터링, 최적화하는 전체 수명 주기를 관리하는 운영 프레임워크이다. 기존 MLOps의 확장된 개념으로, LLM 특유의 대규모 파라미터, 프롬프트 관리, 레이턴시 대응, 평가 지표 등의 요구를 반영한다. GenAI 시대의 AI 운영 패러다임으로 주목받고 있다.1. 개념 및 정의 항목 내용 정의LLM 기반 시스템의 훈련, 배포, 프롬프트 관리, 성능 모니터링 등을 포함하는 엔드투엔드 운영 체계목적LLM 서비스 품질 보장, 비용 효율화, 사용자 경험 최적화구성 범위프롬프트 엔지니어링, 파인튜닝, 캐시, 보안·감사, A/B 테스트 등 포함LLMOps는 단순 모델 배포를 넘어서, 대규모 모델 특화 운영 자동화에..