RAG PIPELINE
RAG 파이프라인
문서 인제스트부터 청킹, 임베딩,
검색, 생성까지.
엔터프라이즈 RAG의 전 과정을
하나의 파이프라인으로 구성합니다.
외부 API 없이, 온프레미스에서
완결되는 RAG 시스템.
Ollama + Bubble Embedding +
MonolithDB로 구성하여
데이터가 내부 네트워크를
벗어나지 않습니다.
PIPELINE
6단계 파이프라인
STEP 05
Retrieve
하이브리드 검색(시맨틱 + BM25)으로 질문에 가장 관련 높은 청크를 검색합니다.
STEP 06
Generate
검색된 컨텍스트를 LLM에 전달하여 답변을 생성합니다. Ollama 기반 온프레미스 추론.
FEATURES
핵심 기능
Fallback Chain
기본 모델 실패 시 대체 모델로 자동 전환합니다. 서비스 안정성을 보장합니다.
High AvailabilityAuto Failover
Context Builder
검색 결과를 LLM 컨텍스트 윈도우에 맞게 자동 구성하고 압축합니다.
Token EstimationCompression
Retrieval Evaluator
Recall@K, Precision, MRR 등 검색 품질 메트릭을 자동 측정합니다.
EvaluationMetrics
Embed Cache
동일 텍스트의 중복 임베딩을 방지합니다. 캐시 히트 시 API 호출 없이 즉시 반환합니다.
CacheCost Saving