메뉴
Guide
Production RAG 가이드
문서 로딩과 chunking부터 retriever 전략, 출처 표시, 평가, 운영 장애와 prompt injection 방어까지 RAG를 실제 서비스로 만드는 순서를 정리했습니다.
RAG 정확도는 대부분 모델이 아니라 검색 단계에서 결정됩니다. chunk 설계, retriever 전략, 출처 표시, 평가 데이터셋이 갖춰지지 않으면 데모는 되지만 운영에서 무너집니다. 이 가이드는 그 순서대로 점검합니다.
파이프라인 기본
문서 로딩, chunking, 임베딩, 검색기 연결까지의 기본 흐름입니다.
- LangChain RAG 복습 01: 문서 로딩부터 chunk까지LangChain RAG 학습 흐름을 따라 예시 문서가 Document가 되고 검색 가능한 chunk로 나뉘는 과정을 정리합니다.
- LangChain RAG 복습 02: 검색기부터 프롬프트 체인까지LangChain RAG 학습 흐름을 따라 chunk가 retriever 결과가 되고 prompt context와 chain 입력으로 이어지는 과정을 정리합니다.
검색 품질 올리기
정확도가 낮을 때 손대야 할 retriever 전략과 문서 구조 설계입니다.
- LangChain RAG 복습 03: 검색 품질을 높이는 retriever 전략LangChain RAG 학습 흐름을 따라 retriever 결과가 애매할 때 metadata filter, multi query retrieval, context compression, reranking으로 검색 품질을 점검하는 과정을 정리합니다.
- LangChain RAG 복습 04: 문서 구조를 살리는 검색 설계LangChain RAG 학습 흐름을 따라 hybrid search, parent document retrieval, multi-vector retrieval로 검색 단위와 답변 단위를 분리하는 방법을 정리합니다.
- pgvector RAG가 운영에서 버티려면: chunk, metadata filter, citation 설계PostgreSQL pgvector로 문서형 RAG를 만들 때 chunk와 embedding 저장, metadata filter, vector similarity query, citation 연결을 운영 관점에서 정리합니다.
평가와 출처
답변을 믿기 전에 무엇을 측정하고 어떻게 근거를 표시할지 정리합니다.
- RAG 답변을 믿기 전에 봐야 할 것: 검색 평가, faithfulness, 출처 표시RAG 답변이 그럴듯해 보여도 retriever 결과, answer faithfulness, citation, source attribution을 따로 확인해야 하는 이유와 점검 흐름을 정리합니다.
- RAG 논문 백엔드 관점으로 읽기Retrieval Augmented Generation 논문을 백엔드 개발자 관점에서 읽고, parametric memory, non parametric memory, retriever, generator를 서비스 아키텍처로 해석합니다.
운영과 방어
실제 문서, 토큰 예산, prompt injection 같은 운영 리스크를 다룹니다.
- RAG가 데모에서 망가지는 지점: 실제 문서, 토큰 예산, 프롬프트 인젝션샘플 문서로 만든 RAG 흐름을 PDF, 웹 문서, Markdown 분할, token budget, prompt injection risk가 있는 운영 환경으로 옮길 때 확인할 경계를 정리합니다.
- 온톨로지, 지식그래프, RAG, GraphRAG 차이 정리온톨로지, 지식그래프, RAG, GraphRAG, SHACL, SPARQL의 역할을 AI Agent 자동화 관점에서 정리합니다. 조직 지식 검색과 검증 아키텍처를 실무적으로 설명합니다.