RAG가 데모에서 망가지는 지점: 실제 문서, 토큰 예산, 프롬프트 인젝션
샘플 문서로 만든 RAG 흐름을 PDF, 웹 문서, Markdown 분할, token budget, prompt injection risk가 있는 운영 환경으로 옮길 때 확인할 경계를 정리합니다.
시리즈
공개 글 6개
샘플 문서로 만든 RAG 흐름을 PDF, 웹 문서, Markdown 분할, token budget, prompt injection risk가 있는 운영 환경으로 옮길 때 확인할 경계를 정리합니다.
RAG 답변이 그럴듯해 보여도 retriever 결과, answer faithfulness, citation, source attribution을 따로 확인해야 하는 이유와 점검 흐름을 정리합니다.
LangChain RAG 학습 흐름을 따라 hybrid search, parent document retrieval, multi-vector retrieval로 검색 단위와 답변 단위를 분리하는 방법을 정리합니다.
LangChain RAG 학습 흐름을 따라 retriever 결과가 애매할 때 metadata filter, multi query retrieval, context compression, reranking으로 검색 품질을 점검하는 과정을 정리합니다.
LangChain RAG 학습 흐름을 따라 chunk가 retriever 결과가 되고 prompt context와 chain 입력으로 이어지는 과정을 정리합니다.
LangChain RAG 학습 흐름을 따라 예시 문서가 Document가 되고 검색 가능한 chunk로 나뉘는 과정을 정리합니다.