RAG가 데모에서 망가지는 지점: 실제 문서, 토큰 예산, 프롬프트 인젝션
샘플 문서로 만든 RAG 흐름을 PDF, 웹 문서, Markdown 분할, token budget, prompt injection risk가 있는 운영 환경으로 옮길 때 확인할 경계를 정리합니다.
태그
공개 글 12개
샘플 문서로 만든 RAG 흐름을 PDF, 웹 문서, Markdown 분할, token budget, prompt injection risk가 있는 운영 환경으로 옮길 때 확인할 경계를 정리합니다.
RAG 답변이 그럴듯해 보여도 retriever 결과, answer faithfulness, citation, source attribution을 따로 확인해야 하는 이유와 점검 흐름을 정리합니다.
LangChain RAG 학습 흐름을 따라 hybrid search, parent document retrieval, multi-vector retrieval로 검색 단위와 답변 단위를 분리하는 방법을 정리합니다.
LangChain RAG 학습 흐름을 따라 retriever 결과가 애매할 때 metadata filter, multi query retrieval, context compression, reranking으로 검색 품질을 점검하는 과정을 정리합니다.
LangChain RAG 학습 흐름을 따라 chunk가 retriever 결과가 되고 prompt context와 chain 입력으로 이어지는 과정을 정리합니다.
LangChain RAG 학습 흐름을 따라 예시 문서가 Document가 되고 검색 가능한 chunk로 나뉘는 과정을 정리합니다.
LLM 서비스를 PoC 수준에서 운영 가능한 백엔드 시스템으로 고도화하기 위한 학습 순서를 API, 캐시, 큐, RAG, Evals, Observability 관점으로 정리합니다.
Retrieval Augmented Generation 논문을 백엔드 개발자 관점에서 읽고, parametric memory, non parametric memory, retriever, generator를 서비스 아키텍처로 해석합니다.
PostgreSQL pgvector로 문서형 RAG를 만들 때 chunk와 embedding 저장, metadata filter, vector similarity query, citation 연결을 운영 관점에서 정리합니다.
GitHub Copilot Memory, Claude Code memory, 장기 기억 벤치마크를 기준으로 AI Memory와 RAG의 차이, Run Ledger, 실패 산출물, memory 승격 정책을 정리합니다.
AI Agent에 온톨로지와 지식그래프가 언제 필요한지 정리합니다. 개인·팀 자동화와 조직 단위 자동화의 차이, RAG의 한계, 의미 불일치 문제를 실무 관점에서 설명합니다.
온톨로지, 지식그래프, RAG, GraphRAG, SHACL, SPARQL의 역할을 AI Agent 자동화 관점에서 정리합니다. 조직 지식 검색과 검증 아키텍처를 실무적으로 설명합니다.