RAG가 데모에서 망가지는 지점: 실제 문서, 토큰 예산, 프롬프트 인젝션
샘플 문서로 만든 RAG 흐름을 PDF, 웹 문서, Markdown 분할, token budget, prompt injection risk가 있는 운영 환경으로 옮길 때 확인할 경계를 정리합니다.
태그
공개 글 2개
샘플 문서로 만든 RAG 흐름을 PDF, 웹 문서, Markdown 분할, token budget, prompt injection risk가 있는 운영 환경으로 옮길 때 확인할 경계를 정리합니다.
LLM이 내부 API를 호출하도록 만들 때 Function Calling을 어떻게 설계해야 하는지 tool boundary, 권한, 검증, 감사 로그, human approval 관점으로 정리합니다.