Tracing

AI Backend · 2026-05-12 · 5분 읽기

OpenTelemetry로 LLM 요청 Trace 연결하기

LLM 서비스에서 OpenTelemetry를 사용해 API 요청, retrieval, LLM 호출, validation, DB 저장을 하나의 trace로 연결하고 지연과 실패 원인을 분석하는 방법을 정리합니다.

• LLM
• Backend
• OpenTelemetry
• Tracing
• Observability