태그: Queue
메뉴
Moonshot Notes orbit notebook mark
Moonshot NotesAI 도구와 개발 워크플로우 기록하는 공간

태그

Queue

공개 글 2개

AI Backend · 2026-05-12 · 4분 읽기

LLM보다 백엔드 기본기가 먼저인 이유

LLM 서비스 개발에서 프롬프트와 프레임워크보다 API 계약, 데이터 모델, 캐시, 큐, 로그, 장애 대응 같은 백엔드 기본기가 먼저 필요한 이유를 정리합니다.

  • LLM
  • Backend
  • API
  • Cache
  • Queue

AI Backend · 2026-05-12 · 4분 읽기

Queue와 Idempotency

문서 색인, embedding 생성, 대량 요약처럼 오래 걸리는 AI 작업을 큐로 분리하고 idempotency key, retry, DLQ로 안정화하는 방법을 정리합니다.

  • LLM
  • Backend
  • Queue
  • Idempotency
  • Reliability