모델 전용 GPU EC2 — 인스턴스 · 자동 중지 · 비용 캡
무엇을
decisions/121 이 정한 모델 전용 GPU EC2 를 세운다. NER · 임베딩 · 리랭커 · 생성이 여기 올라간다.
121 은 「티켓: 없음(인스턴스를 만들 때 연다)」로 남겨 뒀다 — 이것이 그 티켓이다.
왜
운영은 규칙 + BM25 로 돈다(서버 이미지에 torch 가 없다). 그 구성의 실측이 검색 Recall@5 0.833(2026-09-21 · n 96)이고, 모델 구성의 0.979 는 로컬 측정이다. 그리고 C-5 는 STT 오류 5% 에서 이미 2건 뚫린다 — 규칙은 글자가 깨진 이름·주소를 못 잡는다. 둘 다 모델이 운영 경로에 붙어야 풀린다.
⚠ 만들기 전에 답할 것 — 121 이 열어 둔 다섯
ai/가 라이브러리에서 서비스가 된다(024·105의 전제가 바뀐다) → w6-ai-model-http-surface- 런북 부록 A-1(「서버와 GPU 를 분리하지 않는다」)과 반대다 — 홉 지연을 다시 잰다
- 비용 —
g4dn.xlarge24/7 ≈ $597 로 예산 초과.116①(자동 중지 안 함)은t3.large전제라 여기엔 자동 중지가 다시 필요하다 - GPU 가 꺼져 있어도 자막·마스킹은 멈추지 않는다 → w6-server-remote-model-adapter
- 09-30 판정까지 운영 경로에 붙지 않으면 기준선은 운영 구성이다 — 떠 있지 않은 구성의 수치로 통과를 선언하지 않는다
완료 조건
- 인스턴스 유형·가동 시간표·월 비용 상한을 정해 런북에 적는다(
docs/infra-runbook.md선행 읽기) - 인스턴스 + 자동 중지(EventBridge 등) + 모델 파일 경로(S3
models/) - 서버 파드에서 그 인스턴스로 닿는 보안 그룹 — 내부 포트를 밖으로 열지 않는다
- 못 세웠으면 「못 세웠다」를 그대로 적고 발표는 운영 구성 + 로컬 참고치로 간다
취소 (2026-09-22, 정성윤).
_project/decisions/124로 모델을 전용 GPU EC2 가 아니라 운영 노드에 CPU 로 싣기로 했다. 전용 인스턴스·HTTP 표면·원격 어댑터가 필요 없어졌다. 이어받는 티켓: w5-models-on-node.