모델 전용 GPU EC2 — 인스턴스 · 자동 중지 · 비용 캡

무엇을

decisions/121 이 정한 모델 전용 GPU EC2 를 세운다. NER · 임베딩 · 리랭커 · 생성이 여기 올라간다. 121 은 「티켓: 없음(인스턴스를 만들 때 연다)」로 남겨 뒀다 — 이것이 그 티켓이다.

왜

운영은 규칙 + BM25 로 돈다(서버 이미지에 torch 가 없다). 그 구성의 실측이 검색 Recall@5 0.833(2026-09-21 · n 96)이고, 모델 구성의 0.979 는 로컬 측정이다. 그리고 C-5 는 STT 오류 5% 에서 이미 2건 뚫린다 — 규칙은 글자가 깨진 이름·주소를 못 잡는다. 둘 다 모델이 운영 경로에 붙어야 풀린다.

⚠ 만들기 전에 답할 것 — 121 이 열어 둔 다섯

  1. ai/ 가 라이브러리에서 서비스가 된다(024·105 의 전제가 바뀐다) → w6-ai-model-http-surface
  2. 런북 부록 A-1(「서버와 GPU 를 분리하지 않는다」)과 반대다 — 홉 지연을 다시 잰다
  3. 비용 — g4dn.xlarge 24/7 ≈ $597 로 예산 초과. 116 ①(자동 중지 안 함)은 t3.large 전제라 여기엔 자동 중지가 다시 필요하다
  4. GPU 가 꺼져 있어도 자막·마스킹은 멈추지 않는다 → w6-server-remote-model-adapter
  5. 09-30 판정까지 운영 경로에 붙지 않으면 기준선은 운영 구성이다 — 떠 있지 않은 구성의 수치로 통과를 선언하지 않는다

완료 조건


취소 (2026-09-22, 정성윤). _project/decisions/124 로 모델을 전용 GPU EC2 가 아니라 운영 노드에 CPU 로 싣기로 했다. 전용 인스턴스·HTTP 표면·원격 어댑터가 필요 없어졌다. 이어받는 티켓: w5-models-on-node.