학습 모델 운영 반영 + GPU 학습·측정 (집 PC)
무엇을
decisions/223 의 「정성윤 님 PC 로 넘기는 것」 + 운영 반영. 류준이 맥북에서 할 수 있는 것을 먼저 끝내고 넘긴다(w8-model-training).
A. 운영 반영 (서버 이미지 0.1.50)
PR 이 머지되면 release.yml 이 0.1.50 을 굽는다. 그 뒤 노드(SSM)에서 —
- 모델 받기 · 해시 대조 — 런북 11장 「실물 — CPU 노드에 모델 싣기」 ① 그대로. 해시 목록
s3://assist-apne2/models/models-sha256.txt은 36줄로 갱신돼 있다 - 시크릿에 경로 두 개 — 하나씩 켜고
/healthspokes를 본다PII_NER_MODEL_DIR=/models/korean-pii-ner-v3→pii_nerCALL_GUARD_MODEL_DIR=/models/call-guard-kcelectra-v2→call_guard_model
- 파드 메모리 상한은 PR 에서 3Gi → 5Gi 로 올렸다(
server.yaml) —kubectl top pod·free -h로 여유 1GB 이상인지 본다
되돌리기: 해당 키만 빼고 재시작 — 옛 NER(/models/koelectra-ner)은 노드에 그대로 있다.
B. GPU 학습·측정 (집 PC, 맥북으로 못 하는 것)
nvidia-smi결과(GPU 이름 · VRAM) — 발표 자료 「학습 환경」 에 적는다- 리랭커(
bge-reranker-v2-m3) GPU 지연 — 후보 20 · 102문항(CPU 는 1.7~1.8초/질의) - Whisper large-v3-turbo 실시간 처리 배율(GPU) — 같은 20건으로
- (여유 시) 분류기·임베딩 학습을 시드 3개로 반복 — 기준선은 최저치(절대 원칙 4)
완료 조건
- 운영
/health의spokes에pii_ner·call_guard_model이 있다 - B 의 숫자가 명령·표본 수와 함께
jekyll/_logs/에 남는다
넘겨받음 (2026-10-15, 류준)
정성윤 부재로 류준이 이어받았다(착수 전 todo 였다 — §4 「담당이 바뀌면」). 사용자 확인 뒤 진행.
- A. 운영 반영 ✅ — PR #172 머지 → server
0.1.50(상한 5Gi) · 노드에 모델 받기(해시 36줄 OK) · 시크릿 백업 →PII_NER_MODEL_DIR=/models/korean-pii-ner-v3→CALL_GUARD_MODEL_DIR=/models/call-guard-kcelectra-v2·/health에pii_ner·call_guard_model·/health/ready200 · 재시작 0 - 운영 이미지로 임시 파드 확인(DB·시크릿 없이): 이름·주소 P6·P7 · 전화 P4 가림 · 폭언 2건 규칙이 잡음 · 정상 발화 2건 분류기 통과(18~20 ms). 마스킹 발화당 약 90 ms(운영 CPU, 1회)
- B. GPU 측정 — 집 PC 대신 맥북 MPS 로 리랭커만 쟀다(
10_training_results.md⑤). Whisper 미세조정은 하지 않기로(사용자 결정). 시드 3회는 ⑥