부록 A. 민감 기능 공통 설계 원칙
C-5, F, G, 부록 B의 H·I에 공통 적용한다. 코드보다 먼저 합의한다.
A-1. 시스템의 발언 범위
| 할 수 있는 말 |
하면 안 되는 말 |
| “위험 신호가 감지되었습니다” |
“안전합니다” |
| “이 종결 사유는 근거 3건이 필요합니다” |
“이 건은 종결해도 됩니다” |
| “관할 기관은 다음과 같습니다” |
“이 사람은 위험도 78%입니다” |
| “이 요청 유형은 확인 항목 3건이 필요합니다” |
“이 사람은 사기범입니다” |
A-2. 판정과 설명의 분리
- 판정은 규칙이 한다. 종결 가능 여부, 요건 충족, 마스킹 대상 여부, 기관 매칭 — 전부 결정론적 로직
- LLM은 설명만 한다. 판정 결과를 사람이 읽을 문장으로 옮기는 역할
- 숫자와 판정을 생성 모델에 맡기지 않는다
A-3. 주장의 한계
| 쓰지 않을 표현 |
대신 쓸 표현 |
| “이 시스템이 있었으면 막을 수 있었다” |
“근거 없는 종결을 구조적으로 어렵게 만드는 설계를 검토했다” |
| “불변 감사 로그” |
“추가 전용 감사 로그 — 완전한 불변성은 애플리케이션 레벨에서 보장 불가” |
| “개인정보를 완벽히 차단합니다” |
“정의된 P1~P7 패턴에 대해 누락 0건을 목표로 한다” |
| “위기를 정확히 탐지합니다” |
“탐지 성능은 검증되지 않았으며, 상담원의 판단을 대체하지 않습니다” |
A-4. 발표·시연 시 주의
- 개별 사건의 실명·지역·세부 정황을 쓰지 않는다. 문제 정의는 일반적 실패 유형으로 서술한다 — “처리 시스템에서 종결 사유의 근거가 검증되지 않는 문제”
- 위기 통화를 재현하는 데모는 하지 않는다
- G-2를 다룰 경우 자살예방 보도준칙을 참고해 표현을 다듬고, 구체적 방법·장소 묘사는 넣지 않는다
- G-2 포함 시 발표 자료 말미에 상담 안내: 자살예방 상담전화 109 (24시간, 비밀보장)
A-5. 데이터 취급
- 실제 위기 상담 음성·기록을 수집하지 않는다
- 시연·평가용 시나리오는 팀이 작성한 가상 사례만 사용한다
- 가상 사례에 실제 인물을 연상시키는 정보를 넣지 않는다
← 개발목차로 돌아가기