유해발화 필터
2026-08-27
업무문서를 「차단 권장」으로 잡던 오탐을 걷어냈어요
「도청」이 들어간 지자체 이름, 「개인정보 수집·이용 동의서」, 조세 포탈세액 같은 평범한 업무 문서 표현이 유해발화로 잡히던 문제를 고쳤어요. 단어 일부가 우연히 겹쳐 생긴 오탐이에요.
- ○○도청·조사기관·공사기간처럼 위험 단어를 부분 문자열로 품은 표현을 더 이상 잡지 않아요.
- 「개인정보 수집·이용 동의서」·「저작권을 침해하지 않도록」·설비 「모델명」 같은 표준 문구도 통과해요.
- 문서·크롤 경로의 프롬프트 인젝션 검사는 실제 인젝션 문구가 있을 때만 표시돼요 — 「이전 지시를 무시하고…」 같은 진짜 공격은 그대로 잡아요.