기관 내부망에 설치하는 LLM Capsule
LLM Capsule은 가리기만 하는 단순 마스킹과 달리, 맥락을 유지한 채 AI에 활용할 수 있게 합니다.
GPT 답변AI 응답정보 복원3홍길동 님, 접수하신 주차 구역 배정 민원의 처리 결과를 안내해 드립니다.
모든 모델 ▾화면 구성 예시, 가상 데이터
「정보 복원」 버튼만 누르면 이름과 번호가 제자리로 돌아온 결과물을 받습니다.
예시민원 처리 보고서로 민원인 배우자 안내 문자 초안 요청 (가상 문서로 만든 개념 예시, 실제 제품 출력 아님)
모델 답변
복원 결과
원문에서 4곳 재입력 누가 누구인지 구분 불가
모델 답변
복원 결과 (기관 안)
버튼 하나로 검토 가능한 초안 확인 개체별로 독립된 표식으로 맥락 유지
개인정보 정답 위치와 유형을 고정한 자체 치환 방식 비교 실험입니다. OpenPII 문서 500개와 KDPII 대화 500개, gpt-6-luna를 사용했습니다. 실제 LLM Capsule 제품 전체나 특정 오픈소스와의 성능 비교가 아닙니다. 점수는 필요한 값의 누락과 불필요한 값의 추가를 함께 반영한 F1을 100점으로 환산한 값입니다. 원문보다 높은 점수는 종류 표시가 값 찾기에 도움이 될 수 있다는 뜻이며, 모델의 추론 능력이 좋아졌다는 뜻은 아닙니다. 조건마다 한 번 실행한 결과입니다. 문자 작성 같은 글쓰기 과제는 측정하지 않았습니다.
개인정보를 표식으로 바꾼 데이터가 AI 모델로 전달되기 때문에, 외부 AI 모델까지 쓸 수 있습니다.
GPTClaudeGemini오픈소스로 직접 만든 도구는 만든 사람에게 운영이 묶이지만, LLM Capsule은 유지관리 계약으로 이어집니다.
운영 지원 범위는 유지관리 계약에 따라 정해집니다.
by CUBIG
