고객은 어느 채널에서든 더 빠르고 일관된 답을 받습니다. 고객이나 감독 기관이 물어도 데이터가 자사 시스템에만 있다고 답할 수 있습니다.
고객 서비스팀 · 05 / 12
프라이빗 LLM 기반 고객 응대 어시스턴트
실제 고객 이력을 바탕으로 직원에게 답변 초안을 몇 초 만에 만들어 줍니다. 신분증 번호, 계좌 정보, 진료 기록은 회사 밖으로 나가지 않습니다.
고객 서비스팀 “고객과 나누는 대화마다 진료 기록, 계좌 정보, 신분증 번호가 들어 있습니다. 공개 AI로 답변을 돕게 하면 그때마다 고객 정보를 밖으로 보내는 셈입니다.”
자주 보는 문제
고객은 LINE OA, 이메일, 콜센터 전화로 연락해 오고, 대화마다 신분증 번호나 계좌 번호, 진료 기록이 섞여 있습니다. 직원은 화면 세 개를 띄워 과거 티켓을 읽고 답을 직접 입력합니다. 그동안 고객은 전화를 붙든 채 기다리고, 답변 내용은 누가 받느냐에 따라 달라집니다.
일부 직원은 답변 초안을 받으려고 고객 메시지를 ChatGPT에 붙여 넣은 적이 있습니다. 그때마다 개인정보를 회사 밖으로 보낸 셈입니다. 이 사실을 안 DPO는 금지할 수밖에 없었고, 팀은 다시 느리게 손으로 입력합니다.
해결 방법
저희는 회사 서버나 회사 클라우드 계정에 언어 모델을 설치하고, Salesforce, Zendesk, 자체 컨택센터 시스템 등 직원이 지금 쓰는 화면에 어시스턴트를 넣습니다. 고객이 연락해 오면 어시스턴트가 직원 권한 안에서 그 고객의 이력과 과거 티켓을 읽고, 지난 일을 한 단락으로 요약한 뒤 실제 정책을 근거로 한 답변 초안을 내놓습니다. 직원은 고쳐서 보내기만 하면 됩니다.
개인정보는 회사 네트워크를 벗어나지 않습니다. 직원이 볼 필요가 없는 부분의 신분증 번호와 계좌 번호는 가리고, 모든 열람을 감사 로그에 기록해 DPO가 태국 개인정보보호법(PDPA) 기준으로 점검할 수 있게 합니다. 외부 API는 호출하지 않습니다.
모든 메시지의 전송 버튼은 직원이 누릅니다. 환불이나 서비스 해지처럼 돈이나 계약이 걸린 일은 시스템이 자료를 준비하고 팀장이 승인합니다.
시스템 작동 방식
- LINE OA와 이메일 메시지
- 컨택센터 수신 전화
- CRM 이력과 과거 티켓
- 내부 매뉴얼과 정책
- 권한 확인과 민감정보 마스킹
- 고객의 지난 이력 요약
- 정책을 근거로 답변 초안
- 열람 기록을 감사 로그에 저장
- 직원 화면의 답변 초안
- 통화 전 직원에게 요약
- 팀장 승인으로 넘어가는 환불 건
- DPO용 감사 로그
도입 전과 후
받게 되는 것
- 01
CRM과 과거 티켓에서 고객 이력을 읽어 답변 초안을 만들고, 직원은 전송 버튼만 누르면 되는 컨택센터 화면 속 어시스턴트
- 02
전화를 받기 전에 읽을 수 있도록 이 고객과 나눈 지난 대화를 회사 시스템 안에서 요약
- 03
신분증 번호, 계좌 번호, 건강 정보 자동 마스킹, 직원에게는 권한이 허용하는 부분만 표시
- 04
내부 매뉴얼의 정책, 상품 조건, 문제 해결 절차 검색(답변 근거 조항 표시)
- 05
어느 직원이 어느 고객의 이력을 열었고 어떤 초안을 고쳐 보냈는지 남기는 DPO용 감사 로그
누가 무엇을 얻나
사용 중인 CRM 화면에 공식 API로 붙이고 자사 인프라에 설치합니다. 민감정보는 모델에 닿기 전에 가리고, 모든 접근이 감사 로그에 남습니다.
직원은 여러 화면을 오가며 같은 답을 되풀이해 입력하지 않아도 됩니다. 요약을 읽고 초안을 조금 고쳐 보내면 끝납니다.
적합한 업종
지금 쓰는 시스템과 연동
개발 프로세스
- 1
탐색
요구사항·사용자·성공 지표 정의, 착수 전 범위와 가격 확정.
- 2
설계
UX와 아키텍처 설계, 프로토타입 승인 후 개발 시작.
- 3
개발
AI로 가속한 스프린트, 매주 데모, 시니어가 리뷰.
- 4
테스트
합의된 범위 기준으로 QA·보안·성능 검증.
- 5
출시 및 유지보수
운영 배포, 팀 교육, 월간 유지보수 플랜.