프라이빗 LLM 페이지로 돌아가기

고객 서비스팀 · 05 / 12

프라이빗 LLM 기반 고객 응대 어시스턴트

실제 고객 이력을 바탕으로 직원에게 답변 초안을 몇 초 만에 만들어 줍니다. 신분증 번호, 계좌 정보, 진료 기록은 회사 밖으로 나가지 않습니다.

헤드셋을 쓰고 웃으며 화면을 보는 상담원. 3초 만에 준비된 답변 초안과 신분증 번호·계좌·병력이 가려진 고객 기록. 고객 서비스팀
“고객과 나누는 대화마다 진료 기록, 계좌 정보, 신분증 번호가 들어 있습니다. 공개 AI로 답변을 돕게 하면 그때마다 고객 정보를 밖으로 보내는 셈입니다.”

자주 보는 문제

고객은 LINE OA, 이메일, 콜센터 전화로 연락해 오고, 대화마다 신분증 번호나 계좌 번호, 진료 기록이 섞여 있습니다. 직원은 화면 세 개를 띄워 과거 티켓을 읽고 답을 직접 입력합니다. 그동안 고객은 전화를 붙든 채 기다리고, 답변 내용은 누가 받느냐에 따라 달라집니다.

일부 직원은 답변 초안을 받으려고 고객 메시지를 ChatGPT에 붙여 넣은 적이 있습니다. 그때마다 개인정보를 회사 밖으로 보낸 셈입니다. 이 사실을 안 DPO는 금지할 수밖에 없었고, 팀은 다시 느리게 손으로 입력합니다.

해결 방법

저희는 회사 서버나 회사 클라우드 계정에 언어 모델을 설치하고, Salesforce, Zendesk, 자체 컨택센터 시스템 등 직원이 지금 쓰는 화면에 어시스턴트를 넣습니다. 고객이 연락해 오면 어시스턴트가 직원 권한 안에서 그 고객의 이력과 과거 티켓을 읽고, 지난 일을 한 단락으로 요약한 뒤 실제 정책을 근거로 한 답변 초안을 내놓습니다. 직원은 고쳐서 보내기만 하면 됩니다.

개인정보는 회사 네트워크를 벗어나지 않습니다. 직원이 볼 필요가 없는 부분의 신분증 번호와 계좌 번호는 가리고, 모든 열람을 감사 로그에 기록해 DPO가 태국 개인정보보호법(PDPA) 기준으로 점검할 수 있게 합니다. 외부 API는 호출하지 않습니다.

모든 메시지의 전송 버튼은 직원이 누릅니다. 환불이나 서비스 해지처럼 돈이나 계약이 걸린 일은 시스템이 자료를 준비하고 팀장이 승인합니다.

시스템 작동 방식

업무가 들어오는 곳
  • LINE OA와 이메일 메시지
  • 컨택센터 수신 전화
  • CRM 이력과 과거 티켓
  • 내부 매뉴얼과 정책
AI가 하는 일
  1. 권한 확인과 민감정보 마스킹
  2. 고객의 지난 이력 요약
  3. 정책을 근거로 답변 초안
  4. 열람 기록을 감사 로그에 저장
결과가 도착하는 곳
  • 직원 화면의 답변 초안
  • 통화 전 직원에게 요약
  • 팀장 승인으로 넘어가는 환불 건
  • DPO용 감사 로그

도입 전과 후

도입 전
도입 후
직원이 화면 세 개를 띄우고 과거 티켓을 읽는 동안 고객 대기
직원이 입력을 시작하기 전에 지난 이력 요약과 답변 초안 준비
받는 직원마다 다른 답변
모든 답변이 같은 정책을 근거로 작성
고객 정보를 공개 도구에 몇 번이나 붙여 넣었는지 아무도 모름
고객 정보를 열람할 때마다 회사 시스템 안에 감사 로그 기록

받게 되는 것

  1. 01

    CRM과 과거 티켓에서 고객 이력을 읽어 답변 초안을 만들고, 직원은 전송 버튼만 누르면 되는 컨택센터 화면 속 어시스턴트

  2. 02

    전화를 받기 전에 읽을 수 있도록 이 고객과 나눈 지난 대화를 회사 시스템 안에서 요약

  3. 03

    신분증 번호, 계좌 번호, 건강 정보 자동 마스킹, 직원에게는 권한이 허용하는 부분만 표시

  4. 04

    내부 매뉴얼의 정책, 상품 조건, 문제 해결 절차 검색(답변 근거 조항 표시)

  5. 05

    어느 직원이 어느 고객의 이력을 열었고 어떤 초안을 고쳐 보냈는지 남기는 DPO용 감사 로그

누가 무엇을 얻나

대표

고객은 어느 채널에서든 더 빠르고 일관된 답을 받습니다. 고객이나 감독 기관이 물어도 데이터가 자사 시스템에만 있다고 답할 수 있습니다.

IT 책임자

사용 중인 CRM 화면에 공식 API로 붙이고 자사 인프라에 설치합니다. 민감정보는 모델에 닿기 전에 가리고, 모든 접근이 감사 로그에 남습니다.

매일 사용하는 팀

직원은 여러 화면을 오가며 같은 답을 되풀이해 입력하지 않아도 됩니다. 요약을 읽고 초안을 조금 고쳐 보내면 끝납니다.

적합한 업종

은행과 금융기관손해보험과 생명보험병원과 클리닉 그룹통신사와 ISP개인 고객이 많은 전기·수도·가스 기업

지금 쓰는 시스템과 연동

SalesforceZendeskFreshdeskLINE OAGenesysActive Directory

개발 프로세스

  1. 1

    탐색

    요구사항·사용자·성공 지표 정의, 착수 전 범위와 가격 확정.

  2. 2

    설계

    UX와 아키텍처 설계, 프로토타입 승인 후 개발 시작.

  3. 3

    개발

    AI로 가속한 스프린트, 매주 데모, 시니어가 리뷰.

  4. 4

    테스트

    합의된 범위 기준으로 QA·보안·성능 검증.

  5. 5

    출시 및 유지보수

    운영 배포, 팀 교육, 월간 유지보수 플랜.

비즈니스 문제를, 알아서 일하는 시스템으로

오늘 문의하시면 계획과 예산을 담은 경영진용 제안서를 드립니다.

이 솔루션을 엔지니어와 상담하기