프라이빗 LLM 페이지로 돌아가기

은행·금융기관 · 07 / 12

금융기관용 프라이빗 LLM

공개 도구처럼 요약하고 검색하고 초안을 쓰는 AI를 은행 데이터센터에 설치합니다. 권한은 조직 구조를 따르고, 준법감시부가 확인할 수 있는 감사 로그가 남습니다.

서버실 통로를 태블릿을 들고 걷는 은행 IT 담당자. ‘자체 데이터센터에 설치’와 ‘오늘 감사 로그 1,204건’ 카드. 은행·금융기관
“직원들이 빠르다는 이유로 몰래 ChatGPT로 고객 문서를 요약합니다. 준법감시부가 알면 금지할 수밖에 없고, 그러면 모두 다시 손으로 일합니다.”

자주 보는 문제

여신 담당자, 준법감시부, 지점에는 매일 읽어야 할 문서가 있습니다. 차주의 재무제표, 새로 나온 감독 기관 고시, 분기마다 개정되는 업무 매뉴얼 같은 것들입니다. 공개 도구라면 1분이면 요약하니 몰래 쓰는 직원이 생기고, 준법감시부가 알게 되면 금지합니다. 감독 기관 규정도 태국 개인정보보호법(PDPA)도 고객 데이터가 은행 밖으로 나가는 것을 허용하지 않기 때문입니다.

결국 은행 앞에는 나쁜 선택지 두 개만 남습니다. 몰래 쓰도록 두고 유출 위험을 떠안거나, 금지하고 모두가 다시 느리게 손으로 읽게 하는 것입니다.

해결 방법

저희는 은행 데이터센터 안, 은행 서버나 은행이 통제하는 클라우드 계정에 언어 모델을 설치합니다. 기반은 은행 인프라팀이 직접 관리하는 Kubernetes입니다. 직원은 Active Directory의 은행 계정으로 로그인해 공개 도구처럼 문서를 요약하고 규정을 찾고 메모 초안을 씁니다. 이 모든 작업이 은행 네트워크 안에서 이루어집니다.

권한은 조직 구조를 따릅니다. 여신팀은 자기 포트폴리오의 고객만 볼 수 있고, 모든 질문은 준법감시부가 열어 볼 수 있는 감사 로그에 남습니다. 저희는 은행 준법감시부와 보안 부서가 정한 기준에 맞춰 모의 해킹 결과와 감사인용 문서를 함께 인도합니다.

시스템은 요약과 초안을 맡습니다. 여신 승인, 계좌 관련 고객 응대, 금전적 영향이 있는 모든 일은 규정상 권한을 가진 직원이 결정하며, 시스템이 스스로 은행 밖으로 내보내는 것은 없습니다.

시스템 작동 방식

업무가 들어오는 곳
  • LOS의 차주 서류
  • 감독 기관 고시와 업무 매뉴얼
  • 지점과 콜센터의 질문
  • SharePoint의 문서
AI가 하는 일
  1. 조직 구조에 따른 권한 확인
  2. 근거를 붙인 요약과 검색
  3. 메모와 답변 초안 작성
  4. 모든 질문을 감사 로그에 기록
결과가 도착하는 곳
  • 여신팀에 한 장 요약
  • 지점 직원에게 답변
  • 결재권자가 검토할 문서 초안
  • 준법감시부용 감사 로그

도입 전과 후

도입 전
도입 후
직원들이 공개 도구를 몰래 사용, 무엇이 나갔는지 준법감시부도 모름
모두가 은행 데이터센터 안의 같은 도구를 사용, 감사 로그 포함
차주 한 명의 재무제표 요약에 반나절
추가로 확인할 부분까지 짚은 재무제표 요약이 몇 분 만에 준비
규정이 바뀌면 지점이 하루 종일 본점에 전화 문의
지점 직원이 질문하면 현재 적용되는 규정 조항을 즉시 확인

받게 되는 것

  1. 01

    공개 도구처럼 문서를 요약, 검색, 초안 작성하는 은행 데이터센터 내 모델

  2. 02

    조직 구조에 따른 권한과 준법감시부가 모든 질문을 확인할 수 있는 감사 로그

  3. 03

    모의 해킹 검증과 내부·외부 감사인용 문서

  4. 04

    차주의 재무제표와 서류를 한 장으로 요약하고 추가로 확인할 부분을 짚는 여신팀용 어시스턴트

  5. 05

    지점과 콜센터가 평소 말로 찾는 감독 기관 고시, 내규, 업무 매뉴얼 검색

누가 무엇을 얻나

대표

직원은 몰래 쓰지 않고도 원하는 도구를 얻습니다. 은행은 감사인의 어떤 질문에도 데이터가 어디에 있고 누가 접근했는지 답할 수 있습니다.

IT 책임자

귀사 데이터센터의 Kubernetes에 설치하고 Active Directory로 로그인합니다. 외부 API를 호출하지 않으며, 모의 해킹을 거쳐 감사인용 문서와 함께 인도합니다.

매일 사용하는 팀

여신 담당자와 지점 직원은 100쪽짜리 문서를 직접 읽지 않아도 되고, 일을 빨리 하려다 정책을 어길까 봐 걱정할 일도 없습니다.

적합한 업종

시중은행증권사와 자산운용사리스사와 소액 대출 기관신용카드·결제 회사대형 저축 협동조합

지금 쓰는 시스템과 연동

Active Directory코어뱅킹 시스템여신 심사 시스템(LOS)SharePointKubernetesMicrosoft 365

개발 프로세스

  1. 1

    탐색

    요구사항·사용자·성공 지표 정의, 착수 전 범위와 가격 확정.

  2. 2

    설계

    UX와 아키텍처 설계, 프로토타입 승인 후 개발 시작.

  3. 3

    개발

    AI로 가속한 스프린트, 매주 데모, 시니어가 리뷰.

  4. 4

    테스트

    합의된 범위 기준으로 QA·보안·성능 검증.

  5. 5

    출시 및 유지보수

    운영 배포, 팀 교육, 월간 유지보수 플랜.

비즈니스 문제를, 알아서 일하는 시스템으로

오늘 문의하시면 계획과 예산을 담은 경영진용 제안서를 드립니다.

이 솔루션을 엔지니어와 상담하기