กลับไปที่ Private LLM

ธนาคารและสถาบันการเงิน · 07 / 12

Private LLM สำหรับสถาบันการเงิน

เครื่องมือ AI ที่สรุป ค้น และร่างได้เหมือนเครื่องมือสาธารณะ ติดตั้งในศูนย์ข้อมูลของธนาคาร พร้อมสิทธิ์ตามโครงสร้างองค์กรและ Audit Log ที่ฝ่ายกำกับตรวจได้

เจ้าหน้าที่ไอทีธนาคารถือแท็บเล็ตเดินในห้องเซิร์ฟเวอร์ ระหว่างการ์ดติดตั้งในดาต้าเซ็นเตอร์ของเรา และบันทึกการตรวจสอบวันนี้ 1,204 คำถาม ธนาคารและสถาบันการเงิน
“พนักงานแอบใช้ ChatGPT สรุปเอกสารลูกค้าเพราะเร็ว ฝ่ายกำกับรู้ก็ต้องสั่งห้าม แล้วทุกคนก็กลับไปทำมือเหมือนเดิม”

ปัญหาที่เราเจอบ่อย

พนักงานสินเชื่อ ฝ่ายกำกับ และสาขา มีเอกสารต้องอ่านทุกวัน งบของผู้กู้ ประกาศฉบับใหม่ คู่มือปฏิบัติงานที่แก้ทุกไตรมาส เครื่องมือสาธารณะสรุปให้ได้ในนาทีเดียว พนักงานบางคนจึงแอบใช้ จนฝ่ายกำกับรู้และสั่งห้าม เพราะข้อมูลลูกค้าออกนอกธนาคารไม่ได้ ทั้งตามกฎของผู้กำกับดูแลและตาม PDPA

ผลคือธนาคารมีสองทางที่ไม่ดีทั้งคู่ ปล่อยให้คนแอบใช้แล้วเสี่ยงข้อมูลรั่ว หรือห้ามแล้วทุกคนกลับไปอ่านมือช้าเหมือนเดิม

วิธีที่เราแก้

เราติดตั้งโมเดลภาษาในศูนย์ข้อมูลของธนาคาร บนเซิร์ฟเวอร์ของคุณหรือในบัญชีคลาวด์ที่ธนาคารควบคุม บน Kubernetes ที่ทีมโครงสร้างของคุณดูแลเอง พนักงานล็อกอินด้วยบัญชีธนาคารผ่าน Active Directory แล้วใช้สรุปเอกสาร ค้นระเบียบ และร่างบันทึกได้เหมือนเครื่องมือสาธารณะ โดยทุกอย่างอยู่ในเครือข่ายของธนาคาร

สิทธิ์เป็นไปตามโครงสร้างองค์กร ทีมสินเชื่อเห็นเฉพาะลูกค้าในพอร์ตของตัวเอง และทุกคำถามมี Audit Log ที่ฝ่ายกำกับเปิดตรวจได้ เราส่งมอบพร้อมผลทดสอบเจาะระบบและเอกสารสำหรับผู้ตรวจสอบ ตามแนวทางที่ฝ่ายกำกับและฝ่ายความปลอดภัยของธนาคารกำหนด

ระบบสรุปและร่าง การอนุมัติสินเชื่อ การตอบลูกค้าเรื่องบัญชี และทุกเรื่องที่มีผลทางการเงิน ยังเป็นการตัดสินใจของพนักงานที่มีอำนาจตามระเบียบ ระบบไม่ส่งอะไรออกจากธนาคารเอง

ระบบทำงานอย่างไร

งานเข้ามาจาก
  • เอกสารผู้กู้จาก LOS
  • ประกาศและคู่มือปฏิบัติงาน
  • คำถามจากสาขาและ Call Center
  • เอกสารใน SharePoint
AI ทำอะไร
  1. ตรวจสิทธิ์ตามโครงสร้างองค์กร
  2. สรุปและค้นพร้อมอ้างอิง
  3. ร่างบันทึกและคำตอบ
  4. บันทึกทุกคำถามลง Audit Log
ผลไปจบที่
  • สรุปหน้าเดียวถึงทีมสินเชื่อ
  • คำตอบถึงพนักงานสาขา
  • ร่างเอกสารให้ผู้มีอำนาจตรวจ
  • Audit Log สำหรับฝ่ายกำกับ

ก่อนและหลัง

ก่อน
หลัง
พนักงานแอบใช้เครื่องมือสาธารณะ ฝ่ายกำกับไม่รู้ว่าข้อมูลอะไรออกไปบ้าง
ทุกคนใช้เครื่องมือเดียวกันในศูนย์ข้อมูลของธนาคาร พร้อม Audit Log
สรุปงบผู้กู้หนึ่งรายใช้ครึ่งวัน
สรุปงบพร้อมจุดที่ต้องถามเพิ่มในไม่กี่นาที
ระเบียบแก้ใหม่ สาขาโทรถามส่วนกลางทั้งวัน
พนักงานสาขาพิมพ์ถาม ได้ข้อระเบียบที่ใช้บังคับทันที

สิ่งที่คุณจะได้

  1. 01

    โมเดลในศูนย์ข้อมูลของธนาคาร ที่สรุป ค้น และร่างเอกสารได้เหมือนเครื่องมือสาธารณะ

  2. 02

    สิทธิ์ตามโครงสร้างองค์กร และ Audit Log ที่ฝ่ายกำกับตรวจได้ทุกคำถาม

  3. 03

    ผ่านการทดสอบเจาะระบบ พร้อมเอกสารสำหรับผู้ตรวจสอบภายในและภายนอก

  4. 04

    ผู้ช่วยสำหรับทีมสินเชื่อที่สรุปงบและเอกสารของผู้กู้เป็นหน้าเดียว พร้อมชี้จุดที่ต้องถามเพิ่ม

  5. 05

    ค้นประกาศ ระเบียบ และคู่มือปฏิบัติงานภายในด้วยคำถามธรรมดา สำหรับสาขาและ Call Center

ใครได้อะไร

เจ้าของธุรกิจ

พนักงานได้เครื่องมือที่ต้องการโดยไม่ต้องแอบใช้ และธนาคารตอบผู้ตรวจสอบได้ทุกคำถามว่าข้อมูลอยู่ที่ไหน ใครเข้าถึง

IT Director

ติดตั้งบน Kubernetes ในศูนย์ข้อมูลของคุณ ล็อกอินผ่าน Active Directory ไม่มีการเรียก API ภายนอก ผ่านการทดสอบเจาะระบบ และส่งมอบพร้อมเอกสารสำหรับผู้ตรวจสอบ

ทีมที่ใช้งานทุกวัน

พนักงานสินเชื่อและสาขาเลิกอ่านเอกสารร้อยหน้าเอง และเลิกกลัวว่าจะทำผิดนโยบายเพียงเพราะอยากทำงานให้เร็ว

เหมาะกับธุรกิจแบบไหน

ธนาคารพาณิชย์บริษัทหลักทรัพย์และจัดการกองทุนลีสซิ่งและสินเชื่อรายย่อยบริษัทบัตรเครดิตและชำระเงินสหกรณ์ออมทรัพย์ขนาดใหญ่

เชื่อมกับระบบที่คุณใช้อยู่

Active DirectoryCore BankingLOSSharePointKubernetesMicrosoft 365

ขั้นตอนการพัฒนา

  1. 1

    ทำความเข้าใจ

    เก็บความต้องการ ผู้ใช้ และตัวชี้วัดความสำเร็จ พร้อมกำหนดขอบเขตและราคาก่อนเริ่มงาน

  2. 2

    ออกแบบ

    UX และสถาปัตยกรรมระบบ อนุมัติ Prototype ก่อนลงมือสร้างจริง

  3. 3

    พัฒนา

    สปรินต์ที่เร่งด้วย AI มีเดโมให้ดูทุกสัปดาห์ ตรวจโค้ดโดยทีมซีเนียร์

  4. 4

    ทดสอบ

    QA ความปลอดภัย และประสิทธิภาพ เทียบกับขอบเขตที่ตกลงกัน

  5. 5

    เปิดตัวและดูแล

    ติดตั้งใช้งานจริง อบรมทีมคุณ พร้อมแผนดูแลรายเดือน

เปลี่ยนปัญหาธุรกิจ ให้เป็นระบบที่ทำงานแทนคุณ

เล่าโจทย์ให้เราฟังวันนี้ — รับ Proposal ฉบับผู้บริหาร พร้อมแผนงานและงบประมาณ

คุยเรื่องนี้กับวิศวกร

โซลูชันอื่นใน Private LLM

ดูภาพรวมบริการ