- การสั่งห้ามใช้ AI มักไม่ได้ผล พนักงานจะใช้ต่อผ่านมือถือส่วนตัว ซึ่งบริษัทมองไม่เห็น
- ข้อมูลแต่ละชนิดเสี่ยงไม่เท่ากัน ให้แบ่งเป็นชั้น แล้วกำหนดว่าชั้นไหนใช้กับ AI ตัวไหนได้
- บริษัทที่มีเอกสารลับมาก เช่น ราคาประมูล สัญญา หรือข้อมูลลูกค้า ควรมี AI ภายในที่อ่านเอกสารได้ตามสิทธิ์ของแต่ละคน
เกิดอะไรขึ้นกับข้อมูลเมื่อมีคนวางลงแชต AI
พนักงานจัดซื้อวางตารางราคาของผู้ขายทุกรายลงแชต AI เพื่อให้ช่วยเปรียบเทียบ เจ้าหน้าที่ฝ่ายบุคคลวางรายชื่อพร้อมเงินเดือนเพื่อให้ทำกราฟ ทั้งสองคนตั้งใจทำงานให้เสร็จเร็วขึ้น และไม่มีใครในบริษัทรู้ว่าข้อมูลชุดนั้นออกไปแล้ว
ข้อความที่วางลงบริการ AI สาธารณะถูกส่งไปประมวลผลบนเครื่องของผู้ให้บริการ และถูกเก็บตามนโยบายของบริการนั้น บัญชีส่วนตัวบางประเภทอนุญาตให้ผู้ให้บริการนำบทสนทนาไปใช้ปรับปรุงโมเดล ถ้าผู้ใช้ไม่ได้ปิดการตั้งค่านี้เอง ฝั่งบริษัทเองก็ไม่มีบันทึกเลยว่าใครส่งอะไรออกไปเมื่อไร เมื่อลูกค้าหรือผู้ตรวจสอบถาม บริษัทจึงตอบไม่ได้
ในเดือนพฤษภาคม 2023 Samsung สั่งห้ามพนักงานใช้เครื่องมือ AI สาธารณะบนอุปกรณ์ของบริษัท หลังพบว่าวิศวกรวางซอร์สโค้ดภายในและบันทึกการประชุมลงใน ChatGPT การใช้ AI ที่บริษัทไม่รู้ไม่เห็นแบบนี้มีชื่อเรียกว่า Shadow AI และมันเกิดขึ้นในทุกบริษัทที่พนักงานมีมือถือ
สามทางเลือก และสิ่งที่ต้องแลกในแต่ละทาง
บริษัทมีทางเลือกสามทาง คือห้ามใช้ ซื้อแผนองค์กรจากผู้ให้บริการ AI หรือติดตั้งโมเดลไว้ในโครงสร้างพื้นฐานของตัวเอง แต่ละทางได้ของต่างกันและมีราคาต่างกัน บริษัทส่วนใหญ่ลงเอยด้วยการใช้มากกว่าหนึ่งทาง
| ทางเลือก | สิ่งที่ได้ | สิ่งที่ต้องแลก | เหมาะกับ |
|---|---|---|---|
| ห้ามใช้ AI | ไม่ต้องลงทุน | พนักงานใช้ต่อผ่านช่องทางส่วนตัว บริษัทเสียทั้งประสิทธิภาพและการมองเห็น | งานเฉพาะส่วนที่กฎหมายหรือสัญญาห้ามเด็ดขาด |
| แผนองค์กรของผู้ให้บริการ AI | โมเดลที่เก่งที่สุดในตลาด สัญญาที่ระบุว่าไม่นำข้อมูลไปฝึกโมเดล และระบบจัดการบัญชีพนักงาน | ข้อมูลยังถูกประมวลผลนอกองค์กร ต้องอ่านเงื่อนไขและที่ตั้งของข้อมูล | บริษัทส่วนใหญ่ที่ข้อมูลไม่ติดข้อจำกัดเรื่องที่ตั้ง |
| Private LLM ในองค์กรหรือ Private Cloud | ข้อมูลอยู่ในโครงสร้างพื้นฐานของบริษัท ควบคุมสิทธิ์และบันทึกการใช้ได้เอง | ค่าเครื่อง ค่าดูแล และโมเดลที่รันเองมักตามหลังรุ่นล่าสุดของผู้ให้บริการรายใหญ่ | องค์กรที่มีข้อมูลลับตามสัญญา ข้อมูลอ่อนไหว หรือข้อกำหนดจากลูกค้าและหน่วยงานกำกับ |
จุดที่มักเข้าใจผิดคือคิดว่าติดตั้งโมเดลในองค์กรแล้วข้อมูลจะปลอดภัยเอง ถ้า AI ภายในอ่านเอกสารได้ทุกโฟลเดอร์ นักศึกษาฝึกงานก็ถามเงินเดือนของผู้บริหารได้ ความเสี่ยงแค่ย้ายจากรั่วออกนอกบริษัทมาเป็นรั่วข้ามแผนก AI ภายในจึงต้องเห็นเอกสารเท่าที่คนถามมีสิทธิ์เห็น
กรณีจำลอง
บริษัทที่ปรึกษาวิศวกรรมกับร่างข้อเสนอราคาที่หลุดไปอยู่ในแชต
บริษัทที่ปรึกษาวิศวกรรมขนาด 120 คนเข้าประมูลงานเป็นประจำ วิศวกรคนหนึ่งวางร่างข้อเสนอที่มีต้นทุนต่อหน่วยลงแชต AI สาธารณะเพื่อให้ช่วยเกลาภาษา หัวหน้าเดินผ่านมาเห็นหน้าจอโดยบังเอิญ เมื่อเรื่องถึงผู้บริหาร คำถามแรกคือเกิดแบบนี้มาแล้วกี่ครั้ง ซึ่งไม่มีใครตอบได้
ผู้บริหารตัดสินใจไม่ห้าม เพราะรู้ว่าทีมประมูลต้องเขียนเอกสารจำนวนมากและ AI ช่วยได้จริง บริษัทแบ่งข้อมูลเป็นสี่ชั้นตามวิธีด้านล่าง ซื้อแผนองค์กรสำหรับงานชั้นภายใน และสร้างผู้ช่วยภายในสำหรับชั้นลับ ผู้ช่วยตัวนี้ค้นข้อเสนอเก่า มาตรฐานงาน และสัญญา โดยแสดงเฉพาะเอกสารในโฟลเดอร์ที่คนถามมีสิทธิ์เปิด บริษัทนำร่องกับฝ่ายประมูลฝ่ายเดียวก่อน
แบ่งเลนข้อมูลสี่ชั้น
- ชั้นเปิดเผย คือข้อมูลที่อยู่บนเว็บไซต์ของบริษัทอยู่แล้ว ใช้กับ AI ตัวไหนก็ได้
- ชั้นภายใน คือคู่มือ ขั้นตอนงาน และบันทึกประชุมทั่วไป ใช้กับ AI ที่บริษัทมีสัญญาองค์กร
- ชั้นลับ คือราคา ต้นทุน สัญญา และข้อมูลลูกค้า ใช้กับ AI ภายในที่ควบคุมสิทธิ์และมีบันทึกการใช้
- ชั้นจำกัด คือข้อมูลสุขภาพ เงินเดือนรายบุคคล และเอกสารที่สัญญาห้ามเปิดเผย ห้ามป้อนให้ AI จนกว่าเจ้าของข้อมูลกับที่ปรึกษากฎหมายจะอนุมัติเป็นรายกรณี
วิธีใช้คือให้หัวหน้าแต่ละฝ่ายหยิบเอกสารสิบชนิดที่ทีมใช้บ่อยที่สุดมาจัดลงชั้น ติดป้ายชั้นไว้ที่โฟลเดอร์ แล้วสอนพนักงานด้วยตัวอย่างจากงานจริงของฝ่ายนั้น หลักฐานที่ควรเก็บคือรายการชนิดเอกสารพร้อมชั้น และจำนวนเอกสารที่ยังไม่ได้จัด วิธีนี้ล้มเหลวได้สองทาง ทางแรกคือแบ่งชั้นละเอียดเกินจนพนักงานจำไม่ได้ ทางที่สองคือกำหนดชั้นลับไว้โดยไม่มี AI ที่อนุญาตให้ใช้กับชั้นนั้น พนักงานจะกลับไปใช้ของสาธารณะเหมือนเดิม
ผู้ช่วย AI ภายในต้องมีอะไรบ้างจึงไว้ใจได้
การสร้างแชตบอตที่ตอบจากเอกสารด้วย Vibe Code ทำได้ในวันเดียว ส่วนที่ใช้เวลาคือการทำให้มันตอบแต่ละคนตามสิทธิ์ของคนนั้น อ้างอิงเอกสารต้นทางได้ และมีบันทึกให้ตรวจย้อนหลัง สามอย่างนี้ทำให้ฝ่ายกฎหมายและฝ่าย IT ยอมให้เปิดใช้
เรื่องสิทธิ์ควรผูกกับระบบบัญชีพนักงานที่บริษัทใช้อยู่ พนักงานล็อกอินด้วยบัญชีเดียวกับระบบอื่นผ่าน SSO และผู้ช่วยค้นเฉพาะเอกสารที่บัญชีนั้นเปิดได้ เมื่อพนักงานย้ายแผนกหรือลาออก สิทธิ์ในผู้ช่วยจะเปลี่ยนตามทันที
คำตอบทุกข้อควรแนบเอกสารที่ใช้อ้าง ผู้ถามจะกดเปิดต้นทางได้ และรู้ว่าคำตอบมาจากฉบับไหน ระบบที่ค้นเอกสารก่อนแล้วจึงให้โมเดลตอบแบบนี้เรียกว่า RAG ข้อดีอีกอย่างคือเมื่อเอกสารถูกแก้ คำตอบจะเปลี่ยนตามโดยไม่ต้องฝึกโมเดลใหม่
บริษัทต้องตัดสินใจอีกสองเรื่อง คือจะเก็บบทสนทนาไว้นานแค่ไหน และใครดูบันทึกการใช้งานได้ ถ้ามีข้อมูลส่วนบุคคลของลูกค้าอยู่ในเอกสาร การส่งข้อมูลนั้นให้ผู้ให้บริการภายนอกประมวลผลอยู่ในขอบเขตของกฎหมายคุ้มครองข้อมูลส่วนบุคคล บริษัทควรมีข้อตกลงการประมวลผลข้อมูลกับผู้ให้บริการ และให้ที่ปรึกษากฎหมายหรือเจ้าหน้าที่คุ้มครองข้อมูลส่วนบุคคลตรวจก่อนเปิดใช้
สำหรับทีมพัฒนา · รายละเอียดเชิงเทคนิค
กรองผลการค้นตามสิทธิ์ตั้งแต่ชั้น Vector Search โดยเก็บ ACL ไว้กับ Embedding ของแต่ละเอกสาร เชื่อมบัญชีผ่าน SSO และซิงก์กลุ่มผู้ใช้อัตโนมัติ บันทึกคำถาม เอกสารที่ถูกดึง และคำตอบลง Audit Log ทำ Model Routing ให้ชั้นลับใช้โมเดลภายใน ส่วนชั้นภายในใช้โมเดลของผู้ให้บริการ ปิดบัง PII ก่อนส่งออกนอกองค์กร และมี Evaluation Set จากคำถามจริงของแต่ละฝ่ายไว้วัดความถูกต้องและการอ้างอิง
ยังไม่ต้องลงทุน Private LLM ถ้าเข้าข้อเหล่านี้
- ข้อมูลส่วนใหญ่ของบริษัทอยู่ในชั้นเปิดเผยกับชั้นภายใน
- ไม่มีสัญญาหรือข้อกำหนดที่ระบุที่ตั้งของข้อมูล
- ยังไม่มีคนในทีมที่จะดูแลเครื่องและโมเดล
บริษัทในกลุ่มนี้ใช้แผนองค์กรคู่กับนโยบายชั้นข้อมูลก็เพียงพอ เมื่อไรที่เริ่มมีงานชั้นลับจำนวนมาก ค่อยเพิ่มผู้ช่วยภายในเฉพาะส่วนนั้น
ช่วงนำร่องให้วัดสี่ตัว คือสัดส่วนพนักงานที่ใช้ AI ที่บริษัทอนุมัติ จำนวนคำถามต่อสัปดาห์ สัดส่วนคำตอบที่อ้างอิงเอกสารถูกฉบับ และจำนวนครั้งที่พบข้อมูลชั้นลับถูกส่งออกนอกบริษัท ถ้าครบสามเดือนแล้วพนักงานยังใช้ AI สาธารณะกับงานชั้นลับ แสดงว่าผู้ช่วยภายในยังตอบงานจริงได้ไม่ดีพอ ให้แก้คุณภาพคำตอบก่อนขยายไปฝ่ายอื่น
ให้ทีมใช้ AI กับเอกสารของบริษัท โดยเอกสารอยู่ในบริษัทเหมือนเดิม
ฝ่าย IT ของคุณรู้โครงสร้างสิทธิ์ของบริษัท ที่ปรึกษากฎหมายและเจ้าหน้าที่คุ้มครองข้อมูลส่วนบุคคลเป็นผู้ชี้ว่าข้อมูลชนิดใดมีข้อจำกัด และหัวหน้าแต่ละฝ่ายรู้ว่าเอกสารฉบับไหนลับ DNA Maker จัดเวิร์กช็อปกับคนทั้งสามกลุ่มเพื่อแบ่งชั้นข้อมูล ทำแผนที่ว่าเอกสารอยู่ที่ไหน ใครเปิดได้ และพนักงานอยากถามอะไรจากเอกสารเหล่านั้น
จากนั้นเราติดตั้งโมเดลภาษาบนโครงสร้างพื้นฐานของคุณหรือบน Private Cloud แล้วสร้างผู้ช่วยที่ค้นเอกสารภายในและตอบพร้อมอ้างอิง กรองผลตามสิทธิ์ของผู้ถาม เก็บ Audit Log และผ่านชุดประเมินคุณภาพคำตอบก่อนเปิดใช้ งานเริ่มนำร่องกับฝ่ายเดียว วัดว่าคนใช้จริงและตอบถูกแค่ไหน แล้วจึงขยาย ถ้ายังไม่แน่ใจว่าบริษัทควรอยู่ทางเลือกไหน นำรายการชนิดเอกสารที่พนักงานใช้ AI ช่วยบ่อยที่สุดมาคุยกัน เราจะช่วยจัดชั้นและชี้ว่าส่วนไหนต้องใช้ระบบภายใน
SOFTWARE ENGINEERING GLOSSARY
คลังคำศัพท์การพัฒนาซอฟต์แวร์
คำชุดนี้ใช้เมื่อฝ่ายบริหาร ฝ่าย IT และฝ่ายกฎหมายต้องตกลงกันเรื่องการใช้ AI กับข้อมูลของบริษัท
| คำศัพท์ | คืออะไร | ตัวอย่างที่เข้าใจง่าย | คำถามที่ผู้บริหารควรถามทีมพัฒนา |
|---|---|---|---|
| Private LLM | โมเดลภาษาที่รันบนโครงสร้างพื้นฐานที่บริษัทควบคุมเอง ข้อมูลที่ป้อนไม่ออกไปยังผู้ให้บริการภายนอก | ผู้ช่วยค้นสัญญาของบริษัทรันบนเครื่องในห้องเซิร์ฟเวอร์ของบริษัทเอง | ค่าเครื่องและค่าดูแลต่อปีเท่าไร และคุณภาพคำตอบต่างจากบริการภายนอกแค่ไหน? |
| On-premise | การติดตั้งระบบบนเครื่องที่อยู่ในสถานที่ของบริษัท แทนการเช่าใช้บนคลาวด์ | เซิร์ฟเวอร์ที่รันโมเดลตั้งอยู่ในห้องเครื่องของสำนักงานใหญ่ | ใครดูแลเครื่อง อัปเดตระบบ และรับผิดชอบเมื่อเครื่องเสีย? |
| Data Classification | การแบ่งข้อมูลเป็นชั้นตามความอ่อนไหว เพื่อกำหนดว่าแต่ละชั้นเก็บ ส่ง และใช้อย่างไรได้บ้าง | ตารางราคาต้นทุนถูกจัดเป็นชั้นลับ จึงใช้ได้กับ AI ภายในเท่านั้น | เอกสารชนิดไหนที่ยังไม่มีชั้น และใครเป็นคนตัดสินเมื่อไม่ชัดเจน? |
| Shadow AI | การที่พนักงานใช้เครื่องมือ AI ที่บริษัทไม่ได้อนุมัติและมองไม่เห็น | พนักงานถ่ายรูปสัญญาด้วยมือถือส่วนตัวแล้วให้แอป AI สรุป | เรารู้ได้อย่างไรว่าตอนนี้พนักงานใช้ AI ตัวไหนกับงานอะไร? |
| DLP | เครื่องมือที่ตรวจและกันไม่ให้ข้อมูลสำคัญถูกส่งออกนอกองค์กร ย่อจาก Data Loss Prevention | ระบบเตือนเมื่อมีคนวางเลขบัตรประชาชนจำนวนมากลงเว็บภายนอก | กฎที่ตั้งไว้ครอบคลุมข้อมูลชั้นไหน และมีการเตือนผิดบ่อยแค่ไหน? |
| Data Residency | ข้อกำหนดว่าข้อมูลต้องถูกเก็บและประมวลผลในประเทศหรือภูมิภาคใด | สัญญากับลูกค้าระบุว่าข้อมูลโครงการต้องอยู่บนเครื่องในประเทศไทย | ข้อมูลของเราถูกประมวลผลที่ประเทศไหนบ้าง รวมถึงตอนที่ส่งให้ AI? |
| SSO | การล็อกอินครั้งเดียวด้วยบัญชีบริษัทแล้วเข้าได้หลายระบบ ย่อจาก Single Sign-On | พนักงานเข้าผู้ช่วย AI ด้วยบัญชีอีเมลบริษัท เมื่อลาออกสิทธิ์ถูกปิดพร้อมกันทุกระบบ | เมื่อพนักงานย้ายแผนก สิทธิ์ในผู้ช่วยเปลี่ยนตามภายในเวลาเท่าไร? |