ความเสี่ยงจาก AI ที่องค์กรต้องคุมมี 6 ข้อหลัก ได้แก่ ผลลัพธ์ผิดแต่ดูน่าเชื่อ (AI hallucination) ข้อมูลรั่วผ่านเครื่องมือ ลิขสิทธิ์และความเป็นเจ้าของผลงาน การใช้ AI ตัดสินใจเกี่ยวกับบุคคล การพึ่งพาจนทักษะถดถอย และ Shadow AI คือการที่พนักงานใช้เครื่องมือที่องค์กรไม่รู้ว่ามีการใช้ และเมื่อองค์กรเริ่มให้ AI อ่านอีเมล ไฟล์ หรือเว็บแล้วลงมือทำงานเอง จะมีความเสี่ยงข้อที่เจ็ดคือ prompt injection ทุกข้อคุมได้ด้วยมาตรการที่เขียนลงทะเบียนความเสี่ยงได้และมีเจ้าของชัดเจน ตารางด้านล่างคือทะเบียนที่คัดลอกไปใช้ได้ทันที
คำถามที่ผู้บริหารถามบ่อยที่สุดหลังเห็นทีมเริ่มใช้ AI ไม่ใช่ "ได้ผลไหม" แต่คือ "อะไรจะพังได้บ้าง" บทความนี้สรุปความเสี่ยง 6 ข้อที่เจอซ้ำในองค์กรที่เราอบรม พร้อมมาตรการคุมที่เขียนลงทะเบียนความเสี่ยงได้จริง และคนที่ควรเป็นเจ้าของแต่ละข้อ
เป็นแนวปฏิบัติเชิงจัดการ ไม่ใช่ความเห็นทางกฎหมาย ประเด็นที่เกี่ยวกับ PDPA และลิขสิทธิ์ควรให้ฝ่ายกฎหมายพิจารณาร่วม
1. ผลลัพธ์ผิดแต่ดูน่าเชื่อ (AI hallucination)
AI hallucination คือการที่ AI สร้างข้อมูลที่ไม่จริงขึ้นมาอย่างมั่นใจ NIST เรียกความเสี่ยงนี้ว่า confabulation และ OWASP จัดไว้เป็น LLM09 Misinformation AI เขียนสิ่งที่ผิดด้วยน้ำเสียงมั่นใจเท่ากับสิ่งที่ถูก ความเสี่ยงไม่ได้อยู่ที่ AI ผิด แต่อยู่ที่คนไม่ตรวจเพราะมันดูดี
มาตรการ กติกาเดียวที่ใช้ได้ทั่วองค์กรคือ ผลลัพธ์ทุกชิ้นที่จะออกจากมือคน ต้องมีคนอ่านและรับผิดชอบเหมือนเขียนเอง ตัวเลข วันที่ ชื่อ และการอ้างอิง ตรวจกับต้นฉบับทุกครั้ง งานที่มีผลทางกฎหมายหรือการเงินต้องมีคนตรวจคนที่สอง เจ้าของ หัวหน้าทีมของแต่ละงาน
2. ข้อมูลรั่วผ่านเครื่องมือ (data leakage)
พนักงานวางข้อมูลลูกค้า สัญญา หรือข้อมูลที่ยังไม่เปิดเผยลงในเครื่องมือส่วนตัว โดยไม่รู้ว่านั่นคือการส่งข้อมูลให้บุคคลที่สาม
มาตรการ จัดชั้นข้อมูลสามชั้น ประกาศรายชื่อเครื่องมือที่อนุมัติ และให้บัญชีองค์กรกับทีมที่ถือข้อมูลอ่อนไหวก่อน ดูโครงนโยบายการใช้ AI และสิ่งที่ต้องเช็กในข้อตกลงเรื่องข้อมูลของเครื่องมือ เจ้าของ ฝ่าย IT ร่วมกับผู้รับผิดชอบด้านคุ้มครองข้อมูล
3. ลิขสิทธิ์และความเป็นเจ้าของผลงาน
ภาพ ข้อความ และโค้ดที่ AI สร้าง อาจคล้ายงานที่มีอยู่ และสถานะทางกฎหมายของงานที่ AI สร้างยังต่างกันในแต่ละประเทศ ความเสี่ยงสูงสุดอยู่ที่งานที่เผยแพร่สู่สาธารณะและงานที่ขายให้ลูกค้า
มาตรการ งานที่จะเผยแพร่ภายนอกต้องผ่านคนแก้ไขและตรวจความคล้ายก่อน ไม่ใช้ AI สร้างงานเลียนแบบสไตล์ของบุคคลหรือแบรนด์ที่ระบุตัวได้ และบันทึกว่าส่วนใดใช้ AI เจ้าของ ฝ่ายการตลาดหรือฝ่ายที่เผยแพร่งาน ร่วมกับฝ่ายกฎหมาย
4. การตัดสินใจเกี่ยวกับบุคคล
ใช้ AI คัดกรองผู้สมัคร ประเมินพนักงาน หรือตัดสินคำร้องของลูกค้าโดยอัตโนมัติ เสี่ยงทั้งเรื่องความลำเอียงที่มองไม่เห็นและหน้าที่ภายใต้ PDPA
มาตรการ AI ช่วยจัดระเบียบและสรุปข้อมูลได้ แต่การตัดสินใจที่กระทบบุคคลต้องเป็นของคนที่ระบุตัวได้ และอธิบายเหตุผลได้โดยไม่ต้องอ้างเครื่องมือ ดูเส้นที่ HR ต้องระวัง เจ้าของ HR และหัวหน้าหน่วยงานที่ตัดสินใจ
5. พึ่งพาจนทักษะถดถอย
เมื่อทีมให้ AI ร่างทุกอย่าง ความสามารถในการประเมินว่าร่างนั้นดีหรือไม่จะลดลงตามเวลา โดยเฉพาะในพนักงานใหม่ที่ยังไม่เคยทำงานนั้นเองมาก่อน
มาตรการ กำหนดงานที่ต้องทำเองก่อนในช่วงเรียนรู้ ให้ AI เป็นผู้ช่วยตรวจมากกว่าผู้เขียนในงานที่ต้องการทักษะ และวัดคุณภาพงาน ไม่ใช่วัดความเร็วอย่างเดียว เจ้าของ หัวหน้าทีมและ L&D
6. Shadow AI
Shadow AI คือการที่พนักงานใช้เครื่องมือ AI ที่องค์กรไม่ได้อนุมัติหรือไม่รู้ว่ามีการใช้ ผลที่ตามมาคือข้อมูลอาจรั่วโดยที่ฝ่าย IT มองไม่เห็น พนักงานใช้เครื่องมือที่องค์กรไม่รู้จัก เพราะเครื่องมือที่อนุมัติไม่มี ช้า หรือขั้นตอนขอใช้ยาก การห้ามไม่ได้ทำให้เลิกใช้ แต่ทำให้มองไม่เห็น
มาตรการ มีเครื่องมือที่อนุมัติอย่างน้อยหนึ่งตัวที่ใช้ได้จริง มีช่องทางขออนุมัติที่ตอบภายในไม่กี่วัน และสำรวจการใช้งานจริงทุกไตรมาสโดยไม่ลงโทษคนที่บอกความจริง เจ้าของ ฝ่าย IT
7. Prompt injection เมื่อเริ่มใช้ AI agent
Prompt injection คือการซ่อนคำสั่งไว้ในข้อความที่ AI อ่าน เช่น อีเมล ไฟล์ หรือหน้าเว็บ แล้ว AI ทำตามคำสั่งนั้นแทนคำสั่งของผู้ใช้ OWASP จัดเป็นความเสี่ยงอันดับหนึ่ง (LLM01) ของแอปที่ใช้ LLM ความเสี่ยงนี้แทบไม่มีผลตอนใช้แชทถามตอบ แต่สำคัญทันทีเมื่อ AI มีสิทธิ์ส่งอีเมล แก้ไฟล์ หรือกดปุ่มในระบบแทนเรา
มาตรการ ให้สิทธิ์ agent เท่าที่งานต้องใช้ การกระทำที่มีผลจริงอย่างการส่ง ลบ หรือจ่ายเงินต้องให้คนยืนยันก่อน และอย่าให้ agent ที่อ่านข้อมูลจากภายนอกเข้าถึงข้อมูลลับในรอบงานเดียวกัน เจ้าของ ฝ่าย IT และ Security
ทะเบียนความเสี่ยงที่คัดลอกไปใช้ได้
| ความเสี่ยง | สัญญาณว่าเกิดขึ้นแล้ว | มาตรการหลัก | เจ้าของ | กรอบอ้างอิง |
|---|---|---|---|---|
| ผลลัพธ์ผิดแต่ดูน่าเชื่อ | พบตัวเลขหรือการอ้างอิงผิดในเอกสารที่ส่งออกไปแล้ว | คนอ่านและรับผิดชอบทุกชิ้น ตรวจตัวเลข วันที่ ชื่อ กับต้นฉบับ | หัวหน้าทีมของงานนั้น | NIST AI 600-1: Confabulation · OWASP LLM09 |
| ข้อมูลรั่วผ่านเครื่องมือ | พบข้อมูลลูกค้าหรือเอกสารภายในในบัญชีเครื่องมือส่วนตัว | จัดชั้นข้อมูล ประกาศเครื่องมือที่อนุมัติ ให้บัญชีองค์กรก่อน | IT ร่วมกับผู้รับผิดชอบด้านคุ้มครองข้อมูล | NIST: Data Privacy · OWASP LLM02 · PDPA มาตรา 6 |
| ลิขสิทธิ์และความเป็นเจ้าของ | งานที่เผยแพร่ถูกทักว่าคล้ายงานของผู้อื่น | คนแก้ไขและตรวจความคล้ายก่อนเผยแพร่ บันทึกส่วนที่ใช้ AI | ฝ่ายที่เผยแพร่งาน ร่วมกับฝ่ายกฎหมาย | NIST: Intellectual Property |
| การตัดสินใจเกี่ยวกับบุคคล | ตัดสินเรื่องบุคคลโดยอธิบายเหตุผลไม่ได้นอกจากผลของเครื่องมือ | AI จัดระเบียบข้อมูลได้ คนที่ระบุตัวได้เป็นผู้ตัดสิน | HR และหัวหน้าหน่วยงาน | NIST: Harmful Bias |
| พึ่งพาจนทักษะถดถอย | พนักงานใหม่ตรวจร่างของ AI ไม่ออกว่าผิดตรงไหน | กำหนดงานที่ต้องทำเองก่อน วัดคุณภาพงาน ไม่ใช่วัดแค่ความเร็ว | หัวหน้าทีมและ L&D | NIST: Human-AI Configuration |
| Shadow AI | พบบัญชีหรือค่าใช้จ่ายเครื่องมือ AI ที่ IT ไม่รู้จัก | มีเครื่องมือที่อนุมัติที่ใช้ได้จริง ช่องทางขออนุมัติที่เร็ว สำรวจทุกไตรมาส | ฝ่าย IT | ETDA: แนวทางประยุกต์ใช้ Generative AI สำหรับองค์กร |
| Prompt injection | agent ทำสิ่งที่ไม่มีใครสั่ง หลังอ่านอีเมลหรือหน้าเว็บ | ให้สิทธิ์เท่าที่จำเป็น คนยืนยันก่อนการกระทำที่มีผล | IT และ Security | OWASP LLM01 · LLM06 Excessive Agency |
เขียนลงทะเบียนความเสี่ยงอย่างไร
ทะเบียนที่ใช้ได้มีห้าคอลัมน์ต่อข้อ คือ ความเสี่ยง · เหตุการณ์ที่จะบอกว่าเกิดขึ้นแล้ว · มาตรการ · เจ้าของ · รอบทบทวน ความเสี่ยงทั้งเจ็ดข้อในตารางด้านบนเขียนได้ในหน้าเดียว และควรทบทวนทุกครั้งที่องค์กรเพิ่มเครื่องมือหรือขยายการใช้งานไปแผนกใหม่
ผู้บริหารที่ต้องอนุมัติกรอบนี้มักต้องการเวลาครึ่งวันเพื่อเข้าใจว่าแต่ละข้อหมายถึงอะไรกับองค์กรของตัวเอง นั่นคือสิ่งที่โปรแกรม AI for Executives & Leaders ออกแบบมาให้ และทั้งหกข้อเป็นเนื้อหาหลักของหลักสูตร AI Governance & Responsible AI
แหล่งอ้างอิง
- NIST AI 600-1: Generative Artificial Intelligence Profile สถาบันมาตรฐานและเทคโนโลยีแห่งชาติสหรัฐฯ กรกฎาคม 2024 (ความเสี่ยงของ Generative AI 12 ข้อ)
- OWASP Top 10 for LLM Applications 2025 และLLM01:2025 Prompt Injection OWASP Gen AI Security Project
- แนวทางประยุกต์ใช้ Generative AI อย่างมีธรรมาภิบาลสำหรับองค์กร กระทรวงดิจิทัลเพื่อเศรษฐกิจและสังคม และ ETDA ตุลาคม 2567
- พระราชบัญญัติคุ้มครองข้อมูลส่วนบุคคล พ.ศ. 2562 ราชกิจจานุเบกษา เล่ม 136 ตอนที่ 69 ก
อ่านต่อ
เรื่องข้อมูลรั่วและสิทธิ์ของ agent ฝึกได้ในหลักสูตร AI Security ที่จัดในองค์กรได้
บทความอื่นในหัวข้อนโยบายและความปลอดภัยข้อมูล และทำไมโครงการ AI ถึงหยุดกลางทาง