บทความ · นโยบายและความปลอดภัยข้อมูล

ความเสี่ยงจาก AI ที่องค์กรต้องคุม 6 ข้อ: AI hallucination, ข้อมูลรั่ว, Shadow AI และวิธีคุมแต่ละข้อ

Treepob Tiangtrong (Champ) · ผู้ก่อตั้งและซีอีโอ TRAINIAC · 8 กันยายน 2026 · อัปเดต 15 ตุลาคม 2026

TL;DR ความเสี่ยงจาก AI ที่องค์กรต้องคุม — ผลลัพธ์ผิดแต่ดูน่าเชื่อ (AI hallucination) ข้อมูลรั่ว ลิขสิทธิ์ การตัดสินใจเกี่ยวกับบุคคล การพึ่งพาจนทักษะถดถอย และ Shadow AI บวก prompt injection เมื่อเริ่มใช้ agent — พร้อมนิยามแต่ละข้อ ทะเบียนความเสี่ยงที่คัดลอกไปใช้ได้ เจ้าของแต่ละข้อ และกรอบอ้างอิงจาก NIST, OWASP และ ETDA

ความเสี่ยงจาก AI ที่องค์กรต้องคุมมี 6 ข้อหลัก ได้แก่ ผลลัพธ์ผิดแต่ดูน่าเชื่อ (AI hallucination) ข้อมูลรั่วผ่านเครื่องมือ ลิขสิทธิ์และความเป็นเจ้าของผลงาน การใช้ AI ตัดสินใจเกี่ยวกับบุคคล การพึ่งพาจนทักษะถดถอย และ Shadow AI คือการที่พนักงานใช้เครื่องมือที่องค์กรไม่รู้ว่ามีการใช้ และเมื่อองค์กรเริ่มให้ AI อ่านอีเมล ไฟล์ หรือเว็บแล้วลงมือทำงานเอง จะมีความเสี่ยงข้อที่เจ็ดคือ prompt injection ทุกข้อคุมได้ด้วยมาตรการที่เขียนลงทะเบียนความเสี่ยงได้และมีเจ้าของชัดเจน ตารางด้านล่างคือทะเบียนที่คัดลอกไปใช้ได้ทันที

คำถามที่ผู้บริหารถามบ่อยที่สุดหลังเห็นทีมเริ่มใช้ AI ไม่ใช่ "ได้ผลไหม" แต่คือ "อะไรจะพังได้บ้าง" บทความนี้สรุปความเสี่ยง 6 ข้อที่เจอซ้ำในองค์กรที่เราอบรม พร้อมมาตรการคุมที่เขียนลงทะเบียนความเสี่ยงได้จริง และคนที่ควรเป็นเจ้าของแต่ละข้อ

เป็นแนวปฏิบัติเชิงจัดการ ไม่ใช่ความเห็นทางกฎหมาย ประเด็นที่เกี่ยวกับ PDPA และลิขสิทธิ์ควรให้ฝ่ายกฎหมายพิจารณาร่วม

1. ผลลัพธ์ผิดแต่ดูน่าเชื่อ (AI hallucination)

AI hallucination คือการที่ AI สร้างข้อมูลที่ไม่จริงขึ้นมาอย่างมั่นใจ NIST เรียกความเสี่ยงนี้ว่า confabulation และ OWASP จัดไว้เป็น LLM09 Misinformation AI เขียนสิ่งที่ผิดด้วยน้ำเสียงมั่นใจเท่ากับสิ่งที่ถูก ความเสี่ยงไม่ได้อยู่ที่ AI ผิด แต่อยู่ที่คนไม่ตรวจเพราะมันดูดี

มาตรการ กติกาเดียวที่ใช้ได้ทั่วองค์กรคือ ผลลัพธ์ทุกชิ้นที่จะออกจากมือคน ต้องมีคนอ่านและรับผิดชอบเหมือนเขียนเอง ตัวเลข วันที่ ชื่อ และการอ้างอิง ตรวจกับต้นฉบับทุกครั้ง งานที่มีผลทางกฎหมายหรือการเงินต้องมีคนตรวจคนที่สอง เจ้าของ หัวหน้าทีมของแต่ละงาน

2. ข้อมูลรั่วผ่านเครื่องมือ (data leakage)

พนักงานวางข้อมูลลูกค้า สัญญา หรือข้อมูลที่ยังไม่เปิดเผยลงในเครื่องมือส่วนตัว โดยไม่รู้ว่านั่นคือการส่งข้อมูลให้บุคคลที่สาม

มาตรการ จัดชั้นข้อมูลสามชั้น ประกาศรายชื่อเครื่องมือที่อนุมัติ และให้บัญชีองค์กรกับทีมที่ถือข้อมูลอ่อนไหวก่อน ดูโครงนโยบายการใช้ AI และสิ่งที่ต้องเช็กในข้อตกลงเรื่องข้อมูลของเครื่องมือ เจ้าของ ฝ่าย IT ร่วมกับผู้รับผิดชอบด้านคุ้มครองข้อมูล

3. ลิขสิทธิ์และความเป็นเจ้าของผลงาน

ภาพ ข้อความ และโค้ดที่ AI สร้าง อาจคล้ายงานที่มีอยู่ และสถานะทางกฎหมายของงานที่ AI สร้างยังต่างกันในแต่ละประเทศ ความเสี่ยงสูงสุดอยู่ที่งานที่เผยแพร่สู่สาธารณะและงานที่ขายให้ลูกค้า

มาตรการ งานที่จะเผยแพร่ภายนอกต้องผ่านคนแก้ไขและตรวจความคล้ายก่อน ไม่ใช้ AI สร้างงานเลียนแบบสไตล์ของบุคคลหรือแบรนด์ที่ระบุตัวได้ และบันทึกว่าส่วนใดใช้ AI เจ้าของ ฝ่ายการตลาดหรือฝ่ายที่เผยแพร่งาน ร่วมกับฝ่ายกฎหมาย

4. การตัดสินใจเกี่ยวกับบุคคล

ใช้ AI คัดกรองผู้สมัคร ประเมินพนักงาน หรือตัดสินคำร้องของลูกค้าโดยอัตโนมัติ เสี่ยงทั้งเรื่องความลำเอียงที่มองไม่เห็นและหน้าที่ภายใต้ PDPA

มาตรการ AI ช่วยจัดระเบียบและสรุปข้อมูลได้ แต่การตัดสินใจที่กระทบบุคคลต้องเป็นของคนที่ระบุตัวได้ และอธิบายเหตุผลได้โดยไม่ต้องอ้างเครื่องมือ ดูเส้นที่ HR ต้องระวัง เจ้าของ HR และหัวหน้าหน่วยงานที่ตัดสินใจ

5. พึ่งพาจนทักษะถดถอย

เมื่อทีมให้ AI ร่างทุกอย่าง ความสามารถในการประเมินว่าร่างนั้นดีหรือไม่จะลดลงตามเวลา โดยเฉพาะในพนักงานใหม่ที่ยังไม่เคยทำงานนั้นเองมาก่อน

มาตรการ กำหนดงานที่ต้องทำเองก่อนในช่วงเรียนรู้ ให้ AI เป็นผู้ช่วยตรวจมากกว่าผู้เขียนในงานที่ต้องการทักษะ และวัดคุณภาพงาน ไม่ใช่วัดความเร็วอย่างเดียว เจ้าของ หัวหน้าทีมและ L&D

6. Shadow AI

Shadow AI คือการที่พนักงานใช้เครื่องมือ AI ที่องค์กรไม่ได้อนุมัติหรือไม่รู้ว่ามีการใช้ ผลที่ตามมาคือข้อมูลอาจรั่วโดยที่ฝ่าย IT มองไม่เห็น พนักงานใช้เครื่องมือที่องค์กรไม่รู้จัก เพราะเครื่องมือที่อนุมัติไม่มี ช้า หรือขั้นตอนขอใช้ยาก การห้ามไม่ได้ทำให้เลิกใช้ แต่ทำให้มองไม่เห็น

มาตรการ มีเครื่องมือที่อนุมัติอย่างน้อยหนึ่งตัวที่ใช้ได้จริง มีช่องทางขออนุมัติที่ตอบภายในไม่กี่วัน และสำรวจการใช้งานจริงทุกไตรมาสโดยไม่ลงโทษคนที่บอกความจริง เจ้าของ ฝ่าย IT

7. Prompt injection เมื่อเริ่มใช้ AI agent

Prompt injection คือการซ่อนคำสั่งไว้ในข้อความที่ AI อ่าน เช่น อีเมล ไฟล์ หรือหน้าเว็บ แล้ว AI ทำตามคำสั่งนั้นแทนคำสั่งของผู้ใช้ OWASP จัดเป็นความเสี่ยงอันดับหนึ่ง (LLM01) ของแอปที่ใช้ LLM ความเสี่ยงนี้แทบไม่มีผลตอนใช้แชทถามตอบ แต่สำคัญทันทีเมื่อ AI มีสิทธิ์ส่งอีเมล แก้ไฟล์ หรือกดปุ่มในระบบแทนเรา

มาตรการ ให้สิทธิ์ agent เท่าที่งานต้องใช้ การกระทำที่มีผลจริงอย่างการส่ง ลบ หรือจ่ายเงินต้องให้คนยืนยันก่อน และอย่าให้ agent ที่อ่านข้อมูลจากภายนอกเข้าถึงข้อมูลลับในรอบงานเดียวกัน เจ้าของ ฝ่าย IT และ Security

ทะเบียนความเสี่ยงที่คัดลอกไปใช้ได้

ความเสี่ยงสัญญาณว่าเกิดขึ้นแล้วมาตรการหลักเจ้าของกรอบอ้างอิง
ผลลัพธ์ผิดแต่ดูน่าเชื่อพบตัวเลขหรือการอ้างอิงผิดในเอกสารที่ส่งออกไปแล้วคนอ่านและรับผิดชอบทุกชิ้น ตรวจตัวเลข วันที่ ชื่อ กับต้นฉบับหัวหน้าทีมของงานนั้นNIST AI 600-1: Confabulation · OWASP LLM09
ข้อมูลรั่วผ่านเครื่องมือพบข้อมูลลูกค้าหรือเอกสารภายในในบัญชีเครื่องมือส่วนตัวจัดชั้นข้อมูล ประกาศเครื่องมือที่อนุมัติ ให้บัญชีองค์กรก่อนIT ร่วมกับผู้รับผิดชอบด้านคุ้มครองข้อมูลNIST: Data Privacy · OWASP LLM02 · PDPA มาตรา 6
ลิขสิทธิ์และความเป็นเจ้าของงานที่เผยแพร่ถูกทักว่าคล้ายงานของผู้อื่นคนแก้ไขและตรวจความคล้ายก่อนเผยแพร่ บันทึกส่วนที่ใช้ AIฝ่ายที่เผยแพร่งาน ร่วมกับฝ่ายกฎหมายNIST: Intellectual Property
การตัดสินใจเกี่ยวกับบุคคลตัดสินเรื่องบุคคลโดยอธิบายเหตุผลไม่ได้นอกจากผลของเครื่องมือAI จัดระเบียบข้อมูลได้ คนที่ระบุตัวได้เป็นผู้ตัดสินHR และหัวหน้าหน่วยงานNIST: Harmful Bias
พึ่งพาจนทักษะถดถอยพนักงานใหม่ตรวจร่างของ AI ไม่ออกว่าผิดตรงไหนกำหนดงานที่ต้องทำเองก่อน วัดคุณภาพงาน ไม่ใช่วัดแค่ความเร็วหัวหน้าทีมและ L&DNIST: Human-AI Configuration
Shadow AIพบบัญชีหรือค่าใช้จ่ายเครื่องมือ AI ที่ IT ไม่รู้จักมีเครื่องมือที่อนุมัติที่ใช้ได้จริง ช่องทางขออนุมัติที่เร็ว สำรวจทุกไตรมาสฝ่าย ITETDA: แนวทางประยุกต์ใช้ Generative AI สำหรับองค์กร
Prompt injectionagent ทำสิ่งที่ไม่มีใครสั่ง หลังอ่านอีเมลหรือหน้าเว็บให้สิทธิ์เท่าที่จำเป็น คนยืนยันก่อนการกระทำที่มีผลIT และ SecurityOWASP LLM01 · LLM06 Excessive Agency
ทะเบียนความเสี่ยงสำหรับการใช้ AI ในองค์กร · เพิ่มคอลัมน์รอบทบทวนตามรอบของแต่ละองค์กร

เขียนลงทะเบียนความเสี่ยงอย่างไร

ทะเบียนที่ใช้ได้มีห้าคอลัมน์ต่อข้อ คือ ความเสี่ยง · เหตุการณ์ที่จะบอกว่าเกิดขึ้นแล้ว · มาตรการ · เจ้าของ · รอบทบทวน ความเสี่ยงทั้งเจ็ดข้อในตารางด้านบนเขียนได้ในหน้าเดียว และควรทบทวนทุกครั้งที่องค์กรเพิ่มเครื่องมือหรือขยายการใช้งานไปแผนกใหม่

ผู้บริหารที่ต้องอนุมัติกรอบนี้มักต้องการเวลาครึ่งวันเพื่อเข้าใจว่าแต่ละข้อหมายถึงอะไรกับองค์กรของตัวเอง นั่นคือสิ่งที่โปรแกรม AI for Executives & Leaders ออกแบบมาให้ และทั้งหกข้อเป็นเนื้อหาหลักของหลักสูตร AI Governance & Responsible AI

แหล่งอ้างอิง

อ่านต่อ

เรื่องข้อมูลรั่วและสิทธิ์ของ agent ฝึกได้ในหลักสูตร AI Security ที่จัดในองค์กรได้

บทความอื่นในหัวข้อนโยบายและความปลอดภัยข้อมูล และทำไมโครงการ AI ถึงหยุดกลางทาง

คำถามที่พบบ่อย

ความเสี่ยงจาก AI ในองค์กรมีอะไรบ้าง?
หกข้อหลัก คือผลลัพธ์ผิดแต่ดูน่าเชื่อ (AI hallucination) ข้อมูลรั่วผ่านเครื่องมือ ลิขสิทธิ์และความเป็นเจ้าของผลงาน การใช้ AI ตัดสินใจเกี่ยวกับบุคคล การพึ่งพาจนทักษะถดถอย และ Shadow AI เมื่อองค์กรเริ่มให้ AI ลงมือทำงานแทนจะมี prompt injection เพิ่มเข้ามา กรอบสากลที่ใช้อ้างอิงได้คือ NIST AI 600-1 ซึ่งระบุความเสี่ยงของ Generative AI ไว้ 12 ข้อที่มา: NIST AI 600-1: Generative Artificial Intelligence Profile · NIST
Shadow AI คืออะไร และองค์กรควรจัดการอย่างไร?
Shadow AI คือการที่พนักงานใช้เครื่องมือ AI ที่องค์กรไม่ได้อนุมัติหรือไม่รู้ว่ามีการใช้ ผลคือข้อมูลอาจรั่วโดยที่ฝ่าย IT มองไม่เห็นและควบคุมการไหลของข้อมูลไม่ได้ การห้ามอย่างเดียวไม่ได้ทำให้เลิกใช้ วิธีที่ได้ผลคือมีเครื่องมือที่อนุมัติซึ่งใช้ได้จริงอย่างน้อยหนึ่งตัว มีช่องทางขออนุมัติที่ตอบเร็ว และสำรวจการใช้งานจริงทุกไตรมาสโดยไม่ลงโทษคนที่บอกความจริง
AI hallucination คืออะไร?
คือการที่ AI สร้างข้อมูลที่ไม่จริงขึ้นมาด้วยน้ำเสียงมั่นใจ เช่น ตัวเลข ชื่อ หรือการอ้างอิงที่ไม่มีอยู่จริง NIST เรียกความเสี่ยงนี้ว่า confabulation และ OWASP จัดเป็น LLM09 Misinformation ความเสี่ยงจริงอยู่ที่คนไม่ตรวจเพราะผลลัพธ์ดูดี องค์กรจึงควรกำหนดให้ทุกชิ้นที่ออกจากมือคนต้องมีคนอ่านและรับผิดชอบ และตรวจตัวเลข วันที่ ชื่อ กับต้นฉบับทุกครั้งที่มา: NIST AI 600-1: Generative Artificial Intelligence Profile · NISTที่มา: OWASP Top 10 for LLM Applications 2025 · OWASP
พนักงานป้อนข้อมูลส่วนตัวของลูกค้าลงใน AI ได้ไหม?
ได้เฉพาะในเครื่องมือที่องค์กรอนุมัติและมีข้อตกลงเรื่องข้อมูลรองรับ ก่อนใช้ต้องตรวจนโยบายการจัดการข้อมูลของเครื่องมือ เช่น นำข้อมูลไปฝึกโมเดลหรือไม่และเก็บไว้ที่ไหน และควรปกปิดชื่อ เบอร์โทร และเลขที่ระบุตัวลูกค้าก่อนป้อน เพราะข้อมูลเหล่านี้เป็นข้อมูลส่วนบุคคลตามมาตรา 6 ของพระราชบัญญัติคุ้มครองข้อมูลส่วนบุคคล พ.ศ. 2562 ชื่อเสียงของเครื่องมือไม่ได้ทำให้ปลอดภัยโดยอัตโนมัติที่มา: พระราชบัญญัติคุ้มครองข้อมูลส่วนบุคคล พ.ศ. 2562 · ราชกิจจานุเบกษา
Prompt injection คืออะไร?
คือการซ่อนคำสั่งไว้ในข้อความที่ AI อ่าน เช่น อีเมล ไฟล์ หรือหน้าเว็บ แล้ว AI ทำตามคำสั่งนั้นแทนคำสั่งของผู้ใช้ OWASP จัดเป็นความเสี่ยงอันดับหนึ่ง LLM01 ของแอปที่ใช้ LLM สำคัญมากเมื่อ AI มีสิทธิ์ส่งอีเมล แก้ไฟล์ หรือทำรายการแทนเรา มาตรการหลักคือให้สิทธิ์เท่าที่จำเป็น และให้คนยืนยันก่อนการกระทำที่มีผลจริงที่มา: LLM01:2025 Prompt Injection · OWASP
มีแนวทางการใช้ Generative AI สำหรับองค์กรไทยไหม?
มี กระทรวงดิจิทัลเพื่อเศรษฐกิจและสังคมร่วมกับ ETDA ออกแนวทางประยุกต์ใช้ Generative AI อย่างมีธรรมาภิบาลสำหรับองค์กร เมื่อตุลาคม 2567 ให้ดาวน์โหลดฟรี เนื้อหาครอบคลุมประโยชน์และข้อจำกัด ความเสี่ยงและการบริหารความเสี่ยง และแนวทางประยุกต์ใช้ตามระดับขององค์กร ใช้ประกอบกับทะเบียนความเสี่ยงในบทความนี้ได้ที่มา: แนวทางประยุกต์ใช้ Generative AI อย่างมีธรรมาภิบาลสำหรับองค์กร · ETDA
AI Governanceความเสี่ยงสำหรับผู้บริหาร

บทความที่เกี่ยวข้อง

บทความทั้งหมดในหัวข้อ นโยบายและความปลอดภัยข้อมูล →