คอร์ส · AI Security: Prompt Injection, Agent Permissions & Data Leak Prevention
อบรมความปลอดภัย AI สำหรับองค์กร (AI Security)
เมื่อองค์กรเริ่มให้ AI อ่านอีเมล เปิดไฟล์ และทำงานแทนคน ช่องทางโจมตีใหม่ก็ตามมา หลักสูตรนี้ให้ทีมไอทีและความปลอดภัยเข้าใจการโจมตีที่เกิดจริง ลงมือทดสอบระบบของตัวเอง และวางมาตรการที่ใช้ได้กับเครื่องมือที่องค์กรใช้อยู่
- ระดับ
- ขั้นสูง
- ระยะเวลา
- 1 วัน
- เวลา
- 09:00–16:00
- เครื่องมือ
- ผู้ช่วย AI และ agent ที่องค์กรใช้
- รูปแบบ
- onsite หรือออนไลน์ เน้นลงมือทำ
หลักสูตรนี้จัดแบบ in-house ที่องค์กรของคุณได้ โดยปรับเคสและแบบฝึกหัดให้เป็นงานจริงของแผนกที่เข้าอบรม
สิ่งที่คุณจะได้
- อธิบายการโจมตีหลักต่อระบบ AI ได้ ตั้งแต่ prompt injection ถึงการดึงข้อมูลออกผ่าน tool
- ทดสอบผู้ช่วย AI และ agent ขององค์กรด้วยชุดทดสอบการโจมตีพื้นฐาน
- ออกแบบสิทธิ์ของ agent ตามหลักให้น้อยที่สุด และจุดที่ต้องมีคนอนุมัติ
- วางมาตรการป้องกันข้อมูลรั่วผ่านเครื่องมือ AI ทั้งฝั่งเทคนิคและนโยบาย
- เขียนแนวปฏิบัติด้านความปลอดภัย AI ที่ทีมพัฒนาและทีมธุรกิจใช้ร่วมกันได้
ตารางเวลาอบรม 1 วัน
09:00–16:00 · ปรับหัวข้อ เคส และแบบฝึกหัดให้ตรงงานขององค์กรได้ · ขยายเป็น 2 วันได้ เมื่ออยากให้ทีมทำเวิร์กชอปกับงานจริงนานขึ้น
09:00–10:30
พื้นผิวการโจมตีของระบบ AI
- โมเดล ข้อมูล เครื่องมือ และคน
- ตัวอย่างการโจมตีที่เกิดขึ้นจริง
กิจกรรมวาดแผนผังพื้นผิวการโจมตีของผู้ช่วย AI ในองค์กรตัวเอง
10:30–10:45
พัก
10:45–12:00
Prompt injection และการรั่วของข้อมูล
- prompt injection ทางตรงและทางอ้อม และวิธีทดสอบ
- การรั่วของข้อมูลผ่านบทสนทนา ผ่าน tool และผ่านหน่วยความจำของ agent
กิจกรรมทดสอบผู้ช่วย AI ตัวอย่างด้วยชุดทดสอบการโจมตีพื้นฐาน
12:00–13:00
พักกลางวัน
13:00–14:30
สิทธิ์ของ agent และมาตรการป้องกัน
- ขอบเขตสิทธิ์ตามหลักให้น้อยที่สุด และจุดที่ต้องมีคนอนุมัติ
- มาตรการป้องกันเป็นชั้น: ฝั่งอินพุต ฝั่งเครื่องมือ และฝั่งเอาต์พุต
กิจกรรมออกแบบสิทธิ์ของ agent หนึ่งตัวใหม่ และวางจุดอนุมัติ
14:30–14:45
พัก
14:45–16:00
เฝ้าระวัง ตอบสนอง และแนวปฏิบัติ
- การบันทึก การเฝ้าระวัง และการตอบสนองเมื่อเกิดเหตุ
- แนวปฏิบัติด้านความปลอดภัย AI ที่ทีมพัฒนาและทีมธุรกิจใช้ร่วมกันได้
กิจกรรมเวิร์กชอป: ทดสอบและแก้ระบบ AI ขององค์กร
คำถามที่พบบ่อย
- เหมาะกับใคร?
- ทีมไอที ทีมความปลอดภัย และทีมพัฒนาที่ดูแลผู้ช่วย AI หรือ agent ขององค์กร ผู้บริหารด้านความปลอดภัยเข้าร่วมโมดูลภาพรวมและมาตรการได้โดยไม่ต้องลงมือทดสอบ
- ต่างจากหลักสูตร AI Governance อย่างไร?
- AI Governance เน้นนโยบาย ความเสี่ยง และการกำกับดูแลระดับองค์กร หลักสูตรนี้เน้นเทคนิค คือลงมือทดสอบและป้องกันระบบจริง องค์กรส่วนใหญ่จัดทั้งสองอย่างให้คนละกลุ่ม
บทความที่เกี่ยวข้องกับหลักสูตรนี้
- ความปลอดภัย AI ในองค์กร: prompt injection, สิทธิ์ของ agent และการรั่วของข้อมูล
ช่องโหว่เชิงเทคนิคสามข้อที่เจอบ่อยเมื่อ AI เริ่มทำงานที่มีผลจริง — prompt injection สิทธิ์ของ agent ที่กว้างเกินจำเป็น และการรั่วของข้อมูลผ่านเครื่องมือ — พร้อมมาตรการที่ทำได้จริงและห้าอย่างที่องค์กรควรตั้งเป็นพื้นฐาน
- กันมิจฉาชีพปลอมเสียงและวิดีโอผู้บริหารสั่งโอนเงิน: บทเรียนคดี 200 ล้านดอลลาร์ฮ่องกง และแม่แบบขั้นตอนยืนยันคำสั่ง
การหลอกโอนเงินด้วยเสียงหรือวิดีโอปลอมของผู้บริหารป้องกันได้ด้วยขั้นตอนยืนยันที่ไม่พึ่งการจำหน้าหรือเสียง รัฐบาลฮ่องกงรายงานคดีที่มิจฉาชีพปลอมเป็น CFO ผ่านวิดีโอคอลที่อัดไว้ล่วงหน้า เสียหายราว 200 ล้านดอลลาร์ฮ่องกง ThaiCERT เตือนว่าโคลนเสียงแบบเรียลไทม์ได้จากเสียงไม่กี่นาที บทความนี้มีลำดับเหตุการณ์ คำแนะนำของ FBI ฮ่องกง และ ThaiCERT แม่แบบขั้นตอนยืนยันคำสั่งโอนเงิน และเกณฑ์ในไทยที่เกี่ยวข้อง
- แนวปฏิบัติ AI Security Guidelines ของ สกมช.: ใช้กับใคร บังคับไหม ภัยที่ระบุ และแผนอบรมตามบทบาท
สกมช. เผยแพร่แนวปฏิบัติการใช้ปัญญาประดิษฐ์อย่างมั่นคงปลอดภัย (AI Security Guidelines) เมื่อ 1 ต.ค. 2025 เป็นเอกสาร 141 หน้าที่แนะนำแนวปฏิบัติที่ดี ไม่มีผลบังคับ ยกเว้นระบบ AI ในหน่วยงาน CII ที่ต้องเป็นไปตามมาตรฐานภายใต้ พ.ร.บ.ไซเบอร์ เนื้อหาครอบคลุมทุกบทบาท จัดความเสี่ยงสี่ระดับตามแนว EU AI Act ระบุภัยอย่าง Prompt Injection และ Data Poisoning จัด AI ในงาน HR เป็นความเสี่ยงสูง และแนะนำให้อบรมตามบทบาทพร้อมวัดผล บทความนี้มีตารางเอกสาร AI ของ สกมช. ภัยที่ระบุ ขั้นตอนเริ่มต้น และแม่แบบแผนอบรมตามบทบาท
- แม่แบบแผนรับมือเหตุจาก AI: แจ้ง สคส. ภายใน 72 ชั่วโมง สกมช. ภายใน 24 ชั่วโมง ฟิลด์รายงานตาม NIST และช่องทางแจ้งผู้ให้บริการ
แผนรับมือเหตุจาก AI คือแผนรับมือเหตุเดิมที่เพิ่มประเภทเหตุเฉพาะของ AI ขั้นตอนหยุดระบบ AI และช่องทางแจ้งผู้ให้บริการ นาฬิกาตามกฎหมายไทยเป็นชุดเดิม ข้อมูลส่วนบุคคลรั่วต้องแจ้ง สคส. ภายใน 72 ชั่วโมงนับแต่ทราบเหตุ ถ้าไม่ทันต้องแจ้งไม่เกิน 15 วันนับแต่ทราบเหตุพร้อมเหตุผล และหน่วยงาน CII ต้องรายงาน สกมช. ภายใน 24 ชั่วโมง ISACA พบว่า 56% ไม่รู้ว่าจะหยุดระบบ AI ได้เร็วแค่ไหน บทความนี้มีประเภทเหตุตาม OWASP ตารางนาฬิกาตามกฎหมาย แผนหกขั้น ฟิลด์รายงานตาม NIST และช่องทางแจ้งของสี่ผู้ให้บริการ
- Shadow AI ในองค์กร: คนไทย 81% ของผู้ใช้ AI ใช้เครื่องมือที่เลือกเอง วิธีสำรวจ เครื่องมือตรวจจับ และแผน 30 วัน
Shadow AI คือการที่พนักงานใช้เครื่องมือ AI ที่องค์กรไม่ได้อนุมัติ Microsoft พบว่าคนทำงานสายความรู้ในไทย 92% ใช้ AI ในงาน และ 81% ของผู้ใช้ใช้เครื่องมือที่เลือกเอง IBM พบว่า 1 ใน 5 องค์กรเคยถูกเจาะข้อมูลจาก Shadow AI และมีเพียง 37% ที่มีนโยบายจัดการหรือตรวจจับ ทางแก้ที่ได้ผลคือให้เครื่องมือแบบองค์กรที่ดีพอ สำรวจแบบไม่ลงโทษ แล้วบล็อกเฉพาะส่วนที่เสี่ยง บทความนี้มีตัวเลขที่ตรวจจากต้นฉบับ เครื่องมือตรวจจับของ Microsoft และ Google แบบสำรวจที่คัดลอกไปใช้ได้ และแผน 30 วัน
- ข้อมูลไปประมวลผลที่ไหน: data residency ของ Claude, Microsoft Copilot, ChatGPT และ Gemini สำหรับองค์กรไทย (ต.ค. 2026)
ณ ต.ค. 2026 ยังไม่มีผู้ให้บริการรายใดในสี่รายให้เลือกประเทศไทยเป็นที่เก็บหรือที่ประมวลผลข้อมูล และทุกรายแยกที่เก็บออกจากที่ประมวลผล Claude เก็บที่สหรัฐฯ Microsoft 365 Copilot รับประกันที่เก็บเฉพาะประเทศในรายการซึ่งไม่มีไทย ChatGPT Enterprise เลือกที่เก็บได้ 10 ภูมิภาครวมสิงคโปร์แต่ประมวลผลในภูมิภาคได้แค่ยุโรป สหรัฐฯ และ UAE ส่วน Google Workspace เลือกได้แค่สหรัฐฯ หรือยุโรป บทความนี้มีตารางเทียบ รายละเอียดแต่ละราย เหตุผลที่ไม่ควรพึ่งข้อยกเว้นในประกาศ สคส. ตามมาตรา 28 และคำถามที่ฝ่าย IT กับ DPO ควรถามก่อนซื้อ
- ก่อนวางข้อมูลลงใน AI: เช็กลิสต์ 5 ข้อสำหรับพนักงาน และวิธีปกปิดข้อมูลให้ใช้ได้จริง
ข้อมูลที่ไม่ควรใส่ในเครื่องมือ AI ที่องค์กรไม่ได้อนุมัติมีสี่กลุ่ม — ข้อมูลส่วนบุคคล (PDPA มาตรา 6) ข้อมูลอ่อนไหว (มาตรา 26) ความลับทางธุรกิจ และเอกสารที่มีสัญญาห้ามเปิดเผย บทความนี้ให้ตารางชั้นข้อมูลว่าอะไรใส่เครื่องมือไหนได้ เช็กลิสต์ 5 ข้อก่อนวางข้อมูล ตารางปกปิดข้อมูลแบบไทย (เลขบัตรประชาชน เบอร์โทร เลขบัญชี ที่อยู่) แผ่นเช็กลิสต์ติดข้างจอ และแหล่งอ้างอิงตัวบท PDPA
อยากจัด AI Security: Prompt Injection, Agent Permissions & Data Leak Prevention ให้ทีมของคุณ?
บอกจำนวนคน สายงาน และช่วงเวลาที่สะดวก แล้วเราจะเสนอรูปแบบการจัดและใบเสนอราคาให้