คอร์ส

AI Security: Prompt Injection, Agent Permissions & Data Leak Prevention

เมื่อองค์กรเริ่มให้ AI อ่านอีเมล เปิดไฟล์ และทำงานแทนคน ช่องทางโจมตีใหม่ก็ตามมา หลักสูตรนี้ให้ทีมไอทีและความปลอดภัยเข้าใจการโจมตีที่เกิดจริง ลงมือทดสอบระบบของตัวเอง และวางมาตรการที่ใช้ได้กับเครื่องมือที่องค์กรใช้อยู่

ขั้นสูง · 7 บทเรียน · จัดอบรมในองค์กรได้

หลักสูตรนี้จัดแบบ in-house ที่องค์กรของคุณได้ โดยปรับเคสและแบบฝึกหัดให้เป็นงานจริงของแผนกที่เข้าอบรม

ขอใบเสนอราคาส่งพนักงานมาลอง Public Class

สิ่งที่คุณจะได้

  • อธิบายการโจมตีหลักต่อระบบ AI ได้ ตั้งแต่ prompt injection ถึงการดึงข้อมูลออกผ่าน tool
  • ทดสอบผู้ช่วย AI และ agent ขององค์กรด้วยชุดทดสอบการโจมตีพื้นฐาน
  • ออกแบบสิทธิ์ของ agent ตามหลักให้น้อยที่สุด และจุดที่ต้องมีคนอนุมัติ
  • วางมาตรการป้องกันข้อมูลรั่วผ่านเครื่องมือ AI ทั้งฝั่งเทคนิคและนโยบาย
  • เขียนแนวปฏิบัติด้านความปลอดภัย AI ที่ทีมพัฒนาและทีมธุรกิจใช้ร่วมกันได้

หัวข้อในคอร์ส

  1. 01พื้นผิวการโจมตีของระบบ AI: โมเดล ข้อมูล เครื่องมือ และคน
  2. 02Prompt injection ทางตรงและทางอ้อม: ตัวอย่างจริงและวิธีทดสอบ
  3. 03การรั่วของข้อมูล: ผ่านบทสนทนา ผ่าน tool และผ่านหน่วยความจำของ agent
  4. 04สิทธิ์ของ agent: ขอบเขต การอนุมัติจากคน และการจำกัดความเสียหาย
  5. 05มาตรการป้องกันเป็นชั้น: ฝั่งอินพุต ฝั่งเครื่องมือ และฝั่งเอาต์พุต
  6. 06การบันทึก การเฝ้าระวัง และการตอบสนองเมื่อเกิดเหตุ
  7. 07เวิร์กชอป: ทดสอบและแก้ระบบ AI ขององค์กรคุณ

คำถามที่พบบ่อย

เหมาะกับใคร?
ทีมไอที ทีมความปลอดภัย และทีมพัฒนาที่ดูแลผู้ช่วย AI หรือ agent ขององค์กร ผู้บริหารด้านความปลอดภัยเข้าร่วมโมดูลภาพรวมและมาตรการได้โดยไม่ต้องลงมือทดสอบ
ต่างจากหลักสูตร AI Governance อย่างไร?
AI Governance เน้นนโยบาย ความเสี่ยง และการกำกับดูแลระดับองค์กร หลักสูตรนี้เน้นเทคนิค คือลงมือทดสอบและป้องกันระบบจริง องค์กรส่วนใหญ่จัดทั้งสองอย่างให้คนละกลุ่ม

บทความที่เกี่ยวข้องกับหลักสูตรนี้

บทความทั้งหมด →

อยากจัด AI Security: Prompt Injection, Agent Permissions & Data Leak Prevention ให้ทีมของคุณ?

บอกจำนวนคน สายงาน และช่วงเวลาที่สะดวก แล้วเราจะเสนอรูปแบบการจัดและใบเสนอราคาให้

ขอใบเสนอราคาดูวิธีจัดอบรมในองค์กร