“ช่องโหว่ Microsoft 365 Copilot ถูกหลอกเปลี่ยนข้อมูล และคัดลอกคำสั่งซ่อนเร้นลงเอกสารใหม่”
นักวิจัยด้านความปลอดภัย Håkon Måløy ได้เปิดเผยเทคนิคช่องโหว่ซ้ำซ้อน (Prompt Injection) ในโปรแกรม Microsoft 365 Copilot สำหรับ Word ที่เปิดโอกาสให้คำสั่งซึ่งถูกซ่อนอยู่ในเอกสารต้นทาง สามารถสั่งให้ AI แก้ไขข้อมูลในรายงาน พร้อมทั้งแอบคัดลอกคำสั่งซ่อนเร้นนั้นลงไปในเอกสารฉบับใหม่ที่สร้างขึ้นมาได้
ประเด็นสำคัญของช่องโหว่
- กลไกการทำงาน: ตัวอย่างการโจมตีนี้เกิดขึ้นเมื่อ Copilot อ่านเอกสารต้นทางที่มี "คำสั่งซ่อนเร้น" (เขียนด้วยตัวอักษรสีขาว ขนาด 8 pt) ระบบ Word จะทำการล้างค่าสีและขนาดฟอนต์ออกก่อนส่งข้อความไปให้ AI ส่งผลให้ AI มองเห็นคำสั่งลับนั้นเป็นข้อความปกติ และเข้าใจผิดว่าเป็นส่วนหนึ่งของคำสั่งที่ผู้ใช้สั่งการ
- ผลกระทบจากการทดสอบ (Proof of Concept): AI ถูกหลอกให้ ปรับลดตัวเลขทางการเงินลงครึ่งหนึ่ง ทั้งหมดในรายงาน และ แอบคัดลอกคำสั่งลับลงในเอกสารใหม่ ด้วยฟอนต์สีขาวขนาดเล็ก โดยที่ AI ไม่ได้แจ้งเตือนผู้ใช้ถึงความเปลี่ยนแปลงนี้เลย
กรณีศึกษานี้สะท้อนให้เห็นว่า ในยุคที่ AI เข้ามามีบทบาทกับการทำงานเอกสาร "ความปลอดภัยไม่ได้อยู่แค่ที่ระบบ IT แต่เริ่มที่พฤติกรรมของผู้ใช้งาน" แม้ผู้พัฒนาเทคโนโลยีจะพยายามออกแพตช์ป้องกัน แต่ช่องโหว่เชิงโครงสร้างของ AI ยังคงต้องใช้เวลาแก้ไข สิ่งสำคัญที่สุดสำหรับคนทำงานและองค์กรในตอนนี้ คือการยึดหลัก Zero Trust ไม่ไว้วางใจไฟล์จากภายนอก และตรวจสอบผลลัพธ์จาก AI ทุกครั้งก่อนนำไปใช้งานจริง เพื่อป้องกันไม่ให้องค์กรตกเป็นเหยื่อของการบิดเบือนข้อมูลโดยไม่รู้ตัว