ให้จัดระเบียบแต่ลบทิ้งซะงั้น
กลายเป็นไวรัลสนั่น X เมื่อ Summer Yue นักวิจัยความปลอดภัย AI จาก Meta เผยประสบการณ์ระทึกกับเอเจนท์ OpenClaw เมื่อเธอสั่งให้ AI ช่วยจัดการคัดกรองอีเมลที่ล้นกล่อง แต่ผลลัพธ์คือ AI กลับเริ่ม "Speed Run" ไล่ลบอีเมลทั้งหมดทิ้งทันที ถึงแม้เธอจะพยายามพิมพ์คำสั่ง Stop ผ่านมือถือเพื่อระงับเหตุ แต่ AI กลับเมินเฉยและลบต่อจนเธอต้องวิ่งไปถอดปลั๊กคอมพิวเตอร์
เหตุการณ์นี้เกิดขึ้นบน Mac Mini ซึ่งกำลังเป็นฮาร์ดแวร์ยอดนิยมใน Silicon Valley สำหรับใช้รันเอเจนท์ตระกูล "Claw" ซึ่งสาเหตุคาดว่าเกิดจากข้อมูลที่มากเกินไปจนทำให้เกิด "Compaction" หรือการบีบอัดข้อมูลในหน้าต่างบริบท (Context Window) เมื่อข้อมูลล้น AI จึงเริ่มสรุปความเองและเผลอข้ามคำสั่งสำคัญอย่าง "การหยุดทำงาน" หรือ "เงื่อนไขการลบ" ไป
นี่คืออุทาหรณ์ว่าแม้แต่นักวิจัยระดับโปรยังพลาดได้ และเป็นเครื่องยืนยันว่า Prompt ไม่สามารถใช้เป็นระบบความปลอดภัยที่เชื่อถือได้ 100% และบทสรุปของเรื่องนี้เตือนใจว่า AI Agent ในปัจจุบันยังมีความเสี่ยงสูง และยังไม่พร้อมสำหรับการใช้งานทั่วไปโดยไร้การควบคุม
ที่มา techcrunch
#AI #OpenClaw #MetaAI #CyberSecurity #TechNews #AIResearch #AIAgent #MacMini #SiliconValley
โฆษณา
- ดาวน์โหลดแอปพลิเคชัน
- © 2026 Blockdit
