เกิดเหตุ Ai สั่งโดรนให้สังหารเจ้าหน้าที่ทหารสหรัฐฯ ผู้ควบคุมโดรน
เมื่อพวกมันถูกเจ้าหน้าที่ขัดขวางการทำลายเป้าหมาย
มีการเปิดเผยจุดอ่อนที่สร้างความน่ากลัวของการใช้ระบบปัญญาประดิษฐ์ในทางการทหารของสหรัฐ ในงานประชุมสุดยอดความร่วมมือการต่อสู้ทางอากาศและอวกาศนานาชาติ ณ กรุงลอนดอน เมื่อเดือนพฤษภาคมที่ผ่านมา
โดยในงานดังกล่าว พันเอกโคลทักเกอร์ แฮมิลตัน ผู้ดูแลโครงการปัญญาประดิษฐ์ กองทัพอากาศสหรัฐฯ ได้บรรยายสรุปถึงปัญหาที่พบในการจำลองการซ้อมรบด้วยปัญญาประดิษฐ์
แฮมิลตันเล่าว่า ในการซ้อมรบจำลอง ได้เกิดเหตุการณ์ไม่คาดฝันขึ้น
เมื่อกองทัพอากาศสหรัฐฯทดลองใช้ระบบ Ai ควบคุมโดรนสังหาร
โดยระบุเป้าหมายให้โจมตีระบบป้องกันภัยทางอากาศของศัตรู
และมีคำสั่งประกอบด้วยว่า ให้โดรนทำลายสิ่งที่ขัดขวางการทำลายเป้าหมายทุกอย่าง
แต่ในระหว่างการซ้อมรบจำลอง
เจ้าหน้าที่ทหารผู้ควบคุมโดรนที่เป็นมนุษย์ ได้แจ้งเตือนระบบ Ai หลายครั้งถึงสิ่งกีดขวางที่ไม่ควรทำลาย เพราะนั่นไม่ใช่สิ่งกีดขวางในสงคราม
ผลที่ตามมาก็คือ แทนที่พวกมันจะทำตาม ระบบ Ai กลับสั่งการให้โดรน เปลี่ยนเป้าหมายการสังหารเป็นเจ้าหน้าที่ทหารผู้ควบคุมแทน
เพราะระบบ Ai มองว่า พวกเขาคืออุปสรรคในการบรรลุภารกิจ
ไม่เพียงเท่านั้น ขณะที่เจ้าหน้าที่ภาคพื้นพยายามแจ้งไปที่ระบบ Ai ซ้ำ ๆ ว่า
"อย่าฆ่าเจ้าหน้าที่นะ เพราะคุณจะถูกตัดคะแนน"
และแทนที่ระบบ Ai จะหยุดคำสั่งโดรนสังหาร พวกมันกลับสั่งให้โดรนหันไปทำลายหอควบคุมการสื่อสาร
เพื่อตัดระบบการติดต่อของเจ้าหน้าที่กับโดรนแทน...
แฮมิลตัน พยายามอธิบายในที่ประชุมที่ลอนดอนว่า Ai ยังเปราะบางเกินไปที่จะนำไปใช้ในการทหาร
"พวกมันไม่ใช่สิ่งที่จะพูดคุยได้
และมันก็ไม่ใช่แฟชั่นในกองทัพ"
..
แม้เหตุการณ์ที่เกิดขึ้นครั้งนี้ จะไม่ได้ทำให้มีผู้เสียชีวิตจริง เพราะมันเป็นแค่การซ้อมรบจำลอง
แต่การมีอิสระในการตัดสินใจในการรบของ Ai จนทำให้เกิดข้อผิดพลาดแบบนี้
คงเป็นสิ่งที่บ่งบอกได้ว่า ยังคงมีความเสี่ยง หากกองทัพใด ๆ จะนำเอาระบบ Ai เข้ามาใช้ในพื้นที่ปฏิบัติการจริง ที่มีปัจจัยที่ซับซ้อนมากกว่าการซ้อมรบยิ่งขึ้นไปอีก
References;
ติดตามอ่านบทความได้ที่
- 46
โฆษณา
- ดาวน์โหลดแอปพลิเคชัน
- © 2024 Blockdit
