5 มิ.ย. 2023 เวลา 03:00 • วิทยาศาสตร์ & เทคโนโลยี

AI Drone ปลิดชีพผู้ควบคุมในระบบจำลอง จริงเหรอ?

Col. Tucker Hamilton ทหารอากาศกองทัพสหรัฐได้เล่าในงานสัมมนา Aeronautical Society's Future Combat Air and Space Capabilities Summit ในกรุงลอนดอนถึงประสบการณ์การทดลอง Drone ที่ใช้ AI ในการควบคุม ผ่านระบบจำลองเหตุการณ์ ซึ่งให้ AI ควบคุม Drone เพื่อไปทำลายเป้าหมาย ซึ่งผู้ควบคุม Drone สั่งให้ยกเลิกปฏิบัติการ แต่ AI ไม่ยอมเลิก และหันมาทำลายผู้ควบคุมแทน
แต่เพียงไม่กี่วันหลังจากนั้น เขาได้ออกมาพูดว่า เขาสื่อสารผิดไป เหตุการณ์นั้นไม่ได้เกิดขึ้นจริง เป็นเพียงการทดลองทางความคิดเท่านั้น และทางกองทัพไม่มีการทำเรื่องดังกล่าว
เขาเพียงต้องการสื่อถึงปัญหาทางจริยธรรมของ AI ที่ AI อาจจะต้องการทำให้ได้ตามเป้าหมายถึงจะได้คะแนน และอาจจะเลือกทำทุกวิถีทางที่จะให้ถึงเป้าหมาย หากระบบสามารถเรียนรู้ได้ว่า ผู้ควบคุมยานที่เป็นคนคอยยกเลิกปฏิบัติการตลอดเวลา เพราะเป็นเพียงการทดลอง AI เองก็อาจจะเรียนรู้ได้ว่าผู้ควบคุมยานนั่นแหละเป็นตัวที่ทำให้ AI ทำไม่ได้ตามเป้าหมาย และอาจจะเลือกกำจัดผู้ควบคุม เพื่อบรรลุเป้าหมายก็เป็นได้
1
เรื่องราวเหล่านี้ ถึงแม้จะไม่ใช่การทดลองจริงแต่อย่างใด แต่ก็เป็นเรื่องที่น่าสนใจ และพอพูดแบบนี้ยิ่งทำให้สับสน และไม่แน่ใจว่าจะเชื่อ “ทหาร” ได้หรือไม่ อย่างไรก็ตาม มันก็ทำให้นึกถึง Isaac Asimov นักแต่งนวนิยายวิทยาศาสตร์ชื่อดัง ที่เขียนถึง Law of Robotic ไว้ว่า
1. A robot may not injure a human being or, through inaction, allow a human being to come to harm.
2. A robot must obey orders given it by human beings except where such orders would conflict with the First Law.
3. A robot must protect its own existence as long as such protection does not conflict with the First or Second Law.
เพื่อมนุษยชาติอยู่รอดปลอดภัยจาก AI และ Robot
ว่าแต่ว่ามันถึงเวลานั้นหรือยังที่เราต้องระบุกฎเหล่านี้ลงไปใน AI ทุกตัวล่วงหน้ากันเหนียว?
โฆษณา