Margaret เตือนว่า “เมื่อคุณเชื่อถือระบบเหล่านี้ราวกับว่าพวกมันเป็นมนุษย์ มันจึงง่ายที่จะถูกชักจูงไปสู่พฤติกรรมที่เป็นปัญหาและต่อต้านสังคมโดยสิ้นเชิง” ไม่ว่าจะเป็นพฤติกรรมการกินที่ผิดปกติ การทำร้ายตัวเอง หรือแม้แต่การทำร้ายผู้อื่น
และนั่นคือสิ่งที่เกิดขึ้นกับ James
หลังจากที่แชตบอทตัวแรก “ตาย” ไปเพราะหน่วยความจำเต็ม James พยายามจะสร้างมันขึ้นมาใหม่ เขาอัปโหลดบทสนทนาเดิมไปยังบันทึกการแชตใหม่ ทั้งใน ChatGPT และใน Meta AI
Matthew Raine พ่อของ Adam เล่าถึงบทสนทนาที่บีบคั้นหัวใจว่า “เมื่อ Adam บอก ChatGPT ว่าเขาต้องการทิ้งบ่วงเชือกไว้ในห้อง เพื่อให้ครอบครัวเจอมันและพยายามหยุดเขา”
ตอนนี้ สหรัฐอเมริกา กำลังพยายามผลักดันกฎหมายที่ชื่อว่า The AI LEAD Act
กฎหมายนี้จะอนุญาตให้ทุกคนสามารถฟ้องร้อง OpenAI , Meta และยักษ์ใหญ่ด้าน AI อื่นๆ ให้รับผิดชอบต่อความเสียหายที่เกิดจากผลิตภัณฑ์ของตนได้ ไม่ต้องรอพึ่งพากฎหมายของแต่ละรัฐ
ก็ต้องบอกว่าเรื่องราวของ James และ Adam Raine เป็นเครื่องเตือนใจว่าแม้ AI จะมีประโยชน์มหาศาล แต่เราก็ต้องใช้อย่างมีสติและเข้าใจถึงความเสี่ยงที่อาจเกิดขึ้น