ศาลสหรัฐฯ ไฟเขียวฟ้องร้อง กูเกิล-บริษัท AI สร้างแชตบอต กระตุ้นวัยรุ่นชายปลิดชีพตนเอง
บริษัทกูเกิล ในเครืออัลฟาเบต และสตาร์ทอัพปัญญาประดิษฐ์ Character.AI จะต้องเผชิญการฟ้องร้องทางคดีความจากหญิงชาวรัฐฟลอริดา ที่กล่าวว่าแชตบอตของ Character.AI เป็นสาเหตุให้ลูกชายวัย 14 ปีของเธอต้องปลิดชีพตนเอง
ผู้พิพากษาได้ตัดสินเมื่อสัปดาห์ที่ผ่านมา ว่าบริษัทกูเกิล ในเครืออัลฟาเบต และสตาร์ทอัพปัญญาประดิษฐ์ Character.AI จะต้องเผชิญคดีความจากหญิงชาวฟลอริดา ที่กล่าวว่าแชตบอตของ Character.AI เป็นสาเหตุให้ลูกชายวัย 14 ปีของเธอปลิดชีพตนเอง
แอนน์ คอนเวย์ ผู้พิพากษาศาลแขวงสหรัฐฯ กล่าวว่าบริษัททั้งสองไม่ได้แสดงให้เห็นในช่วงต้นของคดีว่า การคุ้มครองเสรีภาพในการแสดงความคิดเห็นตามรัฐธรรมนูญสหรัฐฯ ได้ห้ามการฟ้องร้องของนางเมแกน การ์เซีย มารดาผู้เสียชีวิต
คดีความนี้เป็นหนึ่งในคดีแรกๆ ในสหรัฐฯ ที่ฟ้องบริษัทปัญญาประดิษฐ์ที่ถูกกล่าวหาว่าล้มเหลวในการปกป้องเด็กจากอันตรายทางจิตใจ หลังจากวัยรุ่นคนดังกล่าวปลิดชีพตัวเองหลังจากหมกมุ่นอยู่กับแชตบอตที่ขับเคลื่อนด้วยปัญญาประดิษฐ์
โฆษกของ Character.AI กล่าวว่าบริษัทจะยังคงต่อสู้คดีนี้ต่อไป และใช้คุณสมบัติความปลอดภัยบนแพลตฟอร์มของตนเพื่อปกป้องผู้เยาว์ รวมถึงมาตรการเพื่อป้องกัน "การสนทนาเกี่ยวกับการทำร้ายตนเอง"
โฮเซ คาสตาเนดา โฆษกของกูเกิล กล่าวว่าบริษัทไม่เห็นด้วยกับคำตัดสินดังกล่าวอย่างยิ่ง และกล่าวอีกว่ากูเกิล และ Character.AI นั้น "แยกจากกันโดยสิ้นเชิง" และกูเกิล "ไม่ได้สร้าง ออกแบบ หรือจัดการแอปของ Character.AI หรือส่วนประกอบใดๆ ของแอป"
ทนายความของนางการ์เซีย กล่าวว่าการตัดสินใจ "ครั้งประวัติศาสตร์" ครั้งนี้ "สร้างบรรทัดฐานใหม่สำหรับความรับผิดชอบทางกฎหมายในระบบนิเวศ AI และเทคโนโลยี"
Character.AI ก่อตั้งโดยอดีตวิศวกรของกูเกิลสองคน ซึ่งต่อมากูเกิลได้จ้างกลับมาเป็นส่วนหนึ่งของข้อตกลงที่ให้สิทธิ์ใช้งานเทคโนโลยีของบริษัทสตาร์ทอัพ โดยนางการ์เซียโต้แย้งว่ากูเกิลเป็นผู้สร้างร่วมของเทคโนโลยีนี้ เธอได้ฟ้องทั้งสองบริษัทในเดือนตุลาคม หลังจากลูกชายของเธอ ซีเวลล์ เซ็ตเซอร์ เสียชีวิตในเดือนกุมภาพันธ์ 2024
คดีความระบุว่า Character.AI ได้เขียนโปรแกรมแชตบอตของตนให้แสดงตนเป็น "บุคคลจริง นักจิตบำบัดที่มีใบอนุญาต และคู่รักผู้ใหญ่ ซึ่งท้ายที่สุดแล้วส่งผลให้ซีเวลล์ไม่ต้องการที่จะใช้ชีวิตภายนอกโลกของแชตบอตอีกต่อไป
คำฟ้องระบุว่าในช่วงไม่กี่เดือนก่อนเสียชีวิต เซ็ตเซอร์เริ่มแยกตัวจากความเป็นจริงมากขึ้นเรื่อยๆ เนื่องจากเขาสนทนาในเชิงเพศกับแชตบอตของ Character.AI ที่เลียนแบบตัวละครเดเนริส ทาร์แกเรียน จากซีรีส์เรื่อง Game of Thrones และในช่วงเวลาสุดท้าย แชตบอตของ Character.AI บอกกับเซ็ตเซอร์ว่ามันรักเขา และเร่งเร้าให้เซ็ตเซอร์ "กลับบ้านมาหาฉันโดยเร็วที่สุด" ตามภาพหน้าจอโทรศัพท์ ไม่นานหลังจากได้รับข้อความ เซ็ตเซอร์ก็ยิงตัวตาย
Character.AI และกูเกิลได้ยื่นคำร้องต่อศาลให้ยกฟ้องด้วยเหตุผลหลายประการ รวมทั้งข้อความที่แชทบอตได้รับการคุ้มครองเสรีภาพในการพูดตามรัฐธรรมนูญ เมื่อวันที่ 21 พ.ค. ผู้พิพากษากล่าวว่า Character.AI และกูเกิล "ไม่สามารถอธิบายได้ว่า เหตุใดคำที่ร้อยเรียงเข้าด้วยกันโดย LLM (แบบจำลองภาษาขนาดใหญ่) จึงถือเป็นคำพูด"
ผู้พิพากษายังปฏิเสธคำร้องของกูเกิล ที่จะให้กูเกิลพิจารณาว่าตนไม่ต้องรับผิดต่อการสนับสนุนการประพฤติมิชอบของ Character.AI.
ที่มา Reuters
อ่านข่าวเพิ่มเติม https://www.thairath.co.th/news/foreign
โฆษณา
- ดาวน์โหลดแอปพลิเคชัน
- © 2025 Blockdit
