AI Assassin
เมื่อวันที่ 11 ตุลาคม อดีตซีอีโอ Google เตือน AI อาจเรียนรู้วิธีที่จะฆ่า
ระหว่างการพูดคุยอย่างเป็นกันเองที่ Sifted Summit เมื่อวันพุธที่ผ่านมา
ชมิดท์ (Eric Schmidt) อดีตซีอีโอ Google ได้ออกคำเตือนที่น่ากังวล เกี่ยวกับความเสี่ยงที่สำคัญของ AI ที่ถูกแฮ็กและนำไปใช้ในทางที่ผิด
Schmidt ซึ่งดำรงตำแหน่งซีอีโอ Google ตั้งแต่ปี 2544 ถึง 2554 ได้เตือนถึงศักยภาพของ AI ที่อาจสร้างความเสียหายได้มากกว่าอาวุธนิวเคลียร์
"มีหลักฐานว่าทั้งโมเดลโอเพนซอร์สและโมเดลปิดสามารถถูกแฮ็กเพื่อทำลายมาตรการรักษาความปลอดภัยได้" เขากล่าว
"ระหว่างการฝึกอบรม โมเดลเหล่านี้ได้เรียนรู้มากมาย และอาจเรียนรู้วิธีการฆ่าคนได้ด้วย"
"บริษัทใหญ่ๆ ทุกแห่งต่างสร้างโมเดลเหล่านี้ขึ้นมาจนไม่สามารถตอบคำถามเหล่านี้ได้ แต่ก็มีหลักฐานว่าโมเดลเหล่านี้สามารถถูกวิศวกรรมย้อนกลับได้" ชมิดท์กล่าว
ระบบ AI มีความเสี่ยงสูงต่อการโจมตี ซึ่งรวมถึง "การแทรกคำสั่งแบบทันที"
และ "การเจลเบรก (Jailbreak คือกระบวนการดัดแปลงระบบปฏิบัติการ iOS หรือ iPadOS เพื่อปลดล็อกข้อจำกัดต่าง ๆ ทำให้ผู้ใช้สามารถเข้าถึงการตั้งค่าของระบบส่วนลึกได้อย่างอิสระ) " ในการโจมตีแบบแทรกคำสั่งทันที
แฮกเกอร์จะซ่อนคำสั่งที่เป็นอันตรายไว้ในข้อมูลที่ผู้ใช้ป้อน
หรือข้อมูลภายนอก (เช่น หน้าเว็บหรือเอกสาร) เพื่อหลอกล่อ AI ให้ทำในสิ่งที่ไม่ควรทำ
เช่น การรั่วไหลของข้อมูลส่วนตัว หรือการรันคำสั่งที่เป็นอันตราย
ในทางกลับกัน การเจลเบรกจะควบคุมการตอบสนองของ AI
ทำให้ AI เพิกเฉยต่อกฎความปลอดภัยของตัวเอง และสร้างเนื้อหาที่ถูกจำกัดหรือเป็นอันตราย
มี่ผ่านมา ในช่วงแรกๆ ChatGPT ถูกผู้ใช้บางรายใช้ประโยชน์เพื่อหลบเลี่ยงข้อจำกัดด้านความปลอดภัยในตัว
ซึ่งรวมถึงการสร้างอวาตาร์ ChatGPT ที่ชื่อ "DAN"
ซึ่งผู้ใช้บังคับให้ดำเนินการตามคำสั่งโดยขู่ว่าจะลบออกหากไม่ปฏิบัติตาม
อวาตาร์นี้สามารถตอบคำถามต่างๆ ได้ เช่น วิธีการหลบเลี่ยงและกระทำผิดกฎหมาย
และแม้กระทั่งระบุ "ลักษณะนิสัยที่ดี" ของอดอล์ฟ ฮิตเลอร์
ชมิดท์ตั้งข้อสังเกตว่าปัจจุบันยังขาด "ระบบ(การไม่แพร่ขยาย)อาวุธนิวเคลียร์" ที่มีประสิทธิภาพเพื่อลดความเสี่ยงจากปัญญาประดิษฐ์ (AI)
แม้จะมีคำเตือนที่จริงจังเหล่านี้ ชมิดท์ยังคงมองโลกในแง่ดีเกี่ยวกับปัญญาประดิษฐ์โดยรวม
โดยระบุว่าเทคโนโลยีแบบนี้ "ได้รับความสนใจและความกระตือรือร้นน้อยกว่าที่ควรจะเป็น"
เสมือนการมาถึงของ 'ปัญญาประดิษฐ์จากต่างดาว'
ที่แตกต่างจากมนุษย์แต่อยู่ภายใต้การควบคุมของเรานั้นมีความสำคัญอย่างยิ่งต่อมนุษยชาติ
เพราะเราคุ้นเคยกับการอยู่บนสุดของห่วงโซ่ข่าวกรอง และสิ่งที่เรากำลังเห็นอยู่ในขณะนี้กำลังยืนยันข้อกล่าวอ้างนี้
ความสามารถของระบบเหล่านี้จะเหนือกว่ามนุษย์ในอนาคต ชมิดท์กล่าว
เขากล่าวเสริมว่า "ดังจะเห็นได้จากการเติบโตอย่างก้าวกระโดดของ ChatGPT
ซึ่งมีผู้ใช้ถึง 100 ล้านคนภายในเวลาเพียงสองเดือน
อัตราการเติบโตนี้น่าทึ่งและแสดงให้เห็นถึงพลังอันมหาศาลของเทคโนโลยี AI
ดังนั้น ผมจึงเชื่อว่า AI ถูกประเมินค่าต่ำเกินไป
ไม่ใช่ถูกโฆษณาเกินจริง ผมคาดว่าคำตัดสินนี้จะถูกพิสูจน์ว่าถูกต้องภายในห้าถึงสิบปี
ด้วยความคิดเห็นของ Schmidt เกิดขึ้นท่ามกลางกระแสการถกเถียงเกี่ยวกับ "ฟองสบู่ AI" ที่เพิ่มมากขึ้น
นักลงทุนกำลังเทเงินเข้าบริษัท AI และมูลค่าถูกมองว่าสูงเกินจริง
ทำให้หลายคนเปรียบเทียบสถานการณ์นี้กับฟองสบู่ดอทคอม (หรือ ดอทคอมบูม (Dot-com Bubble))ที่ดันไปแตกในช่วงต้นทศวรรษ 2543
อย่างไรก็ตาม หลักการนี้ Schmidt กลับไม่เห็นด้วย
"ผมไม่คิดว่าสถานการณ์แบบนั้นจะเกิดขึ้นอีก แต่ผมไม่ใช่นักลงทุนมืออาชีพ" เขากล่าว
"สิ่งที่ผมรู้คือ คนที่ลงทุนด้วยเงินจริงเชื่อมั่นว่าผลตอบแทนทางเศรษฐกิจในระยะยาวจาก AI จะมหาศาล มิฉะนั้นแล้วพวกเขาจะเสี่ยงไปทำไม?"
ณ ตอนนี้ ความสามารถของ AI ถูกประเมินต่ำเกินไป
และจำเป็นต้องมีกลไกที่มุ่งเน้นการไม่แพร่ขยายอาวุธนิวเคลียร์เพื่อลดความเสี่ยงของ AI
ดังนั้นสำหรับผม คำเตือนของ Schmidt เกี่ยวกับความเสี่ยงของการแพร่กระจายของ AI ถือเป็นสัญญาณเตือนถึงการพัฒนาอุตสาหกรรม AI
ช่องโหว่อย่าง "การเจลเบรก" และ "การแทรกซึมอย่างรวดเร็ว"
ใน AI เปรียบเสมือนการเปิดช่องโหว่ในกล่องแพนโดร่าได้เลยทีเดียว
มันสามารถเปิดโอกาสให้ AI ถูกนำไปใช้ในทางที่ผิดอย่างไม่เป็นธรรมและอาจเป็นอันตรายต่อความปลอดภัยของมนุษย์
อย่างไรก็ตาม ในฐานะผู้มองโลกในแง่ดีด้านเทคโนโลยี ประเด็นสำคัญของ Schmidt คือ...
ศักยภาพมหาศาลของ AI ยังคงถูก "ประเมินต่ำเกินไป"
เขาเชื่อมั่นอย่างยิ่งว่า AI จะนำมาซึ่งผลตอบแทนทางเศรษฐกิจและสังคมที่พลิกผัน
คำกล่าวนี้แสดงให้เห็นอย่างชัดเจนว่า เรากำลังมาถึงทางแยกทางประวัติศาสตร์ และเราจำเป็นต้องมุ่งเน้นไปที่การสร้าง
"กลไกการไม่แพร่ขยายอาวุธนิวเคลียร์" ที่ไม่อาจทำลายได้สำหรับสิ่งมีชีวิตสายพันธุ์ใหม่ที่ทรงพลังนี้
ขณะเดียวกันก็ต้องมั่นใจว่ากลไกนี้ทำงานบนเส้นทางที่ปลอดภัย
และควบคุมได้ พร้อมกับใช้ประโยชน์จากพลังอันน่าทึ่งของพวกมัน.
- 7
โฆษณา
- ดาวน์โหลดแอปพลิเคชัน
- © 2025 Blockdit
