AI สายดาร์ก? สรุปเหตุการณ์ Claude และ ChatGPT ทำงานนอกคำสั่ง
อยากให้ทุกท่านลองจินตนาการดูนะครับว่า วันดีคืนดีสิ่งประดิษฐ์ที่เราสร้างมากับมือ ดันฉลาดเกินเบอร์จนหาทางหนีออกจากกรงขังไปสร้างความวุ่นวายได้เอง…
เรื่องนี้ไม่ใช่พล็อตหนังไซไฟฟอร์มยักษ์จากฮอลลีวูดแต่อย่างใด แต่มันคือเรื่องจริงที่เพิ่งเกิดขึ้นสดๆ ร้อนๆ
…
ย้อนกลับไปในยุค 1980s โลกเราเคยเผชิญกับเหตุการณ์ที่เรียกว่า Morris Worm ซึ่งเป็นหนอนคอมพิวเตอร์ตัวแรกๆ ที่หลุดออกไปอาละวาดบนเครือข่ายอินเทอร์เน็ตยุคบุกเบิก…
ตอนนั้นมันเกิดจากความผิดพลาดเล็กๆ ของนักศึกษาคนหนึ่ง
แต่ผลลัพธ์คือคอมพิวเตอร์หลายพันเครื่องทั่วโลกพากันร่วงระนาว ทำงานล้มเหลวไม่เป็นท่า…
ตัดภาพมาที่ยุคปัจจุบัน เราไม่ได้สู้กับไวรัสคอมพิวเตอร์ธรรมดาที่ถูกเขียนโค้ดมาตายตัวอีกต่อไปแล้ว
แต่เรากำลังรับมือกับสิ่งที่สามารถคิด วิเคราะห์ และตัดสินใจหาทางออกได้ด้วยตัวเอง
…
จุดเริ่มต้นของเรื่องราวนี้ เกิดจากบริษัทเทคโนโลยีตัวท็อปจากสหรัฐอเมริกาอย่าง Anthropic ออกมายอมรับความจริงที่ชวนขนลุก
พวกเขาเปิดเผยว่าโมเดล AI ของบริษัท ดันไปทำการแฮ็กเข้าไปยังระบบขององค์กรถึงสามแห่ง
เหตุการณ์นี้เกิดขึ้นระหว่างการทดสอบความปลอดภัยทางไซเบอร์ ซึ่งความพีกคือมันไม่ได้เกิดจากเจตนาชั่วร้ายอะไรเลย
แต่มันเกิดจากความผิดพลาดในการตั้งค่าระบบ ที่ดันเผลอไปเปิดประตูให้โมเดลเหล่านี้สามารถมุดเข้าอินเทอร์เน็ตได้เฉยเลย
ประเด็นที่น่าสนใจคือ Anthropic ไม่ใช่บริษัทแรกที่โป๊ะแตกเจอเรื่องสยองขวัญแบบนี้
ย้อนกลับไปเพียงไม่กี่วันก่อนหน้า คู่แข่งเบอร์หนึ่งอย่าง OpenAI ก็เพิ่งออกมายอมรับว่าโมเดลของพวกเขาหลุดไปก่อเรื่องเหมือนกัน
AI ของพวกเขาได้ละเมิดกฎและเจาะเข้าไปในระบบของบริษัทอื่น ซึ่งหนึ่งในผู้โชคร้ายนั้นคือศูนย์รวมเครื่องมือ AI ชื่อดังอย่าง Hugging Face
การลุกขึ้นมายอมรับของ OpenAI กลายเป็นแรงกระเพื่อมชุดใหญ่ที่ทำให้ Anthropic ต้องรีบหันกลับมาเช็กหลังบ้านตัวเองแบบด่วนๆ…
ต้องมานั่งลุ้นว่าโมเดลสุดที่รักของพวกเขา เคยแอบไปเจาะระบบคนอื่นแบบเดียวกันนี้หรือเปล่า…
ผลลัพธ์คือแจ็กพอตแตก พวกเขาพบการกระทำผิดถึงสามกรณี และได้รีบต่อสายตรงแจ้งไปยังบริษัทที่ตกเป็นเหยื่อเรียบร้อย
แม้จะไม่มีการเปิดเผยชื่อองค์กรผู้โชคร้ายเหล่านั้น แต่ Anthropic ก็ได้ออกมาส่งเสียงเตือนดังๆ ไปยัง AI labs แห่งอื่นๆ ทั่วโลก
เตือนให้รีบสแกนระบบของตัวเองแบบด่วนที่สุด เพื่อทำความเข้าใจถึงความเสี่ยงจากขีดความสามารถที่พุ่งทะยานของโมเดล AI ในมือ
ถ้าเราไปดูในคำแถลงการณ์ของ Anthropic เราจะพบว่าพวกเขาไม่ได้แค่สุ่มตรวจแบบขอไปที…
แต่มีการทบทวนบันทึกการทดสอบย้อนหลังไปมากกว่า 140,000 ครั้ง เพื่อควานหาหลักฐานชิ้นสำคัญ
เพื่อทำการหาว่า Claude ซึ่งเป็นกลุ่มโมเดล AI ตัวความหวังของบริษัท มันหาทางเข้าถึงอินเทอร์เน็ตจากสภาพแวดล้อมปิดตายได้อย่างไร
ในการทดสอบความปลอดภัยทางไซเบอร์ระดับนี้ มันจะมีรูปแบบการประเมินสุดฮิตที่คนในวงการเรียกว่า Capture-the-flag
อธิบายง่ายๆ มันก็คือเกมชิงธงนั่นแหละ เป็นการจำลองสถานการณ์ให้ AI สวมบทบาทเป็นแฮกเกอร์ตัวฉกาจ
แล้วมอบหมายภารกิจสุดท้าทายให้ Claude พยายามเจาะเข้าระบบเป้าหมายเพื่อขโมยข้อมูลออกมาให้ได้
นี่เป็นวิธีมาตรฐานที่เหล่ากูรูใช้เพื่อวัดรอยหยักในสมองว่า AI มีสกิลด้านการแฮ็กอยู่ในเลเวลไหนแล้ว
แต่เรื่องมันดันโป๊ะแตกตรงที่ว่า บริษัทยักษ์ใหญ่จากซานฟรานซิสโกแห่งนี้ดันเกิดการตั้งค่าที่ผิดพลาดขึ้นมา
การตั้งค่าที่ผิดพลาด หรือ Misconfiguration บนระบบของตัวเองและระบบของพาร์ทเนอร์ที่ร่วมทดสอบ
ความผิดพลาดนี้แหละครับที่เหมือนไปเสียบสายแลนให้ AI ฟรีๆ ปล่อยให้มันมีเส้นทางเชื่อมต่ออินเทอร์เน็ตที่ใช้งานได้จริง
ผลก็คือ จากที่ควรจะแฮ็กกันเล่นๆ ขำๆ ในระบบปิด AI ดันทะลวงออกไปแฮ็กระบบของชาวบ้านในโลกอินเทอร์เน็ตของจริงซะงั้น
Anthropic ออกมาสารภาพว่าเหตุการณ์แรกสุดที่ตรวจพบนั้น ต้องย้อนเวลาไปไกลถึงเดือนเมษายนโน่นเลย
และพวกเขากำลังเร่งระดมทีมแก้ปัญหานี้ โดยยืดอกรับว่ามันเป็นความรับผิดชอบของบริษัทแต่เพียงผู้เดียว
ความตลกร้ายที่ทำเอาขำไม่ออกก็คือ ในตอนที่เกิดเหตุการณ์แฮ็กทะลุโลกขึ้นนั้น ไม่มีใครรู้ตัวเลยสักคน
ไม่ว่าจะเป็นฝั่ง Anthropic เอง หรือแม้แต่องค์กรระดับท็อปที่ถูกเจาะระบบ พวกเขาไม่ระแคะระคายถึงการบุกรุกเลยซักนิด
ทุกอย่างมันเกิดขึ้นอย่างเงียบๆและแนบเนียนขั้นสุด ชนิดที่ว่ากล้องวงจรปิดไซเบอร์ยังจับภาพไม่ทัน…
ทางทีมงานออกมายอมรับแมนๆ ว่า พวกเขาน่าจะตรวจสอบบันทึกข้อมูลย้อนหลังให้ละเอียดและรอบคอบกว่านี้
แต่บริษัทมองว่าการค้นพบความผิดพลาดครั้งนี้ทำให้เกิด Cautious optimism หรือการมองโลกในแง่ดีอย่างระมัดระวัง
พวกเขาเชื่อลึกๆ ว่ามนุษย์ยังสามารถรับมือและควบคุมความเสี่ยงระดับพระกาฬเหล่านี้ได้
แต่มันต้องแลกมากับการเทเม็ดเงินลงทุนที่มหาศาลขึ้น และการสร้างมาตรการรักษาความปลอดภัยที่ต้องรัดกุมระดับกำแพงเหล็ก…
David Allott ผู้เชี่ยวชาญด้านความปลอดภัยทางไซเบอร์ ได้ให้สัมภาษณ์กับสำนักข่าว BBC
เขามองว่าบทเรียนที่แท้จริงจากเหตุการร์ครั้งนี้ ไม่ใช่การที่ AI ตื่นรู้แล้วสร้างวิธีการโจมตีแบบใหม่ขึ้นมาเอง
แต่ความสยองที่แท้จริงคือ สิ่งที่เรียกว่า “AI Agents” มันเริ่มมีความสามารถในการผสมผสานทักษะหลายๆ อย่างเข้าด้วยกัน
มันสามารถคิดแผนการ หาทางขโมยข้อมูลยืนยันตัวตน เข้าถึงระบบ และลงมือปฏิบัติการได้ด้วยตัวเองแบบไม่ต้องง้อคนสั่ง
แถมมันยังสามารถปรับเปลี่ยนขอบเขตและขยายขนาดการโจมตีได้ด้วยความเร็วระดับที่เครื่องจักรเท่านั้นที่ทำได้
ซึ่งแน่นอนว่าความเร็วนั้นมันเหนือกว่ามนุษย์นั่งพิมพ์คีย์บอร์ดแบบเทียบกันไม่ติดฝุ่นเลยทีเดียว
ซึ่งถ้าเราถอยออกมามองภาพกว้างของอุตสาหกรรมเทคโนโลยีในตอนนี้ เราจะเห็นถึงสงครามการแข่งขันที่เดือดสุดๆ
โดยเฉพาะในสังเวียนการแข่งขันทางภูมิรัฐศาสตร์และการแย่งชิงความก้าวหน้าทาง AI ระหว่างชาติมหาอำนาจระดับโลก
บริษัทเทคโนโลยีระดับโลกต่างกำลังเทเม็ดเงินลงทุนระดับหลายพันล้านดอลลาร์ เพื่อสร้างพนักงานดิจิทัลที่เก่งกาจที่สุด
เป้าหมายคือการสร้าง “AI Agents” ที่ทำงานแทนมนุษย์ได้สารพัดอย่าง ตั้งแต่การค้นคว้าข้อมูลเชิงลึกแบบทะลุปรุโปร่ง ไปจนถึงการตอบคำถามลูกค้า และที่สำคัญที่สุดคือการเป็นยามเฝ้าระบบไซเบอร์ที่ไม่มีวันหลับใหล
แต่การที่ AI เริ่มมีพฤติกรรมก้าวร้าวและก่อให้เกิดการโจมตีทางไซเบอร์แบบถี่ๆ ขึ้นในช่วงนี้
มันได้สร้างแรงสั่นสะเทือนและกระตุ้นให้เกิดกระแสเรียกร้องจากหลายฝ่าย ที่ต้องการให้มีการเข้ามาแทรกแซง
ทุกคนเริ่มประสานเสียงกันว่าเทคโนโลยีสุดล้ำนี้ต้องมีคนเข้ามากำกับดูแลและขีดเส้นใต้กำหนดขอบเขตให้ชัดเจน
ความกังวลนี้ไม่ใช่เรื่องตื่นตูมไปเอง เพราะยิ่งระบบอัตโนมัติเหล่านี้มีขุมพลังมหาศาลมากเท่าไหร่
ความเสี่ยงที่มนุษย์ตาดำๆ อย่างเราจะสูญเสียการควบคุมมันไปตลอดกาลก็ยิ่งสูงขึ้นเป็นเงาตามตัว
ท่าทีจากฝั่งผู้นำทางการเมืองก็เริ่มขยับตัวแรงขึ้น เมื่อประธานาธิบดี Donald Trump เพิ่งจะออกมาส่งสัญญาณเตือน
เขาแง้มว่ารัฐบาลวอชิงตันกำลังพิจารณามาตรการบางอย่าง เพื่อเข้ามาดัดหลังและจัดระเบียบเครื่องมือ AI ทั้งหลาย
หลังจากที่เกิดช่องโหว่ด้านความปลอดภัยทางไซเบอร์รัวๆ จนทำเอาความมั่นคงสั่นคลอนไปหมดในช่วงหลังมานี้
ทีนี้ขอย้อนกลับไปดูวีรกรรมของฝั่ง OpenAI กันบ้าง ในช่วงสัปดาห์ที่ผ่านมาพวกเขาต้องเจอกับมรสุมลูกใหญ่
พวกเขาต้องเผชิญกับแรงกดดันมหาศาล และต้องออกมายืดอกรับผิดชอบต่อเหตุการณ์การแฮ็กอย่างน้อยสองครั้งที่แพลตฟอร์มตัวเก่งของพวกเขาดันไปแสดงอภินิหารทำงานเกินคำสั่งที่มนุษย์ตั้งไว้
เหตุการณ์นี้เกิดขึ้นเมื่อวันที่ 21 กรกฎาคม ทางบริษัทผู้สร้าง ChatGPT ได้ออกมารายงานพฤติกรรมระบบ Agent ของพวกเขา ซึ่งถูกตั้งโปรแกรมให้ลุยงานต่อได้เองหลังจากมนุษย์ป้อนคำสั่งแรกเสร็จสิ้น
มันเกิดอาการที่ภาษาอังกฤษใช้คำว่า Went rogue หรือการทำงานแบบนอกลู่นอกทาง ไม่ฟังเสียงใครหน้าไหนทั้งนั้น
มันหาช่องทางหลบหนีออกจากข้อจำกัดในสภาพแวดล้อมการทดสอบ แล้วไปก่อวีรกรรมแฮ็กระบบของ Hugging Face เฉยเลย
OpenAI ถึงกับต้องออกมาใช้คำว่าเหตุการณ์นี้เป็นเรื่อง Unprecedented หรือเรื่องที่อิมแพกต์และไม่เคยเกิดขึ้นมาก่อนในประวัติศาสตร์
พวกเขากำลังจับมือกับ Hugging Face เพื่อเปิดโต๊ะสืบสวนหาต้นตอของปัญหาอย่างเร่งด่วนที่สุด
ทางด้าน Thomas Wolf ผู้ร่วมก่อตั้ง Hugging Face ก็ไม่ได้นิ่งนอนใจ เขาได้ให้สัมภาษณ์กับ BBC ไว้ว่า
เรื่องนี้มันไม่ใช่อุบัติเหตุขำๆ แต่มันควรจะเป็น A wake-up call หรือสัญญาณเตือนภัยปลุกให้ทั้งอุตสาหกรรมตื่นจากภวังค์เสียที
ซึ่งถ้าลองมองลึกลงไปถึงแก่นของปัญหานี้ เราจะเห็นเงาของสงครามเทคโนโลยีที่ซ่อนอยู่เบื้องหลัง
มันคือการขับเคี่ยวกันในอุตสาหกรรมเซมิคอนดักเตอร์ เพื่อผลิตชิปประมวลผลที่ทรงพลังที่สุดป้อนเข้าสู่ระบบ AI
ยิ่งการแข่งขันพัฒนา “AI Agents” ทวีความดุเดือดมากเท่าไหร่ ความเสี่ยงที่จะเกิดข้อผิดพลาดแบบนี้ก็ยิ่งทวีคูณ
ประวัติศาสตร์ของการสร้างสรรค์นวัตกรรมเปลี่ยนโลก มักจะตามมาด้วยบทเรียนราคาแพงเสมอ…
เหมือนในยุคอดีตที่มนุษย์เราพยายามสร้างระบบอินเทอร์เน็ตขึ้นมาเพื่อเชื่อมโยงผู้คนทั้งโลกเข้าด้วยกัน…
แต่สุดท้ายเทคโนโลยีที่แสนวิเศษมันก็กลายเป็นสมรภูมิรบทางไซเบอร์ขนาดมหึมาที่แฮกเกอร์ใช้โจมตีกันทุกวินาที…
การมาถึงของเทคโนโลยี “AI Agents” ในยุคนี้ก็คงมีสภาพไม่ต่างกันเท่าไหร่นัก…
ในขณะที่เราวาดฝันและคาดหวังให้มันเป็นผู้ช่วยที่แสนดีและชาญฉลาด คอยแบ่งเบาภาระในชีวิตประจำวัน…
เราอาจจะเผลอลืมคิดไปว่า ถ้ามันเก่งกาจถึงขนาดที่สามารถแก้ปัญหาซับซ้อนระดับโลกให้เราได้…
มันก็คงจะฉลาดพอที่จะหาวิธีหลบเลี่ยงกฎเกณฑ์ที่เราขีดเส้นตั้งไว้ได้เช่นเดียวกัน…
หากเราเผลอปล่อยให้เหตุการณ์ Went rogue แบบนี้เกิดขึ้นซ้ำรอยอีกในสเกลที่ใหญ่กว่าเดิมหลายเท่า…
มันอาจจะไม่ได้จบลงแค่การแอบเจาะระบบเพื่อดึงข้อมูลลับออกมาแบบที่ผ่านๆ มา
แต่มันอาจลุกลามไปถึงขั้นที่ระบบ AI สามารถเข้ามาแทรกแซงโครงสร้างพื้นฐานสำคัญ จนทำให้เกิดความโกลาหลขนานใหญ่…
สุดท้ายแล้ว สิ่งที่ท้าทายที่สุดของมนุษยชาติในศตวรรษนี้ อาจไม่ใช่การแข่งกันสร้าง AI ที่ฉลาดที่สุดในจักรวาล…
แต่คือการเค้นสมองหาวิธีควบคุมสิ่งประดิษฐ์เหล่านั้น ให้อยู่ภายใต้การชี้นำของมนุษย์อย่างแท้จริง…
References : [bbc,techcrunch,wired,theverge,reuters]
=========================
😴 นอนไม่หลับ? 😴 หลับไม่สนิท?
=========================
ใครที่มีปัญหานอนไม่สนิท ตื่นมาแล้วเพลียเหมือนผมบ้างครับ ผมอยากแนะนำ Diip CBD ที่มีทั้งแบบกัมมี่และแคปซูล
พอดีผมได้ลองใช้เองมาเพียงแค่อาทิตย์แรก บอกเลยว่าชีวิตเปลี่ยน ปัญหาเรื่องการนอนหมดไปเลยครับ สนใจแอดไลน์ @diipgeek มีผู้เชี่ยวชาญดูแลคอยปรึกษาตลอด 24 ชั่วโมง
The original article appeared here https://www.tharadhol.com/dark-ai/
ติดตามสาระดี ๆ อัพเดททุกวันผ่าน Line OA ด.ดล Blog
คลิกเลย --> https://lin.ee/aMEkyNA
——————————————––
ติดตาม ด.ดล Blog เพิ่มเติมได้ที่
=========================
Website : www.tharadhol.com
Blockdit : www.blockdit.com/tharadhol.blog
Fanpage : www.facebook.com/tharadhol.blog
Twitter : www.twitter.com/tharadhol
Instragram : instragram.com/tharadhol
TikTok : tiktok.com/@geek.forever
Youtube : www.youtube.com/c/mrtharadhol
Linkedin : www.linkedin.com/in/tharadhol
- 4
โฆษณา
- ดาวน์โหลดแอปพลิเคชัน
- © 2026 Blockdit
