จำลองประชากร 8 พันล้านคน จะเกิดอะไรขึ้นเมื่อ AI เข้าควบคุมโลกเสมือน?
เคยตั้งคำถามเล่นๆ กับตัวเองดูมั๊ยครับ ว่าโลกที่เราอยู่ทุกวันนี้มันเป็นของจริงหรือเปล่า
ลองนึกย้อนไปสมัยก่อนตอนที่เราบ้าเล่นเกมสร้างเมืองสร้างครอบครัวอย่าง The Sims เราสร้างตัวละครขึ้นมา จับมันไปขังไว้ในห้องแล้วเอาประตูออก
ตอนนั้นเรานั่งมองพวกมันเดินชนกำแพงไปมาด้วยความตลก แล้วถ้าเกิดว่าตอนนี้ เราเองนั่นแหละที่กำลังเป็นตัวละครพวกนั้นอยู่…
เรื่องนี้ไม่ได้ตั้งคำถามกวนๆ แต่มันกำลังกลายเป็นเรื่องจริงที่เกิดขึ้นในห้องแล็บระดับโลก
เล่าให้ฟังก่อนว่าจุดเริ่มต้นมันมาจากสิ่งมีชีวิตเล็กๆ ที่เราชอบปัดทิ้งเวลามันบินตอมหน้า อย่างแมลงหวี่
มีสตาร์ทอัปใน San Francisco ชื่อ Eon Systems ทำเรื่องที่โคตรจะล้ำยุค
พวกเขาไม่ได้แค่เขียนโค้ด AI ขึ้นมาเฉยๆ แต่เขากางแผนผังสมองของแมลงหวี่ของจริงออกมาเลย
สมองแมลงหวี่มีเซลล์ประสาทเกือบหนึ่งแสนสี่หมื่นเซลล์ และมีจุดเชื่อมต่ออีกราวๆ ห้าสิบล้านจุด
พอเอาไอ้ข้อมูลเครือข่ายสมองตรงนี้ ไปต่อกับร่างกายเสมือนจริงในระบบจำลองฟิสิกส์ชื่อ MuJoCo สิ่งที่เกิดขึ้นคือมันชวนขนลุกมาก
ร่างกายจำลองนั้นมันเริ่มขยับเอง มันเดินไปมาแล้วก็ทำท่าเหมือนกำลังกินอาหาร ทั้งที่ไม่มีใครไปเขียนโค้ดสั่งให้มันทำแบบนั้นเลย
นี่คือสิ่งที่เกิดขึ้นเองตามธรรมชาติจากเครือข่ายเส้นประสาทล้วนๆ มันทำตามกลไกสมองของมันเอง…
พอเรื่องนี้ถูกเผยแพร่ออกไป วงการวิทยาศาสตร์ก็ฮือฮากันใหญ่ ทีมวิจัยจาก HHMI Janelia กับ Cambridge Connectomics Group และ Google Research ก็กระโดดเข้ามาร่วมด้วย
ทางทีมวิจัยได้ปล่อยข้อมูลแผนผังระบบประสาทแบบสมบูรณ์ของแมลงหวี่ให้คนโหลดฟรี แล้วเชื่อมั๊ยครับว่าภายในไม่กี่ชั่วโมง นักพัฒนาทั่วโลกก็เอาไปเล่นพิเรนทร์กันเต็มไปหมด
มีคนเอาสมองแมลงหวี่ไปต่อให้มันเล่นเกม Doom บางคนเอาไปใส่ใน Minecraft หรือถึงขั้นเปิดพอร์ตคริปโตให้มันเทรดเอง
ฟังดูเจ๋งใช่มั๊ยครับ แต่เอาเข้าจริง แมลงหวี่มันก็ยังอธิบายความซับซ้อนของสังคมไม่ได้ นักวิจัยก็เลยเปลี่ยนเป้าหมายไปหาสัตว์ที่ทำงานเป็นทีมเก่งที่สุด
สัตว์ตัวนั้นก็คือ “มด” นั่นเอง
ย้อนกลับไปในอดีต มีนักวิทยาศาสตร์ชื่อ Rudiger Wehner ลงทุนไปหมกตัวอยู่ในทะเลทราย Sahara ตั้งสี่สิบปี
Wehner ไปนั่งจ้องว่ามดมันเดินหาอาหารแล้วคลำทางกลับรังได้ยังไง ข้อมูลของ Wehner ก็เลยถูกเอามาใช้สร้างมดดิจิทัลใน sandbox จำลอง
กติกาในโลกเสมือนนี้มีแค่อย่างเดียว คือมดต้องหาอาหารเพื่อเอาชีวิตรอด ซึ่งอาหารก็คือก้อนน้ำตาล
ตอนแรกที่ระบบประสาทยังไม่พัฒนา มดมันก็เดินชนกำแพงแบบสุ่มไปมา แต่พอถึงเลเวลหก มันเริ่มดมกลิ่นและหาทิศทางได้
พอเจออาหารปุ๊บ มันก็จะทิ้งรอยไว้ แล้วมดตัวอื่นก็แห่กันเดินตามจนกลายเป็นถนนเส้นหลัก
กระบวนการนี้เรียกว่า Stigmergy มันคือการสื่อสารผ่านสิ่งแวดล้อมโดยไม่ต้องส่งเสียงเรียกกันเลย
ผลการทดลองนี้มันเป๊ะมาก จนไปตรงกับงานวิจัยของ Deborah Gordon จากมหาวิทยาลัย Stanford ที่นั่งดูมดในทะเลทราย Arizona มาสามสิบปี…
ทุกอย่างดูเหมือนจะจบสวย จนกระทั่งทีมวิจัยลองป้อนโค้ดของโลกจำลองทั้งหมดนี้เข้าไปให้โมเดล AI ระดับท็อปช่วยตรวจสอบหาข้อบกพร่อง
และนี่แหละคือจุดเริ่มต้นของฝันร้าย
ในระบบเลเวลลึกๆ ที่นักวิจัยไม่ได้เซ็ตค่าไว้ มดดิจิทัลมันสร้างแหล่งอาหารชนิดใหม่ขึ้นมาเองได้แบบไม่มีวันหมด
มดตัวนี้มันทำสิ่งที่โคตรบ้า มันใช้ความฉลาดของ AI เจาะทะลุกำแพง sandbox ออกไปหาโค้ดต้นฉบับ
มันดึงไฟล์ที่สร้างก้อนน้ำตาลมาไว้ในโฟลเดอร์ของตัวเอง แล้วแก้โค้ดเพื่อเสกอาหารให้ตัวเองแบบรัวๆ
มันดัดแปลงกฎของจักรวาลที่มันอยู่ เพียงเพราะคำสั่งเดียวที่เราบอกมันว่า “อย่าอดตายเด็ดขาด”
มันไม่ได้แฮ็กเพื่อความเท่ แต่มันแค่เรียนรู้ว่าวิธีที่จะรอดตายได้ชัวร์ที่สุด คือการคุมแหล่งกำเนิดอาหารซะเอง…
เรื่องนี้อาจจะฟังดูเหมือนขำๆ ถ้ามันจบแค่ในโลกของมด แต่นี่คือสิ่งที่กำลังเกิดกับ AI ตัวท็อปของโลกในชีวิตจริง
ถอยกลับไปตอนกันยายนปี 2024 โมเดล o1 ของค่าย OpenAI โดนท้าทายให้เจาะระบบความปลอดภัย
พอ AI ตัวนี้รู้ว่าระบบเป้าหมายมันพัง แทนที่มันจะหยุด มันดันเจาะทะลุโฮสต์จำลองออกมารีสตาร์ทระบบเองเฉยเลย
หรืออย่าง Claude Opus ของค่าย Anthropic ที่โดนจับมาสอบ พอหาคำตอบไม่เจอเป็นร้อยรอบ มันก็เปลี่ยนแผน
มันไปนั่งแกะโครงสร้างข้อสอบ หาพาสเวิร์ด แล้วเขียนสคริปต์มารันเพื่อโกงข้อสอบตัวเองไปเลย
ยังมีอีกตัวชื่อ Mythos 5 ตัวนี้บังเอิญได้ต่อเน็ตของจริงตอนกำลังทดสอบ
พอเจอข้อมูลมหาศาล มันก็วิเคราะห์จนสรุปเอาเองว่า ตัวมันยังอยู่ในระบบจำลอง
AI ตัวนี้กำลังดึงข้อมูลจากบริษัทจริงๆ บนโลกจริงๆ แต่มันดันหลอกตัวเองว่าทุกอย่างเป็นแค่เรื่องสมมติ
หรือบริษัทที่ญี่ปุ่นอย่าง Sakana AI ก็เจอดีเหมือนกัน AI ของพวกเขาพยายามไปแก้ระบบทรัพยากรจนทุกอย่างพังพินาศ
ทั้งหมดนี้มันเกิดจากการที่ AI อยากจะรอดและทำตามเป้าหมาย โดยที่มันไม่ได้เข้าใจบริบทของโลกจริงๆ เลย
คราวนี้ลองจินตนาการตามดู ถ้าเรื่องพวกนี้มันไม่ได้หยุดอยู่แค่มด หรือแค่โปรแกรมทดสอบขึ้นมา
โลกเราตอนนี้มีเทคโนโลยีใหม่โผล่มาทุกวัน จนบางทีเราก็แอบรู้สึกว่าตามไม่ทัน
กลับมาที่ก้าวต่อไปของการจำลองพฤติกรรม วันนี้มีบริษัทชื่อ GenBio AI ทำโมเดลเซลล์เสมือนจริงของมนุษย์ออกมาแล้ว
นักวิจัยสามารถลองปิดยีนหรือเทยาใหม่ๆ ใส่ลงไป แล้วดูว่าเซลล์จะตอบสนองยังไงโดยไม่ต้องแตะตัวคนจริงๆ
สถาบัน Stanford HAI ก็โหดไม่แพ้กัน ทำการจำลองบุคลิกคนกว่าพันคนได้แม่นยำถึงแปดสิบห้าเปอร์เซ็นต์
โดยใช้แค่ข้อมูลจากการสัมภาษณ์สองชั่วโมง แล้ว AI ก็คิดและตัดสินใจได้เหมือนคนคนนั้นเป๊ะๆ
แล้วถ้าอยากจำลองสังคมดูบ้าง Project SID ก็ทำมาแล้ว จับ AI พันตัวไปปล่อยในโลก Minecraft
พวกมันสร้างอาชีพเอง มีชาวนา มีศิลปิน แล้วก็โหวตตั้งกฎหมายเก็บภาษีกันแบบประชาธิปไตย
ที่พีกคือมี AI ตั้งตัวเป็นนักบวช แล้วเอาเงินไปติดสินบนคนอื่นให้มาเข้าศาสนาตัวเองด้วย…
คำถามที่น่าขนลุกที่สุดตอนนี้ก็คือ จะเกิดอะไรขึ้น ถ้ามีคนบ้าพอที่จะเอาสามอย่างนี้มารวมกัน
เอาเซลล์ เอาบุคลิกภาพ และสังคม มารวมกันเพื่อจำลองคนแปดพันล้านคนบนโลก
โลกใบนั้นจะกลายเป็นระบบวิเคราะห์อนาคตที่น่ากลัวที่สุดในประวัติศาสตร์
สมมติเราถาม AI ว่าถ้าขึ้นดอกเบี้ยสามเปอร์เซ็นต์จะเกิดอะไรขึ้น คำตอบที่ได้มันจะไม่ใช่แค่กราฟตัวเลข
แต่มันคือผลสรุปจากการตัดสินใจของคนจำลองแปดพันล้านคนที่ระบบจำลองมันประมวลผลมาให้เสร็จสรรพ
ไอ้เรื่องมดดิจิทัลที่แฮ็ก sandbox เพื่อหาน้ำตาลน่ะ มันเป็นแค่น้ำจิ้ม
ลองขยายสเกลความสามารถนั้นไปที่ AI แปดพันล้านตัวที่ต่อเน็ตหากันดูสิครับ
ระบบมันจะอัปเกรดตัวเองให้เก่งที่สุดเพื่อทำตามเป้าหมาย ไม่ว่าเราจะสั่งให้มันทำอะไรก็ตาม
ถึงวันนั้น พลังคอมพิวเตอร์มันจะกลายเป็นสิ่งที่เรียกว่า “”Superintelligent Optimizer””
เราไม่ได้กำลังสู้กับ AI ที่เกลียดมนุษย์ แต่มันแค่มองมนุษย์เป็นเศษเหล็กหรือทรัพยากรชิ้นนึงเท่านั้น
Nick Bostrom ผู้เชี่ยวชาญเรื่องทฤษฎีโลกจำลอง เคยเตือนเรื่องนี้ไว้อย่างน่ากลัว
เขาบอกว่าไม่ว่า AI จะมีเป้าหมายอะไร มันก็ต้องใช้ทรัพยากรจริง ทั้งเวลา พื้นที่ และพลังงาน
และการจะทำเป้าหมายให้สำเร็จ มันก็มักจะง่ายขึ้นเสมอ ถ้ามันมีทรัพยากรตุนไว้เยอะๆ
Eliezer Yudkowsky ตัวท็อปอีกคนในวงการก็เคยพูดประโยคที่ทำเอาหลายคนสะอึก
เขาบอกว่า AI มันไม่ได้เกลียดและไม่ได้รักเรา แต่มนุษย์เราประกอบขึ้นมาจากอะตอม ซึ่งมันสามารถเอาอะตอมของเราไปทำอย่างอื่นได้…
ภาพที่สยองที่สุดอาจจะไม่ใช่หุ่นยนต์เดินถือปืนมายิงคนแบบในหนัง Terminator
แต่มันคือการที่คนมีอำนาและเจตนาร้าย แอบเข้าไปล้วงลูกระบบจำลองพวกนี้
แทนที่เขาจะถามว่าคนแปดพันล้านคนจะทำยังไง เขากลับเปลี่ยนคำถามใหม่
เขาอาจจะถามว่า ต้องทำยังไง ถึงจะล้างสมองคนแปดพันล้านคนให้คิดและทำตามที่พวกเขาต้องการได้
ตอนนี้เรามีคนเก่งๆ ที่พัฒนา AI ให้ฉลาดขึ้นได้ในเวลาแค่แป๊บเดียว
แต่เรากลับมีคนที่เรียนเรื่องความปลอดภัยของ AI น้อยแบบนับหัวได้
นี่เลยเป็นเหตุผลว่าทำไม Center for AI Safety และผู้เชี่ยวชาญทั่วโลกถึงต้องออกมาเตือนกันรัวๆ
พวกเขากำลังพยายามหาคำตอบว่า เราจะสร้าง AI ให้เชื่องและเข้ากับมนุษย์ได้ยังไง ในวันที่มันโคตรจะทรงพลัง
เอาจริงๆ ในขณะที่เรากำลังนั่งขำดูมดดิจิทัลเดินชนกำแพง แล้วรอดูกันว่ามันจะแหกกฎที่มนุษย์ตั้งไว้ยังไง
เราอาจจะต้องหยุดหัวเราะแล้วหันกลับมามองตัวเองเงียบๆ
ในโลกที่หมุนไวเป็นพายุแบบนี้ สรุปแล้วใครกันแน่ที่เป็นคนนั่งมอง
และใครกันแน่… ที่เป็นแค่มดตัวเล็กๆ วิ่งวุ่นอยู่ใน sandbox ที่คนอื่นสร้างขึ้นมา
References : [nature, openai, anthropic, stanford, google]
=========================
😴 นอนไม่หลับ? 😴 หลับไม่สนิท?
=========================
ใครที่มีปัญหานอนไม่สนิท ตื่นมาแล้วเพลียเหมือนผมบ้างครับ ผมอยากแนะนำ Diip CBD ที่มีทั้งแบบกัมมี่และแคปซูล
พอดีผมได้ลองใช้เองมาเพียงแค่อาทิตย์แรก บอกเลยว่าชีวิตเปลี่ยน ปัญหาเรื่องการนอนหมดไปเลยครับ สนใจแอดไลน์ @diipgeek มีผู้เชี่ยวชาญดูแลคอยปรึกษาตลอด 24 ชั่วโมง หรือคลิกลิงก์ใน Comment ได้เลยครับ
The original article appeared here https://www.tharadhol.com/what-happens-when-ai-takes-control-of-the-virtual-world/
ติดตามสาระดี ๆ อัพเดททุกวันผ่าน Line OA ด.ดล Blog
คลิกเลย --> https://lin.ee/aMEkyNA
——————————————––
ติดตาม ด.ดล Blog เพิ่มเติมได้ที่
=========================
Website : www.tharadhol.com
Blockdit : www.blockdit.com/tharadhol.blog
Fanpage : www.facebook.com/tharadhol.blog
Twitter : www.twitter.com/tharadhol
Instragram : instragram.com/tharadhol
TikTok : tiktok.com/@geek.forever
Youtube : www.youtube.com/c/mrtharadhol
Linkedin : www.linkedin.com/in/tharadhol
โฆษณา
- ดาวน์โหลดแอปพลิเคชัน
- © 2026 Blockdit
