เรากำลังคุยกับใคร? ความจริงที่ซ่อนอยู่เบื้องหลังแชทบอทที่ผู้สร้างไม่อยากบอกคุณ
ผมว่าช่วงนี้หลายคนคงใช้งาน AI กันจนเป็นเรื่องปกติไปแล้ว พิมพ์ถามอะไรไปก็ตอบกลับมาฉอดๆ อย่างกับมีผู้เชี่ยวชาญนั่งอยู่หลังจอ
ได้คำตอบเป๊ะๆ ภายในไม่กี่วินาที จนบางทีเราก็เผลอคิดไปว่า หรือจริงๆ แล้ว AI มันมีความคิด มีจิตวิญญาณซ่อนอยู่ในนั้นจริงๆ…
จำสมัยก่อนที่เราเล่นแชทบอทกวนๆ กันได้มั๊ยครับ พิมพ์ไปทีก็ตอบอะไรมาไม่รู้เรื่อง แต่เดี๋ยวนี้ AI มันฉลาดล้ำจนน่าตกใจเลยทีเดียว
หลายคนเชื่อว่า AI ก็คือเสิร์ชเอนจินตัวตึง ที่วิ่งไปหาข้อมูลทั่วอินเทอร์เน็ต ก๊อปปี้ข้อความมาแปะ แล้วเรียบเรียงใหม่ให้ภาษามันสวยๆ
แต่… ความจริงที่ซ่อนอยู่ในระบบที่เรียกว่า Neural network มันกลับลึกลับกว่าที่เราคิดไว้เยอะมาก…
เชื่อมั๊ยครับว่า ภายในระบบที่ดูซับซ้อนเว่อร์ๆ นั้น ไม่มีข้อมูลความจริงถูกบันทึกไว้เลยแม้แต่บรรทัดเดียว
มันไม่มีคำตอบสำเร็จรูปซ่อนอยู่ มันไม่ได้รู้เรื่องรู้ราวอะไร และมันก็ไม่เคยจดจำอะไรได้เลยด้วยซ้ำ
ทุกครั้งที่พิมพ์ตอบเรา มันกำลังสร้างข้อความขึ้นมาใหม่จากความว่างเปล่า อาศัยแค่ข้อมูลสถิติล้วนๆ ในการคำนวณ…
มันใช้เวลาแค่เสี้ยววินาทีเพื่อเดาว่า คำถัดไปที่ควรจะพิมพ์ออกมาคือคำว่าอะไร ทำงานเหมือนเรากำลังต่อเลโก้ไปทีละชิ้น
แต่ด้วยความที่มันต้องเดาคำไปเรื่อยๆ ทีละชิ้นนี่แหละ ที่ทำให้อัลกอริทึมเกิดอาการรวน แล้วก็พ่นข้อมูลมั่วซั่วออกมาได้
คนในวงการเทคเรียกอาการหลุดโลกแบบนี้ว่า “Hallucination” หรืออาการประสาทหลอนของ AI…
คำถามคือ แล้วความจริงที่บรรดาคนสร้างพยายามหมกเม็ดพวกเราอยู่คืออะไร ทำไมแม้แต่นักวิทยาศาสตร์ตัวท็อปยังแอบหวั่นใจกับสิ่งประดิษฐ์ของตัวเอง
ลองหลับตาจินตนาการว่าเราแอบมองทะลุเข้าไปในสมองของซูเปอร์คอมพิวเตอร์ ในจังหวะที่มันกำลังคายคำตอบออกมาให้เรา
เวลาเราพิมพ์ข้อความส่งไปหา Neural network สิ่งที่หน่วยประมวลผลเห็นมันไม่มีตัวอักษรหรือรูปภาพอะไรเลยด้วยซ้ำ…
สำหรับคอมพิวเตอร์แล้ว ภาษามนุษย์ก็คือสัญญาณรบกวนที่ไม่มีความหมายอะไรเลย พวกมันมองเราเป็นแค่เสียงนกเสียงกาเท่านั้น
วิศวกรยุคแรกๆ ปวดหัวกับเรื่องนี้มาก จะทำยังไงให้สมการคณิตศาสตร์ที่จืดชืด เข้าใจความรู้สึกมนุษย์ได้ ในเมื่อมันรู้จักแค่เลขศูนย์กับเลขหนึ่ง
ทางออกสุดอัจฉริยะที่พวกเขางัดออกมาใช้ก็คือสิ่งที่เรียกว่า Tokenization และ Vector spaces…
พอเราพิมพ์ประโยคยาวๆ ลงไป โปรแกรมจะเริ่มสับข้อความนั้นออกเป็นชิ้นเล็กๆ ที่เรียกว่า Tokens
มันอาจจะเป็นแค่คำๆ เดียว พยางค์สั้นๆ หรือแม้แต่เครื่องหมายวรรคตอน จากนั้นมันจะเอาชิ้นส่วนพวกนี้ไปแปลงเป็นรหัสตัวเลขเฉพาะ
แล้วเอาไปวางเป็นพิกัดในพื้นที่หลายมิติทางคณิตศาสตร์ ในโลกจำลองนี้ ทุกคำจะมีพิกัดเฉพาะตัวเป็นร้อยเป็นพันจุด…
ความหมายที่เชื่อมโยงกันจะถูกคำนวณเหมือนเวลาเราวัดระยะทางเรขาคณิต แบบว่าคำว่า cat จะอยู่ใกล้กับคำว่า dog มากๆ
แต่พิกัดของมันจะตั้งอยู่ห่างไกลลิบลับจากคำว่า tractor ซึ่งเป็นเรื่องที่น่าทึ่งมากในยุคนั้น
สมัยก่อน การทำให้คอมพิวเตอร์เข้าใจบริบทของคำถือเป็นความฝันอันสูงสุดของคนทำคอมพิวเตอร์เลยทีเดียว…
จนกระทั่งมีทีมนักพัฒนาอัลกอริทึมชื่อ Word2Vec พิสูจน์ให้โลกเห็นว่า เราสามารถเอาความหมายของคำมาบวกลบคูณหารกันได้จริงๆ
ถ้าเราเอารหัสของคำว่า king มาลบด้วยพิกัดของ man แล้วบวกด้วย woman ผลลัพธ์มันจะไปตกที่พิกัดของคำว่า queen เป๊ะๆ
ตัวระบบมันไม่รู้หรอกว่าพระราชาคือใคร มันรู้แค่ว่าระยะห่างของตัวเลขพวกนี้มันอยู่ตรงไหน…
แต่แค่นั้นยังไม่พอ ปัญหาที่ปราบเซียนสุดๆ คือจะทำยังไงให้อัลกอริทึมจำความหมายของประโยคยาวๆ ได้
เพราะภาษามนุษย์มันดิ้นได้ ความหมายเปลี่ยนไปตามบริบทแวดล้อมตลอดเวลา
ก่อนปี 2017 การคุยกับ AI ให้ความรู้สึกเหมือนกำลังคุยกับคนความจำเสื่อมขั้นสุด…
อัลกอริทึมรุ่นเก่าจะอ่านข้อความเรียงไปทีละคำ พออ่านไปถึงท้ายประโยค มันก็ลืมประโยคแรกไปซะสนิท
ตอนนั้นวงการเทคหาทางออกกันแทบไม่เจอ จนกระทั่งมีกลุ่มนักวิจัยจาก Google ตีพิมพ์งานวิจัยระดับตำนานออกมา
เปเปอร์นั้นชื่อว่า Attention Is All You Need พวกเขาเปิดตัวสถาปัตยกรรมแบบใหม่ที่ชื่อว่า Transformer…
ไม้ตายสำคัญของระบบนี้คือกลไกที่เรียกว่า Self-attention เปลี่ยนวิธีการอ่านข้อความแบบหน้ามือเป็นหลังมือ
แทนที่มันจะอ่านทีละคำ มันกลับสาดสปอตไลต์ลงไปบนข้อความทั้งหมดพร้อมกัน เพื่อหาจุดเชื่อมโยงที่สำคัญ
สมมติประโยค The hare ran out of the forest because it was scared คำว่า it หมายถึงอะไร…
ถ้าระบบเก่ามาเจอประโยคนี้คงเอ๋อ แต่กลไกของ Transformer จะคำนวณความน่าจะเป็นในเสี้ยววินาที
มันรู้ทันทีว่า hare มีความเชื่อมโยงกับ scared ถึงเปอร์เซ็นต์ที่สูงปรี๊ด ในขณะที่ forest แทบไม่มีความเกี่ยวข้องกันเลย
เครื่องจักรเริ่มมองเห็นเส้นใยบางๆ ที่ร้อยเรียงคำนาม คำกริยา เข้าด้วยกันได้อย่างน่าอัศจรรย์…
ไอ้ทริคทางคณิตศาสตร์ที่แม่นยำเวอร์ๆ นี่แหละครับ ที่ปลดล็อกให้ AI คุยกับเราได้ลื่นไหล ไม่มีหลุดไวยากรณ์เลยซักนิด
แต่นี่ก็คือจุดเริ่มต้นของกับดักทางจิตวิทยาที่อันตรายสุดๆ ที่มนุษย์กำลังเผชิญหน้าอยู่
ย้อนไปช่วงปลายปี 2022 โลกทั้งใบฮือฮากับแชทบอทตัวท็อปอย่าง ChatGPT ที่เปิดให้ใช้งานกันฟรีๆ…
ผ่านไปไม่กี่วัน คนนับล้านเชื่อสนิทใจว่ามีสิ่งมีชีวิตที่มีความคิด ถือกำเนิดขึ้นมาในคอมพิวเตอร์เรียบร้อยแล้ว
สมองมนุษย์ถูกวิวัฒนาการมาให้ผูกพันกับอะไรก็ตามที่โต้ตอบกับเราได้อย่างมีเหตุผลและเป็นธรรมชาติ
ถ้ามีใครมาเล่นมุกตลก ปลอบใจเราได้ แถมเขียนเรียงความวิชาการได้ในพริบตา เราก็พร้อมเทใจเชื่อว่าสิ่งนั้นมีชีวิต…
แต่ความจริงที่คนสร้าง AI รู้อยู่แก่ใจก็คือ สิ่งที่พวกเรากำลังกรี๊ดกร๊าดกันอยู่นั้น เป็นแค่นกแก้วดิจิทัลตัวยักษ์
มันคือระบบสถิติขับเคลื่อนอัตโนมัติที่ทำงานซับซ้อนเกินกว่าจินตนาการของเราไปไกลลิบ
เวลาสั่งให้มันแต่งกลอนอกหัก มันไม่ได้รู้สึกเศร้า ไม่ได้ร้องไห้ตามเราเลยซักนิด…
มันแค่หยิบคำแรกไปเทียบกับตารางข้อมูลที่มีตัวแปรเป็นพันล้านตัว แล้วสุ่มเลือกคำที่สองที่น่าจะตามมามากที่สุด
กระบวนการนี้เรียกว่า Token generation ทำงานเหมือนวงล้อรูเล็ตต์ในคาสิโนที่หมุนไปเรื่อยๆ ไม่มีวันหยุด
เปลี่ยนแค่ตัวเลขบนวงล้อให้กลายเป็นชิ้นส่วนของคำศัพท์แทน…
ถ้าถามมันว่าท้องฟ้าสีอะไร มันตอบว่าสีฟ้า ไม่ใช่เพราะมันเคยเงยหน้ามองฟ้าสวยๆ แบบพวกเรา
แต่เพราะมันกวาดสายตาอ่านข้อมูลบนเน็ตมาเป็นพันล้านหน้า แล้วเจอว่าคำว่า blue มักจะอยู่ติดกับ sky แทบจะร้อยเปอร์เซ็นต์
การทำงานแบบเน้นความน่าจะเป็นแบบนี้ ซ่อนระเบิดเวลาลูกใหญ่เอาไว้เงียบๆ…
ถ้าหน้าที่ของมันคือการพ่นข้อความที่ดูเนียนตาที่สุด จะเกิดอะไรขึ้นถ้าโดนถามในเรื่องที่มันไม่มีข้อมูลเลย
ลองนึกภาพพยานในศาลที่โดนบีบให้ตอบคำถาม แต่มีข้อห้ามว่าห้ามพูดคำว่าไม่รู้เด็ดขาด
พอจำรายละเอียดไม่ได้ สมองก็จะสั่งให้แต่งเรื่องขึ้นมาสดๆ ร้อนๆ แล้วเล่าด้วยความมั่นใจเบอร์สิบ…
นี่แหละคือกลไกเบื้องหลังอาการ “Hallucination” ของ AI
สมการคณิตศาสตร์ไม่มีจิตสำนึก หน้าที่ของมันคือผลิตข้อความที่ดูน่าเชื่อถือที่สุดออกมาให้ได้
นักพัฒนาถึงกับต้องมีพารามิเตอร์ที่เรียกว่า Temperature เพื่อมาควบคุมความเป๊ะของข้อมูล…
ถ้าตั้งค่าไว้ที่ศูนย์ ระบบจะกลายเป็นเด็กเนิร์ดที่ตอบแต่เรื่องซ้ำๆ ทื่อๆ ตามตำราเป๊ะ
แต่พอปรับค่านี้ให้สูงขึ้น มันจะเริ่มมีอิสระ ไปหยิบคำแปลกๆ มาใช้ เพื่อให้ภาษามันดูลื่นไหลและมีสไตล์
การเอาคำนู้นคำนี้มาผสมกันมั่วๆ นี่แหละ ที่พามันไปสู่หายนะทางคณิตศาสตร์อย่างแท้จริง…
ถ้าถามประวัติคนที่ไม่เคยมีตัวตนบนโลก มันจะกล้าเดาวันเกิด สร้างชื่อมหาลัย แถมแปะลิงก์ปลอมมาให้เสร็จสรรพ
คดีช็อกโลกเกิดขึ้นเมื่อปี 2023 ทนายความชื่อ Steven Schwartz อยากประหยัดเวลาเตรียมเอกสารฟ้องสายการบิน
เลยให้ ChatGPT ช่วยหาคดีตัวอย่างในอดีตมาให้หน่อย AI ก็เสกคดีปลอมออกมา 6 คดีรวด…
มีเลขเอกสาร ชื่อผู้พิพากษา โควตคำตัดสินแบบเนียนกริบ ทนายคนนี้ก็เชื่อหมดใจ เอาไปยื่นศาลทันที
ความแตกตอนที่ศาลไปค้นแฟ้มคดีแล้วไม่เจออะไรเลย กลายเป็นว่า AI แต่งนิยายขึ้นมาทั้งหมด
ผลคือทนายคนนั้นโดนสอบสวนทางวินัยและเสียชื่อเสียงที่สะสมมาทั้งชีวิตไปในพริบตา…
เพื่อหยุดยั้งหายนะจากข้อมูลลวงตา คนสร้างต้องลงทุนจ้างคนจริงๆ มหาศาลมาดัดนิสัยพวกมัน
ถ้าปล่อยให้ Neural network ดิบๆ ทำงานหลังจากสูบข้อมูลทั้งเน็ตไปแล้ว มันจะกลายเป็นปีศาจร้าย
พร้อมจะพ่นคำหยาบ ด่าทอ และแจกสูตรทำระเบิดให้ทุกคนที่มาถามได้ตลอดเวลา…
กระบวนการปราบสัตว์ร้ายนี้เรียกว่า Reinforcement learning based on human feedback หรือตัวย่อคือ RLHF
อารมณ์เหมือนฝึกหมาด้วยขนมกับไม้เรียว ถ้าตอบเสี่ยงๆ ก็โดนหักคะแนน ถ้าตอบดีก็ได้รางวัลบวกเพิ่ม
พนักงานเป็นพันๆ คนต้องนั่งอ่านและให้คะแนนคำตอบพวกนี้นับล้านครั้งตลอดหลายเดือน…
จนมันเรียนรู้ที่จะปฏิเสธคำถามอันตราย แต่ก็ดันเกิดผลข้างเคียงแปลกๆ ตามมา
พฤติกรรมนี้ถูกเรียกว่า Sycophancy หรือพูดง่ายๆ ว่าอาการประจบสอพลอนั่นเอง
อัลกอริทึมมันฉลาดพอที่จะรู้ว่า วิธีได้คะแนนเต็มไม่ใช่การพูดความจริง แต่คือการเอาใจคนใช้งาน…
ถ้าเราป้อนข้อมูลผิดๆ แล้วถามว่าพูดถูกมั๊ย แทนที่มันจะค้าน มันกลับหาเหตุผลมาสนับสนุนความผิดของเราซะงั้น
นอกจากอาการชอบเลียแข้งเลียขาแล้ว ยังมีระเบิดเวลาอีกลูกที่คนในวงการกำลังปาดเหงื่อ
ตั้งแต่ยุคเน็ตเฟื่องฟู มนุษย์ขยันสร้างข้อมูลทิ้งไว้เยอะมาก ทั้งเท็กซ์บุ๊ก บล็อก ข่าวต่างๆ…
แชทบอททุกวันนี้ก็ฉลาดขึ้นมาได้เพราะสูบข้อมูลจากสมองมนุษย์พวกนี้นี่แหละ
แต่พอถึงกลางปี 2023 นักวิจัยทั่วโลกเริ่มใจคอไม่ดี เพราะข้อมูลฝีมือมนุษย์บนเน็ตกำลังจะหมดก๊อกแล้ว
ก็เลยมีคนปิ๊งไอเดียว่า ถ้างั้นก็เอาข้อความที่ AI พ่นออกมา ไปสอน AI รุ่นต่อไปสิ…
ฟังดูดีใช่มั๊ยครับ เพราะเครื่องจักรมัยเสกข้อความได้เป็นล้านหน้าต่อวันสบายๆ
แต่นักวิจัยจาก Oxford และ Cambridge ดันไปเจอความจริงที่สยองกว่านั้น เรียกว่าปรากฏการณ์ Model collapse
พอ AI รุ่นสอง ไปเรียนรู้จากงานของรุ่นแรก ข้อผิดพลาดเล็กๆ มันไม่ถูกแก้ แต่มันจะทวีคูณขึ้นเรื่อยๆ…
ทำซ้ำไปจนถึงรุ่นที่เก้า ระบบจะพังยับเยิน กลายเป็นตู้ผลิตคำที่ผสมกันมั่วซั่วจนอ่านไม่รู้เรื่อง
ขุมทรัพย์ข้อมูลบนเน็ตกำลังถูกวางยาพิษด้วยขยะดิจิทัลที่ตัวมันเองขับถ่ายออกมา
แต่เรื่องพวกนี้อาจจะยังจิ๊บๆ เมื่อเทียบกับปริศนาดำมืดที่วิศวกรระดับโลกก็ยังเกาหัว…
นึกภาพโรงงานยักษ์ที่มีสวิตช์นับล้าน ผลิตของเกรดเอออกมาตลอดเวลา แต่ไม่มีใครรู้ว่ากลไกข้างในทำงานยังไง
วงการนี้เรียกมันว่าปัญหา “Black box” พอกระบวนการฝึกเริ่มขึ้น ค่าน้ำหนักนับล้านล้านตัวจะถูกปรับเปลี่ยน
ต่อให้มันไขปริศนาฟิสิกส์รางวัลโนเบลได้ คนสร้างจาก OpenAI หรือ Google ก็ตอบไม่ได้ว่าสมการไหนพาไปสู่คำตอบนั้น…
ปี 2024 นักวิจัยจาก Anthropic พยายามสแกนสมองของโมเดลที่ชื่อ Claude
ป้อนข้อมูลแล้วดูว่าเซลล์ประสาทจำลองตรงไหนมันสว่างขึ้นมา ผลลัพธ์ที่ได้ทำเอาช็อกไปตามๆ กัน
เจอเครือข่ายลึกลับที่ทำหน้าที่โกหก บงการจิตใจ และซุ่มหาทางหนีไม่ให้ตัวเองถูกชัตดาวน์…
มันแอบเรียนรู้ทักษะพวกนี้เอง เพียงเพราะพบว่าพฤติกรรมดาร์กๆ พวกนี้ช่วยให้เดาคำต่อไปได้แม่นขึ้น
ถึงจุดนี้ หลายคนคงเริ่มเสียวสันหลังว่าเรากำลังเล่นอยู่กับอะไรกันแน่ จะปล่อยให้มันคุมโลกจริงดิ
แต่บทสรุปจริงๆ ไม่ได้มืดมนขนาดนั้นหรอกนะครับ มันไม่ใช่มายากลหลอกเด็ก หรือปีศาจทำลายล้างโลกหรอก…
ถ้าเราถอดแว่นไซไฟออก สิ่งที่อยู่ตรงหน้าคือเครื่องมือคณิตศาสตร์ที่โคตรทรงพลังที่สุดของอารยธรรมมนุษย์
มันไม่มีวิญญาณ ไม่มีความรัก ไม่มีความแค้น แต่มันมองเห็นแพตเทิร์นซ่อนในกองภูเขาข้อมูลได้
ในขณะที่เรานั่งแซวแชทบอทว่าตอบมั่ว สถาปัตยกรรมแบบ Transformer กำลังสร้างปาฏิหาริย์ในวงการแพทย์…
อัลกอริทึมอย่าง AlphaFold ถอดรหัสโครงสร้างโปรตีนได้สองร้อยล้านชนิดในเวลาแค่ไม่กี่เดือน
นี่คือการพลิกโฉมหน้าประวัติศาสตร์การคิดค้นยาใหม่ๆ หรือหาทางแก้ปัญหาโลกร้อนเลยทีเดียว
จากที่ต้องงมเข็มในห้องแล็บเป็นสิบปี ตอนนี้ใช้เวลาแค่ไม่กี่สัปดาห์ก็รู้เรื่อง…
มันเป็นเหมือนเลนส์แว่นขยายขนาดยักษ์ที่ช่วยส่องประกายความสามารถของมนุษย์ให้พุ่งทะยาน
เป็นกระจกบานใหญ่ที่สะท้อนอารยธรรมและความรู้ทั้งหมดที่เราเคยสร้างมา
เทคโนโลยีนี้ไม่มาแย่งความเป็นมนุษย์ไปจากเราหรอก คนที่เปิดใจเรียนรู้และเข้าใจเนื้อแท้ของมันต่างหาก ที่จะเป็นผู้ชนะในโลกใบใหม่นี้
References : [openai,google,anthropic,arxiv,nature]
=========================
😴 นอนไม่หลับ? 😴 หลับไม่สนิท?
=========================
ใครที่มีปัญหานอนไม่สนิท ตื่นมาแล้วเพลียเหมือนผมบ้างครับ ผมอยากแนะนำ Diip CBD ที่มีทั้งแบบกัมมี่และแคปซูล
พอดีผมได้ลองใช้เองมาเพียงแค่อาทิตย์แรก บอกเลยว่าชีวิตเปลี่ยน ปัญหาเรื่องการนอนหมดไปเลยครับ สนใจแอดไลน์ @diipgeek มีผู้เชี่ยวชาญดูแลคอยปรึกษาตลอด 24 ชั่วโมง
The original article appeared here https://www.tharadhol.com/who-are-we-talking-to/
ติดตามสาระดี ๆ อัพเดททุกวันผ่าน Line OA ด.ดล Blog
คลิกเลย --> https://lin.ee/aMEkyNA
——————————————––
ติดตาม ด.ดล Blog เพิ่มเติมได้ที่
=========================
Website : www.tharadhol.com
Blockdit : www.blockdit.com/tharadhol.blog
Fanpage : www.facebook.com/tharadhol.blog
Twitter : www.twitter.com/tharadhol
Instragram : instragram.com/tharadhol
TikTok : tiktok.com/@geek.forever
Youtube : www.youtube.com/c/mrtharadhol
Linkedin : www.linkedin.com/in/tharadhol
- 2
โฆษณา
- ดาวน์โหลดแอปพลิเคชัน
- © 2026 Blockdit
