Blockdit Logo (Mobile)
แอบดูที่รูเดิม
•
13 มี.ค. เวลา 10:50 • วิทยาศาสตร์ & เทคโนโลยี

ทิ้งเงินเดือนปีละ 30 ล้าน... เพื่อไปเรียน "เขียนกลอน" เนี่ยนะ!? 🤯

ถ้าคุณได้เงินเดือนหลักล้านทุกเดือนจากบริษัท AI ตัวท็อปของโลก คุณจะลาออกไหม? แต่ Mrinank Sharma หัวหน้าทีมวิจัยด้านความปลอดภัย AI ของ Anthropic ตัดสินใจทิ้งรายได้ระดับเศรษฐี พร้อมเขียนจดหมายลาออกที่สะเทือนไปทั้งวงการ!
เขาไม่ได้ย้ายไปบริษัทคู่แข่ง แต่ไปศึกษาด้านกวีนิพนธ์ พร้อมทิ้งคำเตือนสติมนุษยชาติไว้ว่า "โลกกำลังตกอยู่ในอันตราย... อำนาจของเรากำลังก้าวล้ำหน้าภูมิปัญญา" คนวงในระดับหัวกะทิที่อยู่กับ AI ทุกวัน... เขาเห็น "อะไร" ที่พวกเรายังไม่เห็น? ลองสละเวลาอ่านจดหมายลาออกฉบับเต็ม(แปลไทย) ของเขาดูครับ แล้วคุณจะเข้าใจว่าทำไมเรื่องนี้ถึงสำคัญกว่าเงิน!
[แอบดูที่รูเดิม] ​ตาเทพที่มืดบอด: โศกนาฏกรรมมินาบ และวันที่ AI ยอมแลกจริยธรรมเพื่ออำนาจสังหาร “Don’t Be Evil” — สโลแกนสุดเท่ที่เคยเป็นหัวใจของ Google กลายเป็นแค่เรื่องตลกร้าย ในวันที่ AI ไม่ได้ถูกสร้างมาเพื่อช่วยโลก แ
blockdit.com
[แอบดูที่รูเดิม] ​ตาเทพที่มืดบอด: โศกนาฏกรรมมินาบ และวันที่ AI ยอมแลกจริยธรรมเพื่ออำนาจสังหาร “Don’t Be Evil” — สโลแกนสุดเท่ที่เคยเป็นหัวใจของ Google กลายเป็นแค่เรื่องตลกร้าย ในวันที่ AI ไม่ได้ถูกสร้างมาเพื่อช่วยโลก แ
“Don’t Be Evil” — สโลแกนสุดเท่ที่เคยเป็นหัวใจของ Google กลายเป็นแค่เรื่องตลกร้าย ในวันที่ AI ไม่ได้ถูกสร้างมาเพื่อช่วยโลก แต่ถูกโปรแกรมมาเพื่อช่วย ”ฆ่า” โลกเราหมุนมาถึงจุดที่ ”ตาเทพ” ไม่ได้หมายถึงปาฏิหาริย์จากฟ้า แต่คือระบบปฏิบัติการอัจฉริยะที่เฝ้ามองเราผ่านเลนส์โดรนสอดแนมตลอด 24 ชั่วโมง มันมองเห็นท…
เรียน เพื่อนร่วมงานทุกท่าน,
ผมได้ตัดสินใจที่จะออกจาก Anthropic แล้ว วันสุดท้ายของการทำงานของผมคือวันที่ 9 กุมภาพันธ์
ขอบคุณครับ มีหลายสิ่งหลายอย่างที่นี่ที่สร้างแรงบันดาลใจและเคยสร้างแรงบันดาลใจให้กับผม หากจะเอ่ยถึงบางสิ่งเหล่านั้น ได้แก่:
ความปรารถนาและแรงผลักดันอย่างจริงใจที่จะแสดงศักยภาพในสถานการณ์ที่ท้าทายเช่นนี้ และความมุ่งมั่นที่จะสร้างประโยชน์ในแนวทางที่สร้างผลกระทบและมีความซื่อสัตย์สุจริตขั้นสูง; ความเต็มใจที่จะตัดสินใจในเรื่องยากลำบากและยืนหยัดเพื่อสิ่งที่ดีงาม; ความปราดเปรื่องทางสติปัญญาและความมุ่งมั่นที่มากมายอย่างเหลือเชื่อ; และแน่นอน ความเมตตาอันใหญ่หลวงที่แผ่ซ่านอยู่ในวัฒนธรรมของเรา
ผมได้บรรลุในสิ่งที่ผมต้องการแล้วที่นี่ ผมเดินทางมาถึงซานฟรานซิสโกเมื่อสองปีที่แล้ว หลังจากเรียนจบปริญญาเอกและต้องการมีส่วนร่วมในด้านความปลอดภัยของ AI ผมรู้สึกโชคดีที่ได้มีส่วนร่วมในสิ่งที่ผมได้ทำที่นี่:
การทำความเข้าใจพฤติกรรมการประจบประแจงของ AI (AI sycophancy) และสาเหตุของมัน; การพัฒนาระบบป้องกันเพื่อลดความเสี่ยงจากการก่อการร้ายทางชีวภาพที่มี AI เป็นผู้ช่วย; การนำระบบป้องกันเหล่านั้นไปใช้งานจริง;
และการเขียนหนึ่งในกรณีศึกษาด้านความปลอดภัยของ AI รุ่นแรกๆ ผมรู้สึกภูมิใจเป็นพิเศษกับความพยายามเมื่อไม่นานมานี้ของผมในการช่วยให้เราใช้ชีวิตตามค่านิยมของเราผ่านกลไกความโปร่งใสภายในองค์กร; และรวมถึงโปรเจกต์สุดท้ายของผมเกี่ยวกับการทำความเข้าใจว่า ผู้ช่วย AI อาจทำให้เรามีความเป็นมนุษย์น้อยลงหรือบิดเบือนความเป็นมนุษย์ของเราได้อย่างไร
ขอบคุณสำหรับความไว้วางใจของพวกคุณ
อย่างไรก็ตาม เป็นที่ชัดเจนสำหรับผมแล้วว่าถึงเวลาที่ต้องก้าวต่อไป ผมพบว่าตัวเองต้องคอยทบทวนสถานการณ์ของเราอยู่เสมอ
โลกกำลังตกอยู่ในอันตราย และไม่ใช่แค่จาก AI หรืออาวุธชีวภาพ แต่จากวิกฤตการณ์ต่างๆ ที่เชื่อมโยงถึงกันซึ่งกำลังเผยตัวออกมาในขณะนี้ เราดูเหมือนกำลังเข้าใกล้จุดวิกฤตที่ภูมิปัญญาของเราจะต้องเติบโตขึ้นในสัดส่วนที่เท่าเทียมกับขีดความสามารถของเราในการส่งผลกระทบต่อโลก
มิฉะนั้นเราจะต้องเผชิญกับผลที่ตามมา ยิ่งไปกว่านั้น ตลอดเวลาที่ผมอยู่ที่นี่ ผมได้เห็นซ้ำแล้วซ้ำเล่าว่ามันยากเพียงใดที่จะปล่อยให้ค่านิยมของเราเป็นตัวกำหนดการกระทำของเราอย่างแท้จริง ผมเห็นสิ่งนี้ในตัวเอง ภายในองค์กร ที่ซึ่งเราต้องเผชิญกับแรงกดดันอยู่ตลอดเวลาให้ละทิ้งสิ่งที่สำคัญที่สุดไป และตลอดทั่วทั้งสังคมในวงกว้างด้วยเช่นกัน
ผ่านการโอบรับสถานการณ์นี้และการรับฟังอย่างดีที่สุดเท่าที่ผมจะทำได้ สิ่งที่ผมต้องทำจึงชัดเจนขึ้น ผมต้องการอุทิศตนในแนวทางที่รู้สึกว่าสอดคล้องกับความซื่อสัตย์ต่อตนเองอย่างเต็มที่ และเปิดโอกาสให้ผมได้นำเอาความเป็นตัวตนเฉพาะตัวของผมออกมาใช้ให้มากขึ้น ผมต้องการสำรวจคำถามที่ผมรู้สึกว่าจำเป็นอย่างแท้จริงสำหรับผม คำถามที่ David Whyte จะกล่าวว่า "ไม่มีสิทธิ์ที่จะเลือนหายไป" คำถามที่ Rilke อ้อนวอนให้เรา "ใช้ชีวิต" ไปกับมัน สำหรับผม สิ่งนี้หมายถึงการจากไป
อะไรจะเกิดขึ้นต่อไป ผมเองก็ไม่ทราบ ผมนึกถึงคำคมเซนชื่อดังที่ว่า "การไม่รู้คือความใกล้ชิดที่สุด (not knowing is most intimate)" ด้วยความชื่นชม ความตั้งใจของผมคือการสร้างพื้นที่ว่างเพื่อวางโครงสร้างที่ยึดเหนี่ยวผมไว้ในช่วงหลายปีที่ผ่านมานี้ลง และรอดูว่าจะมีอะไรปรากฏขึ้นมาเมื่อไม่มีสิ่งเหล่านั้น
ผมรู้สึกถึงเสียงเรียกขานให้ออกไปเขียนหนังสือที่บอกเล่าและมีส่วนร่วมอย่างเต็มที่กับจุดที่เรากำลังยืนอยู่ และเป็นงานเขียนที่วางความจริงทางกวีนิพนธ์เคียงคู่ไปกับความจริงทางวิทยาศาสตร์ ในฐานะวิถีแห่งการรับรู้ที่ถูกต้องและมีคุณค่าเท่าเทียมกัน ซึ่งผมเชื่อว่าทั้งสองสิ่งนี้ต่างก็มีส่วนสำคัญยิ่งในการพัฒนาเทคโนโลยีใหม่
ผมหวังว่าจะได้สำรวจการเรียนต่อปริญญาด้านกวีนิพนธ์และอุทิศตนให้กับการฝึกฝนการพูดอย่างกล้าหาญ ผมยังรู้สึกตื่นเต้นที่จะได้ลงลึกในการฝึกฝนการเป็นกระบวนกร (Facilitation), การโค้ช, การสร้างชุมชน และการทำงานกลุ่ม เราจะได้เห็นกันว่าอะไรจะเผยออกมา
ขอบคุณ และลาก่อนครับ ผมได้เรียนรู้มากมายจากการอยู่ที่นี่และขออวยพรให้พวกคุณพบเจอแต่สิ่งที่ดีที่สุด ผมขอทิ้งท้ายด้วยหนึ่งในบทกวีที่ผมชื่นชอบ The Way It Is โดย William Stafford
โชคดีครับ,
Mrinank
วิถีที่เป็นไป (The Way It Is)
โดย William Stafford
มีเส้นด้ายเส้นหนึ่งที่คุณเดินตาม มันทอดยาวไปท่ามกลาง
สิ่งต่างๆ ที่แปรเปลี่ยน แต่มันกลับไม่เคยเปลี่ยนแปร
ผู้คนสงสัยว่าคุณกำลังไขว่คว้าอะไรอยู่
คุณต้องอธิบายให้พวกเขาฟังเกี่ยวกับเส้นด้ายนั้น
แต่มันยากที่คนอื่นจะมองเห็น
ตราบใดที่คุณยังจับมันไว้ คุณจะไม่มีวันหลงทาง
โศกนาฏกรรมเกิดขึ้น; ผู้คนบาดเจ็บ
หรือล้มตาย; และคุณต้องทนทุกข์และแก่ชราลง
ไม่มีสิ่งใดที่คุณทำจะหยุดยั้งการคลี่คลายของกาลเวลาได้
แต่คุณอย่าได้ปล่อยมือจากเส้นด้ายนั้นเป็นอันขาด
ทิ้งท้าย: Mrinank Sharma คือใคร? และทำไมจดหมายของเขาถึงสั่นสะเทือนวงการ?
สำหรับใครที่เพิ่งเคยได้ยินชื่อเขาเป็นครั้งแรก... เขาไม่ใช่แค่นักเขียนโค้ดธรรมดาครับ แต่เขาคือ หัวหน้าทีมวิจัยด้านความปลอดภัย (Safeguards Research Team)
ของบริษัท Anthropic (บริษัทระดับโลกผู้สร้าง AI อัจฉริยะอย่าง 'Claude' ที่หลายคนยกย่องว่ามีฝีมือทัดเทียมหรืออาจจะลึกซึ้งกว่า ChatGPT เสียอีก)
หน้าที่หลักของเขาในช่วง 2 ปีที่ผ่านมา คือการเป็น "ผู้สร้างเกราะป้องกัน" ไม่ให้ AI ถูกนำไปใช้ในทางที่ผิดขั้นร้ายแรง เช่น การป้องกันไม่ให้ AI ช่วยผู้ก่อการร้ายสร้างอาวุธชีวภาพ หรือบิดเบือนความเป็นมนุษย์ของเรา
ลองคิดดูสิครับ...
เมื่อคนที่รู้ไส้พุงและความน่ากลัวของ AI ดีที่สุด... เมื่อ "มือปราบ AI" ระดับแนวหน้าของโลก ตัดสินใจวางมือจากเทคโนโลยีล้ำยุค เพื่อหันไปหา "กวีนิพนธ์" และบอกว่าภูมิปัญญาของมนุษย์กำลังโตไม่ทันเทคโนโลยี...
มันจึงไม่ใช่แค่การลาออกธรรมดา แต่มันคือ "สัญญาณเตือนภัยไซเรน" ที่ดังที่สุดจากคนวงใน ว่าเทคโนโลยีล้ำหน้าแค่ไหน ก็ไม่อาจทดแทน "ความเป็นมนุษย์" ที่เรากำลังละทิ้งไปได้เลย
แล้วคุณล่ะครับ... คิดว่าผู้คุมกฎ AI คนนี้ เขามองเห็น "อนาคต" อะไรที่พวกเรายังมองไม่เห็น? มาร่วมแชร์มุมมองกันได้ในคอมเมนต์ครับ 👇
ปล..เหตุการณ์นี้เกิดขึ้น ก่อนที่อเมริกาจะโจมตีอิหร่าน...และโรงเรียน เด็กประถม ทำให้เกิดความสูญเสีย อย่างมากมาย
โฆษณา