หน่วยความจำแบบถาวรที่มีบทบาทใน AI และ Data Center หลัก ๆ มีอยู่ 2 อย่าง
- SSD หรือ Solid State Drive คือเมมโมรีของระบบ Data Center สำหรับจัดเก็บ และรับส่งข้อมูลด้วยความเร็วสูง โดย SSD เปรียบเสมือนคลังเก็บข้อมูลที่ Data Center ต้องการเรียกใช้งานบ่อย ๆ สำหรับเทรน AI เพื่อให้ GPU และ CPU สามารถประมวลผล AI ได้อย่างรวดเร็ว
- HDD หรือ Hard Disk Drive เป็นแผ่นจานหมุน ที่เป็นเหมือนโกดังสินค้า ไว้สต๊อกข้อมูลจำนวนมาก โดยภายใน Hard Disk Drive จะเก็บข้อมูลต่าง ๆ เพื่อไว้ Backup ให้กับหน่วยประมวลผลของ Data Center ซึ่งข้อมูลใน Hard Disk Drive ก็อาจจำเป็นต้องใช้ในการประมวลผล AI ในอนาคต
แต่สำหรับ Data Center แล้ว ก็ต้องบอกว่าหน่วยประมวลผลเหล่านี้ ย่อมเปิดเครื่อง และมีไฟฟ้าเข้าไปหล่อเลี้ยงอยู่ตลอดเวลา
นั่นก็ทำให้ RAM ต้องทำงานตลอดเวลาเช่นกัน
โดย RAM จะทำหน้าที่กักเก็บข้อมูล หรือชุดคำสั่งต่าง ๆ ที่พร้อมนำไปให้ CPU หรือ GPU ใช้ประมวลผลได้ทันที เพื่อให้ User ที่อยู่หน้าคอมพิวเตอร์หรือสมาร์ตโฟน สามารถพรอมต์ข้อมูล แล้วให้โมเดล AI คอยประมวลผล คิดวิเคราะห์ได้อย่างต่อเนื่องโดยไม่สะดุด
1
โดยหน่วยความจำ RAM ที่มีบทบาทใน Data Center ก็จะมีอยู่ 2 อย่างด้วยกัน นั่นคือ
- ชิป DRAM ถูกออกแบบมาเพื่อเป็นพื้นที่รับส่งข้อมูลระหว่าง CPU และระบบประมวลผลทั้งหมดในเซิร์ฟเวอร์
ซึ่งชิป DRAM จะทำหน้าที่เป็นถนนสายหลัก ที่เชื่อมต่อไปยังทุกส่วนในเซิร์ฟเวอร์ได้อย่างครอบคลุม และทำหน้าที่เป็นกองหนุนในการจัดเตรียม Data Set ขนาดใหญ่ ก่อนจะส่งต่อเข้าสู่วงจรการประมวลผลหลัก
โดยชิป DRAM ที่กำลังเป็นที่ต้องการอย่างมากของโมเดล AI ก็คือรุ่น DDR5
- HBM หรือ High Bandwidth Memory เกิดจากชิป DRAM ที่เอามาซ้อนกันหลาย ๆ ชั้น ซึ่งการทำแบบนี้จะทำให้มี Bandwidth ที่สูงกว่า RAM ทั่วไปหลายเท่า
SSD ก็เปรียบเสมือนลิ้นชักสำหรับเก็บเอกสารขนาดใหญ่ เพื่อไว้สำหรับดึงไปใช้ในการประมวลผล AI ให้เร็วที่สุด
ทั้งหมดนี้ จึงเป็นเหตุผลหลัก ที่ทำให้ Big Tech อยากทุ่มงบลงทุนระดับล้านล้านบาท ไปกับโครงสร้างพื้นฐานด้าน AI โดยเฉพาะชิปเมมโมรี ที่โมเดล AI ขาดไปไม่ได้เลย
รู้ไหมว่า Amazon, Alphabet, Meta และ Microsoft ยังกระหน่ำลงทุน AI เพิ่มเติมตลอดทั้งปี สูงถึง 25 ล้านล้านบาท แต่ช่วงที่ผ่านมา ราคาหุ้นกลุ่ม Memory ที่เติบโตตามโครงสร้างพื้นฐาน AI กลับผันผวนสูง