23 ธ.ค. 2025 เวลา 03:56 • วิทยาศาสตร์ & เทคโนโลยี

แอปเปิลอัปเดต MLX รองรับ RDMA over Thunderbolt

โดย
แอปเปิลปล่อยอัปเดตไลบรารี MLX เวอร์ชัน 0.30.1 ซึ่งมีการปรับปรุงสำคัญคือการรองรับ RDMA over Thunderbolt ช่วยให้เครื่องแมคในคลัสเตอร์สามารถแชร์ และ เข้าถึงหน่วยความจำระหว่างกันได้เร็วขึ้นอย่างมีนัยสำคัญ
  • ​จุดเด่นของการอัปเดต
1) ประสิทธิภาพการเชื่อมต่อที่เพิ่มขึ้น
- เดิม : ใช้ ring backend แบบ TCP เสียเวลา 300 microsecond
- ใหม่ : รองรับ JACCL ลดเวลาการเข้าถึงเหลือเพียง 10 microsecond
- เพิ่มความเร็วขึ้น 30 เท่า สำหรับการแลกเปลี่ยนข้อมูลข้ามเครื่อง
2) ความสำคัญต่อการทำงานกับโมเดล AI ขนาดใหญ่
- โมเดล AI ขนาดใหญ่มากไม่สามารถโหลดลงในแรมของเครื่องเดียวได้
- การเชื่อมต่อระหว่างเครื่องที่เร็วเป็นปัจจัยสำคัญสำหรับการรันโมเดลแบบกระจาย
- เทียบได้กับระบบ NVLink ของ NVIDIA ที่โดดเด่นเรื่องประสิทธิภาพข้ามเครื่อง
  • ​ข้อกำหนดระบบ
- ฮาร์ดแวร์ : เครื่องที่มี Thunderbolt 5 เช่น M3 Ultra, M4 Pro, M4 Max
- ซอฟต์แวร์ : ต้องติดตั้ง Mac OS 26.2 ขึ้นไป
  • ​ผลกระทบและประโยชน์
- เพิ่มขีดความสามารถของคลัสเตอร์เครื่องแมคสำหรับงาน AI/ML
- ลดคอขวดในการฝึก และ รันโมเดลขนาดใหญ่
- สร้างทางเลือกที่น่าสนใจสำหรับนักพัฒนา AI บนแพลตฟอร์ม Apple
✏️ Shoper Gamer
Credit :
👇
  • ​https://www.blognone.com/node/149287
  • ​https://github.com/ml-explore/mlx/pull/2808
โฆษณา