RTX Spark, M5 Max หรือ RTX 5090: เลือกเครื่องรัน Local LLM

เนื้อหาในคลิป

ซื้อสามอย่าง: ความจุ แบนด์วิดท์ และพลังประมวลผล

ผู้ทำคลิปเริ่มจากข้อสังเกตว่าการ์ด 32GB รันโมเดลเล็กได้เร็วกว่าโน้ตบุ๊กที่มีหน่วยความจำมากกว่าสี่เท่า แต่โน้ตบุ๊กเครื่องนั้นรันโมเดลที่การ์ดโหลดไม่ได้ จึงไม่ได้ซื้อเครื่องเดียว แต่ซื้อ capacity, bandwidth และ compute เครื่องที่เทียบคือ RTX 5090 (32GB) MacBook Pro M5 Max (สูงสุด 128GB) โน้ตบุ๊ก RTX Spark (สูงสุด 128GB รัน Windows) และ DGX Spark ซึ่งเป็นกล่อง Linux ที่ใช้ชิปแนวเดียวกัน

ตัวทดสอบหลักคือ Qwen3.8-27B โมเดล dense ขนาดราว 17GB ที่ 4 บิต บน RTX 5090 เขียนได้ราว 75 tokens ต่อวินาที บน M5 Max 128GB ราว 38 เพราะแบนด์วิดท์ 614 GB/s เทียบกับ 1,792 GB/s ของการ์ด ทุกโทเค็นคือการอ่านน้ำหนักทั้งก้อนหนึ่งรอบ ความจุจึงกำหนดว่าโมเดลโหลดได้หรือไม่ ส่วนแบนด์วิดท์กำหนดความเร็วเขียน สำหรับ coding agent ส่วนที่อ่านบริบท 20,000 ถึง 30,000 โทเค็นใช้พลังประมวลผลเป็นหลัก การอ่านโค้ด 48,000 โทเค็นใช้ราว 11 วินาทีบน RTX 5090 ราว 32 วินาทีบน DGX Spark และราว 20 วินาทีถึงหนึ่งนาทีครึ่งบน Mac เขาจึงไม่แนะนำ Mac สำหรับ agent

กับดัก 128GB และโมเดลที่การ์ดโหลดไม่ได้

ผู้ทำคลิปเตือนว่าโน้ตบุ๊กที่ขายว่า 5090 ไม่ใช่ชิปเดียวกับการ์ดเดสก์ท็อป มี 24GB และแบนด์วิดท์ 896 GB/s ให้ดู memory bus แทนตัวเลขบนกล่อง จากนั้นยก Qwen3.8 Flash Next ขนาด 180B แบบ mixture of experts ที่ใช้งานราว 6B ต่อโทเค็น คะแนนบน Artificial Analysis 40 เทียบกับ 20 ของ 27B ที่ 4 บิตใช้ราว 86GB การ์ดโหลดไม่ได้

เขาสรุปว่า 128GB ซื้อความสามารถรันโมเดลขนาดนั้น ไม่ใช่ความเร็ว รุ่น dense ต้องการแบนด์วิดท์ ส่วน sparse อย่าง Flash Next ต้องการความจุ ในกลุ่มเครื่องที่ถือโมเดลใหญ่ได้ Mac เร็วกว่า DGX Spark ราวสองเท่า GPT-OSS 120B ได้ 79 ถึง 91 tokens ต่อวินาทีบน M5 Max เทียบกับ 37 ถึง 58 บน Spark ส่วนโมเดล 27B บนเครื่องกลุ่มนี้ได้ราว 8 ถึง 13 เทียบกับ 75 บนการ์ด

เหตุผลที่เลือก RTX Spark ราคา และคำแนะนำ

เหตุผลที่ควรเลือกโน้ตบุ๊ก RTX Spark คือซอฟต์แวร์ที่ต้องใช้ CUDA เช่น การสร้างภาพและวิดีโอ ComfyUI และ fine-tune ผู้ทำคลิปแนะนำ Windows หรือ WSL เพราะ Linux แบบ native บนโน้ตบุ๊กเป็นกับดัก เขาอ้างว่าตัวควบคุมแบ่งพลังงาน CPU กับ GPU ใช้ได้เฉพาะ Windows ทำให้ความเร็วลดเหลือราว 14 tokens ต่อวินาทีจากราว 65 และเพราะเป็น ARM จึงต้องเช็กเครื่องมือ Ollama รันได้ แต่ซอฟต์แวร์ Windows จำนวนมากยังออกเฉพาะ Intel และ AMD

ราคาที่ยกมา (128GB) MacBook Pro 6,699 ดอลลาร์ โน้ตบุ๊ก RTX Spark 5,900 ถึง 7,000 Mac Studio 5,100 DGX Spark 6,950 (สูงกว่าราคาเปิดตัว 74%) RTX 5090 ใหม่ราว 5,600 และ RTX 3090 มือสอง 24GB ราว 1,500 ซึ่งรัน 27B ได้ราว 39 tokens ต่อวินาที แต่บริบทของ agent จะคับ เขามองว่ารอ Black Friday ไม่ช่วย เพราะหน่วยความจำขาดแคลนทั่วโลก ส่วนลด MacBook ที่มีเป็นรุ่น 36GB

คำแนะนำ ถ้าใช้ coding agent ให้ซื้อการ์ด หรือ 3090 มือสอง หรือเช่าการ์ดชั่วโมงละ 0.65 ดอลลาร์เพื่อลองก่อน ถ้าต้องการโมเดลเปิดที่ดีที่สุดและสร้างภาพหรือวิดีโอด้วย ให้ซื้อ RTX Spark 128GB บน Windows ถ้าไม่อยากใช้ Windows ให้ซื้อ DGX Spark ถ้าเน้นข้อความในเครื่องพกพาให้ซื้อ M5 Max คำถามสำคัญคืออยากรันโมเดลอะไรจริง ๆ