เมื่อไม่กี่ปีก่อน การเลือก GPU ของทีม AI/ML ไม่ซับซ้อน — ถ้าซื้อ H100 ได้ก็ซื้อ ถ้าซื้อไม่ได้ก็เช่าผ่าน AWS หรือ Google Cloud แล้วรอคิว ปี 2026 สมการเปลี่ยนไปแล้ว ยุค Blackwell — NVIDIA B200, B100 และ GB200 NVL72 — ส่งของจริงในปริมาณที่มีนัยสำคัญหลังจากค่อย ๆ ขยายกำลังการผลิตยืดยาว AMD MI300X และ MI325X ก้าวจากผู้ท้าชิงมาเป็นชิปที่ใช้งานจริงที่ Hyperscaler หลายราย ราคา GPU บนคลาวด์แบบ Spot ลดลงจากจุดสูงปี 2024 และกฎควบคุมการส่งออกของ US Bureau of Industry and Security ก็ยังกำหนดว่าซื้อตรงเข้ามาในแต่ละประเทศได้แค่ไหน ผลลัพธ์คือต้องตัดสินใจกันจริง ๆ — ไม่มีค่าเริ่มต้นแบบเดิมอีกแล้ว
ความเสี่ยงของการตัดสินใจผิดเป็นแบบไม่สมมาตร เลือก Blackwell เกินจำเป็นสำหรับทีมที่ปรับแต่งโมเดล 7B เป็นหลัก หมายถึงจ่ายค่าฮาร์ดแวร์เพิ่ม 40–60% เพื่อเอาอัตราการประมวลผลแบบ FP8 (ความเร็วที่ชิปคูณตัวเลขความแม่นยำต่ำ) ที่รอบการเทรนจริงไม่เคยใช้เต็ม ในทางกลับกัน ถ้าเลือก H100 SXM5 สำหรับฝึกเริ่มต้นโมเดล 70B+ ที่มีเดดไลน์จริง — คลัสเตอร์จะกลายเป็นคอขวดก่อนสาย Data Pipeline ของคุณ ระยะเวลารอสินค้าของ GPU ระดับนี้อยู่ที่ 8–14 สัปดาห์แม้ของจะปกติ และการแก้ขนาดคลัสเตอร์ผิดกลางโปรเจกต์เจ็บมาก
ภาพรวมปี 2026: ชิปอะไรที่ส่งของจริง
H100 SXM5 ยังเป็น GPU ระดับเทรนที่หาได้กว้างที่สุดในกลางปี 2026 — แบนด์วิดท์หน่วยความจำราว 3.35 TB/s, อัตราการประมวลผล FP8 Tensor ราว 3,958 TFLOPS (Sparse), HBM3 ขนาด 80 GB คือสเปกมาตรฐาน HGX H100 หนึ่งโหนดคือ GPU แปดตัวต่อกันผ่าน NVLink 4.0 (สายเชื่อมที่ NVIDIA ใช้พ่วง GPU) นี่คือการจัดวางตัวจริงสำหรับงานขนาดกลาง — โมเดล 1B ถึง 30B พารามิเตอร์ ราคาคลาวด์แบบ On-demand อยู่ที่ราว $2.50–$3.50 ต่อ GPU-hour บนผู้ให้บริการหลัก (ตัวเลขประมาณ ขึ้นกับภูมิภาคและ Tier)
H200 SXM5 คือการอัปเกรดที่ตรงไปตรงมาถ้าภาระงานเป็นแบบติดที่หน่วยความจำ (คือคอขวดอยู่ที่การขยับ Weight ไม่ใช่การคำนวณ) HBM3e ขนาด 141 GB ที่แบนด์วิดท์ราว 4.8 TB/s — เร็วกว่า H100 ถึง 43% ในงบ Compute เท่ากัน แบนด์วิดท์คือหลอดดูดของชิป — หลอดใหญ่กว่า ก็ดูดได้มากกว่าต่อหนึ่งจังหวะ ถ้า Loss Curve รอ Weight อยู่ H200 ก็คุ้มกว่าต่อดอลลาร์ Blackwell ยกเพดานขึ้นไปอีก B200 ทำได้ราว 4.5 petaFLOPS FP4 และ 2.25 petaFLOPS FP8 (Dense) พร้อม HBM3e ขนาด 192 GB ส่วนเรื่องสายเชื่อมระหว่างชิปคือจุดสำคัญ — GB200 NVL72 หนึ่งแร็คเชื่อม GPU 72 ตัวผ่าน NVLink 5.0 ที่ 1.8 TB/s GPU-to-GPU เปิดทางเทรนในระดับที่เคยต้องใช้ InfiniBand ราคาแพง สำหรับการฝึกเริ่มต้นเกิน 30B พารามิเตอร์ — GB200 NVL72 หนึ่งแร็คคือหน่วยของการวางแผน ไม่ใช่การ์ดรายตัว
AMD MI300X / MI325X: ความเป็นจริงของ ROCm
MI300X เป็นคู่แข่งจริง — HBM3 แบบ Unified Memory ขนาด 192 GB ที่แบนด์วิดท์ราว 5.3 TB/s, อัตราการประมวลผล FP8 ราว 1.3 petaFLOPS (Dense) สำหรับงาน Inference เป็นหลัก — เสิร์ฟ Long-context, ชุด KV-cache ขนาดใหญ่ — ข้อได้เปรียบด้านหน่วยความจำเหนือ H100 วัดได้จริง Microsoft Azure รัน MI300X ที่สเกลใหญ่บน ND v5 และผลการเทรนบน MI325X ของ AMD ก็น่าเชื่อ ข้อควรระวังที่ตรงไปตรงมาคือเรื่องซอฟต์แวร์ ROCm (CUDA เวอร์ชัน AMD) มาไกลแล้ว — PyTorch, FlashAttention-3, Triton Kernel ใช้ได้ แต่ช่องว่างกับระบบนิเวศ CUDA ยังมีอยู่ ห้องวิจัยใหญ่ส่วนมากยังเอา CUDA เป็นหลัก Custom CUDA Kernel, NVIDIA Apex และเครื่องมือ Quantization ส่วนใหญ่ต้อง Port ถ้าทีมไม่มีประสบการณ์ ROCm คำแนะนำเชิงปฏิบัติ: AMD เหมาะถ้าผู้ให้บริการคลาวด์ดูแล ROCm ให้ หรือภาระงานเป็น PyTorch มาตรฐานล้วน ถ้า Stack ของคุณพึ่ง Custom Kernel หรือเครื่องมือเฉพาะ CUDA ให้ประเมินต้นทุนการ Port จริง ๆ ก่อนตัดสินใจ
| Chip | Memory | Bandwidth | FP8 dense | เหมาะกับ |
|---|---|---|---|---|
| H100 SXM5 | 80 GB HBM3 | 3.35 TB/s | ~1.98 PFLOPS | Fine-tune และ Training ขนาดกลาง (1B–30B) |
| H200 SXM5 | 141 GB HBM3e | 4.8 TB/s | ~1.98 PFLOPS | งาน Memory-bound, Long-context training |
| B100 | 192 GB HBM3e | 8 TB/s | ~1.8 PFLOPS | ทดแทน H100 เมื่อ Power Budget จำกัด |
| B200 | 192 GB HBM3e | 8 TB/s | ~2.25 PFLOPS | Frontier Pretraining, FP8 End-to-end |
| GB200 NVL72 (ต่อ Rack) | 13.4 TB pooled | NVLink 5 — 1.8 TB/s GPU↔GPU | ~162 PFLOPS / Rack | Pretraining 100B+ พารามิเตอร์ |
| AMD MI300X | 192 GB HBM3 | 5.3 TB/s | ~1.3 PFLOPS | Serving แบบ KV-cache หนัก, Memory-bound |
| AMD MI325X | 256 GB HBM3e | 6.0 TB/s | ~1.3 PFLOPS | เหมือน MI300X แต่ Memory เยอะกว่า |
- จุดแข็ง: HBM3 แบบ Unified Memory 192 GB — พูลใหญ่ที่สุดในคลาสนี้ — แข็งแกร่งสำหรับ Inference 70B+ และการปรับแต่งโมเดลที่ติดที่หน่วยความจำ
- ความฝืดของ ROCm: FlashAttention-3 และ Triton ใช้ได้แล้ว แต่ Custom CUDA Kernel และไลบรารีเฉพาะ NVIDIA ยังต้อง Port — บวกเวลาในแผนถ้า Stack ของทีมพึ่งสิ่งเหล่านี้
- ความพร้อมของของ: AMD หาได้ง่ายกว่าผ่านคลาวด์ (Azure, Oracle Cloud) มากกว่าซื้อมาตั้งเอง (On-prem) ในตลาดส่วนใหญ่ — เอาเข้าในกรอบค่าใช้จ่ายลงทุนเทียบกับค่าใช้จ่ายดำเนินงานด้วย
คลาวด์เทียบกับตั้งเอง: กรอบค่าลงทุน/ค่าดำเนินงาน
GPU บนคลาวด์ไม่ได้แพงกว่าตั้งเองเสมอไปในระยะ 3 ปี แต่ต้องคำนวณ TCO (ต้นทุนรวมของการเป็นเจ้าของ — ฮาร์ดแวร์ + ไฟ + ระบบทำความเย็น + เครือข่าย + Storage + คนที่ดูแล) แบบตรงไปตรงมา ตั้งเองคือซื้อเครื่อง พร้อมค่าไฟและระบบทำความเย็น — โหนด HGX H100 ดึงไฟ 3.5–6.4 kW ต่อการ์ด, แร็ค GB200 NVL72 อาจเกิน 120 kW ต่อแร็ค Co-location เชิงพาณิชย์ส่วนใหญ่ยังไม่พร้อมรับโดยไม่มีการลงทุนเพิ่ม คลาวด์ตัดรายการพวกนั้นทิ้ง แล้วคิดเป็น Compute-hour แทน — ราว $2.50/ชั่วโมง (H100 On-demand) ถึง $8–12/ชั่วโมง (H200 / B200 ประมาณ) ทีมที่รันการเทรนเป็นช่วง — ไตรมาสละรันใหญ่สองสามครั้ง — Reserved Instance บนคลาวด์ที่ลด 30–40% จาก On-demand มักชนะ TCO เทียบกับคลัสเตอร์ที่การใช้งานต่ำกว่า 60% การตั้งเองชนะเฉพาะตอนที่กดการใช้งานสูงกว่า 70–80% ต่อเนื่อง, ศูนย์ข้อมูลมีไฟแน่นพอ (15+ kW ต่อแร็คสำหรับ H100, 60+ kW สำหรับ Blackwell) และมีวิศวกรดูแลคลัสเตอร์แบบ Bare-metal
ประเด็นภูมิภาคที่ควรหยิบมาพูด: ตลาดที่กฎอธิปไตยข้อมูลบังคับให้ภาระงานอยู่ในประเทศ — PDPA ของไทย, PDP Law ของอินโดนีเซีย, PIPL ของจีน และระบอบใกล้เคียงทั่วโลก — ความหนาแน่นพลังงานระดับ GPU สูง (30+ kW ต่อแร็คพร้อมระบบทำความเย็นแบบ Precision) ยังกระจุกใน Co-location ไม่กี่แห่ง ถ้ามีข้อกำหนดด้านอธิปไตยข้อมูลหรือระเบียบรายอุตสาหกรรมบังคับให้ตั้งเอง — ให้นับการประเมินความพร้อมของศูนย์ข้อมูลเข้าในไทม์ไลน์ด้วย ไม่ใช่งาน 2 สัปดาห์
ความพร้อมของซอฟต์แวร์: PyTorch, FlashAttention และเส้นทาง FP8
การเทรนแบบ FP8 คือฟีเจอร์หัวใจของ Blackwell และ H200 แต่เส้นทางซอฟต์แวร์ที่จะได้อัตราการประมวลผลจริงสำคัญกว่า FP8 เทียบกับ BF16 (ความแม่นยำที่สูงกว่าและเป็นค่าโดยปริยาย) เปรียบได้กับร่างด้วยดินสอกับร่างด้วยปากกา — เร็วกว่า แต่ลบยากกว่าเมื่อพลาด Transformer Engine ของ NVIDIA สำหรับ Mixed-precision FP8 ทำงานเสถียรบน PyTorch 2.2+ และต่อเข้ากับ HuggingFace Accelerate และ DeepSpeed FlashAttention-3 รองรับ H100 และ H200 แบบ Native ให้ Speedup ดีในโมเดลที่ Attention หนัก บน B200 / GB200 การเทรนแบบ FP8 ครบวงจร (Forward และ Backward Pass ใน FP8 พร้อม FP32 Accumulation ที่เลือกได้) คือเป้าหมายของการตั้งค่า แต่กลางปี 2026 เครื่องมือสำหรับเทรน FP8 อัตโนมัติที่ไม่ต้องจูน Precision มือยังพัฒนาอยู่สำหรับสถาปัตยกรรมที่ซับซ้อน เส้นฐานของทีมส่วนใหญ่คือ BF16 + FlashAttention-3 บน H100 หรือ H200 — ทดสอบดี อัตราการประมวลผลแข็งแกร่ง FP8 คุ้มลองถ้าสถาปัตยกรรมเป็น Standard Transformer และทีมมีเวลาเฝ้าดู Loss Curve อย่างละเอียด — ความไม่เสถียรเกิดบน FP8 บ่อยกว่า BF16
- BF16 + FlashAttention-3 บน H100 / H200: เสถียรในการใช้งานจริง เอกสารดี — จุดเริ่มต้นหลักของการปรับแต่งโมเดลและการฝึกเริ่มต้นขนาดกลางส่วนใหญ่
- FP8 ครบวงจรบน B200 / GB200: อัตราการประมวลผลเชิงทฤษฎีสูงสุด ต้องใช้ Transformer Engine และเฝ้าดู Loss Curve อย่างใกล้ชิด ยังไม่ใช่ค่าโดยปริยายสำหรับสถาปัตยกรรมนอกมาตรฐาน
- Apple M-series (M3 Ultra / M4 Max): เหมาะกับงานต้นแบบและปรับแต่งโมเดลแบบ GPU ตัวเดียวในโมเดลถึงราว 13B แบนด์วิดท์หน่วยความจำราว 800 GB/s บน M4 Max แข่งขันได้สำหรับ Inference ชุดเล็ก — ไม่ใช่ตัวแทนของคลัสเตอร์เทรน
- AWS Trainium2 / Google TPU v5e: น่าสนใจสำหรับทีมที่อยู่บนคลาวด์อย่างเดียว และรัน Standard Transformer ขนาดใหญ่ — $/FLOPS ต่ำกว่า GPU On-demand สำหรับภาระงานต่อเนื่อง แต่มีการล็อกกับเฟรมเวิร์กจริง (JAX / XLA สำหรับ TPU; Neuron SDK สำหรับ Trainium)
GPU ที่ดีที่สุดไม่ใช่ GPU ที่เร็วที่สุด แต่คือตัวที่ Stack ซอฟต์แวร์ของคุณรีดประสิทธิภาพได้เต็ม, ศูนย์ข้อมูลรับไฟไหว และทีมจัดซื้อรับของได้จริง
ตารางการตัดสินใจ: ชิปไหนเหมาะกับภาระงานไหน
ใช้ลิสต์ข้างล่างเป็นจุดเริ่มต้น แล้วปรับตาม Stack ซอฟต์แวร์และช่องทางจัดซื้อของทีม
- งานต้นแบบและปรับแต่งโมเดลแบบ GPU ตัวเดียว (ถึง 13B): Apple M4 Max / M3 Ultra สำหรับงานทำเครื่องตัวเอง — H100 PCIe ตัวเดียวหรือ A100 80 GB บนคลาวด์สำหรับใช้ร่วมทีม ประหยัดและซอฟต์แวร์รองรับดี
- ปรับแต่งโมเดลแบบ Multi-GPU (7B–70B, LoRA / QLoRA / Full Fine-tune): H100 SXM5 แบบ HGX 8-GPU คือการจัดวางอ้างอิง — หาได้กว้าง ระบบนิเวศ CUDA สมบูรณ์ จะคลาวด์หรือตั้งเองก็ได้ทั้งคู่
- ปรับแต่งโมเดลที่ติดที่หน่วยความจำ หรือ Long-context Training (70B+, ลำดับยาว): H200 SXM5 หรือ AMD MI300X — ทั้งคู่มี HBM 141–192 GB เลือก H200 ถ้าระบบนิเวศ CUDA สำคัญ, MI300X ถ้ายอม ROCm ที่คลาวด์ดูแลให้ได้
- การฝึกเริ่มต้นขนาดใหญ่ (30B–200B+ พารามิเตอร์ รันเป็นสัปดาห์): คลัสเตอร์ GB200 NVL72 ผ่าน Reserved Instance บนคลาวด์หรือ Co-location — หรือคลัสเตอร์ H100 / H200 บน NVLink + InfiniBand ถ้า Blackwell ยังหายาก Trainium2 สำหรับทีมที่อยู่บน AWS เป็นหลักและใช้สถาปัตยกรรมมาตรฐาน
- เทรนโดยคิดถึงการเสิร์ฟจริง (Train เพื่อ Production Serving, Batched Inference): AMD MI300X / MI325X — HBM3 192 GB ที่ 5.3 TB/s แข็งแกร่งที่สุดในคลาสสำหรับการเสิร์ฟที่ KV-cache หนัก จับคู่กับ vLLM บน ROCm
ของในตลาด ระยะเวลารอสินค้า และกฎควบคุมการส่งออก
กฎควบคุมการส่งออกของสหรัฐฯ — ข้อจำกัดของ Entity List และการอัปเดต AI Diffusion Rule — กระทบการจัดซื้อตรงสำหรับ H100, H200, B100 และ B200 ในหลายเขตอำนาจ AI Diffusion Rule แบ่งประเทศเป็น Tier — Tier 1 (พันธมิตรใกล้ชิดของสหรัฐฯ) แทบไม่มีข้อจำกัดในทางปฏิบัติ Tier 2 ครอบคลุมส่วนใหญ่ของโลก โดยมีเพดาน Compute ที่ติดตั้งได้โดยไม่มี License ราว H100-equivalent 1,700 ตัวต่อประเทศต่อปี Tier 3 คือปลายทางที่ถูกจำกัด ทีมองค์กรที่ขนาดคลัสเตอร์ 8–64 GPU ตัวเลขเพดานนั้นสูงกว่าที่จะติดตั้งจริงมาก ผลปฏิบัติจึงอยู่ที่ช่องทางจัดซื้อ — ซื้อผ่านตัวแทนจำหน่ายที่ได้รับอนุญาต หรือผู้ให้บริการคลาวด์ที่มี License ของตัวเอง การนำเข้าโดยตรงจากตลาดเทาในปริมาณมากมีความเสี่ยงทั้งทางกฎหมายและการดำเนินงาน ไม่ว่าจะที่ไหน ระยะเวลารอสินค้าของโหนด HGX H100 ผ่านช่องทางที่ได้รับอนุญาตปัจจุบันอยู่ที่ 8–14 สัปดาห์ทั่วโลก B200 / GB200 NVL72 แบบตั้งเองใช้เวลานานกว่าและขึ้นกับขนาดออเดอร์และความสัมพันธ์กับซัพพลายเออร์ คลาวด์ยังเป็นทางเร็วที่สุดสำหรับกำลังประมวลผล Blackwell
ถ้ากำลังกำหนดขนาดคลัสเตอร์เทรน หรือชั่งน้ำหนักระหว่างคลาวด์กับโครงสร้างพื้นฐาน GPU ตั้งเอง — ทีม Infra ของ HarmonyX ผ่านการตัดสินใจนี้กับธนาคาร, Telco และหน่วยงานรัฐมาแล้วในปี 2025 ครอบคลุมภาระงานตั้งแต่ปรับแต่งโมเดลเฉพาะโดเมน ไปจนถึงการฝึกเริ่มต้นแบบหลายโหนดจริง เราช่วยกำหนดขอบเขตสถาปัตยกรรม สร้างโมเดล TCO และดูแลเรื่องการจัดซื้อกับภูมิทัศน์ด้านกฎเกณฑ์ — ทั้งการจัด Tier ของ AI Diffusion Rule, Incentive ระดับภูมิภาค (BOI ในไทย, โครงการอื่นในประเทศอื่น) และ Dynamics ของตลาดศูนย์ข้อมูลทั่วโลก ติดต่อมาคุยกับทีมของเราได้เลย
