ผลิตภัณฑ์
GPU Token Platform ขาย GPU ใน Data Center เป็นราย Token
API แบบ OpenAI-compatible, Metering ราย Token และ Billing แบบไทย บน GPU ที่คุณรันอยู่แล้ว
ชั้นระหว่างผู้ใช้กับ GPU ของคุณ ทั้ง OpenAI-compatible API Gateway, API Key และ Rate Limit, Metering ราย Token, Prepaid Wallet บน Double-entry Ledger และ Billing พร้อม e-Tax Invoice
คุณสมบัติเด่น
OpenAI-Compatible API Gateway
API Keys, Rate Limits & Spend Caps
Model Router with Fallback
Per-Token Metering
Prepaid Wallet & Double-Entry Ledger
Thai Billing & e-Tax Invoice
GPU ใน Data Center มักถูกขายแบบเดียวกับเซิร์ฟเวอร์สมัยก่อน คือขายเป็นเครื่อง เป็นรายเดือน ให้ลูกค้าไม่กี่รายที่ใหญ่พอจะรัน Inference Stack เอง GPU Token Platform เปลี่ยน Capacity นั้นให้เป็นบริการ AI ที่ Developer ซื้อได้จริง สมัคร รับ API Key เรียกโมเดลผ่าน Endpoint แบบ OpenAI-compatible แล้วจ่ายตาม Token ที่ใช้จริง ส่วนเจ้าของ Data Center เห็นทุก Request ทุก Token และทุกบาท
Platform มีอะไรบ้าง?
- Access Layer: OpenAI-Compatible API Gateway รองรับ TLS และ SSE Streaming, API Key ตาม Organization และ Project และ RPM/TPM Rate Limit พร้อม Spend Cap และการแจ้งเตือน
- Token Core: Model Router with Fallback ข้าม Cluster, Per-Token Metering ทั้ง Input และ Output Token และ Prepaid Wallet & Double-Entry Ledger
- Commercial Layer: ราคาต่อ 1M Token พร้อม Tier และราคา Enterprise, Thai Billing & e-Tax Invoice ผ่าน PromptPay บัตร หรือโอน และ Developer Portal กับ Admin Console ที่มีรายงาน
- Operations: Observability, Audit Log, Notification และงาน Daily Reconciliation ระหว่าง Usage, Ledger และการชำระเงิน
ทำไมใช้ API แบบ OpenAI-compatible เป็นค่าเริ่มต้น?
เพราะ Developer เขียนโค้ดกับ API แบบนี้อยู่แล้ว SDK, Agent Framework และ Tool เดิมใช้ได้ทันทีแค่เปลี่ยน Base URL กับ Key ไม่ต้องเรียน API ใหม่ก่อนจะซื้อ Capacity จากคุณได้
Metering กับ Ledger: ส่วนที่ลูกค้ามักโต้แย้ง
Input และ Output Token ของทุก Request ถูกบันทึกเป็น Usage Event ที่แก้ย้อนหลังไม่ได้ ก่อน Request รัน Wallet จะ Reserve ค่าใช้จ่ายโดยประมาณ และเมื่อรันเสร็จจึง Settle ยอดจริง ลูกค้าแบบเติมเงินจึงใช้เกินยอดคงเหลือไม่ได้ ทั้งสองฝั่งเขียนลง Double-entry Ledger ทุกบรรทัดใน Invoice จึงไล่กลับไปหา Request ต้นทางได้
ถ้าไล่บรรทัดใน Invoice กลับไปหา Request ไม่ได้ แปลว่าคุณไม่ได้ขาย Token แต่กำลังขายตัวเลขประมาณการ
Inference รันที่ไหน?
โมเดลให้บริการด้วย vLLM หรือ SGLang บน Kubernetes Cluster ของคุณ มี Model Registry เก็บเวอร์ชัน และส่ง Usage Report กลับไปที่ Metering ผ่าน Internal API ทีมของคุณดูแล Inference Layer เองได้ หรือให้ HarmonyX ดูแลให้ก็ได้ ส่วน GPU Server, Cluster และ Facility ยังเป็นของคุณทั้งสองแบบ
HarmonyX สร้างและเชื่อม Platform บน GPU Capacity ที่คุณมีอยู่ ถ้าอยากวาง Scope งาน ดูบริการ GPU Token Platform
สำรวจเพิ่มเติม
คำถามที่พบบ่อย
คำถามที่พบบ่อย
GPU Token Platform ของ HarmonyX คืออะไร?
คือ Software Layer ที่ทำให้ Data Center ขาย GPU Capacity เป็นบริการ AI แบบคิดตามการใช้งาน Developer เรียกโมเดลผ่าน OpenAI-Compatible API Gateway พร้อม API Keys, Rate Limits & Spend Caps ส่วนเจ้าของได้ Per-Token Metering, Prepaid Wallet & Double-Entry Ledger และ Thai Billing & e-Tax Invoice
Developer ต้องแก้โค้ดไหม?
ส่วนใหญ่ไม่ต้อง เพราะ API เป็นแบบ OpenAI-compatible SDK, Agent Framework และ Tool เดิมใช้ได้แค่เปลี่ยน Base URL กับ API Key ส่วน Model Router with Fallback จะส่งแต่ละ Request ไปยัง Cluster ที่ถูกต้องตามโมเดลที่เรียก
ใครดูแล GPU และ Inference Layer?
GPU Server, Kubernetes Cluster และ Facility ยังเป็นของเจ้าของ Data Center ส่วน Inference รันบน vLLM หรือ SGLang โดยทีมของเจ้าของดูแลเอง หรือให้ HarmonyX ดูแลบน Cluster ของเจ้าของก็ได้ Platform อ่านจำนวน Token กลับจาก Inference ผ่าน Internal API