MOREH สตาร์ทอัพด้าน AI Infrastructure จากเกาหลีใต้ ประกาศความสำเร็จในการสาธิตประสิทธิภาพของ Large Language Model (LLM) บน GPU ของ AMD ภายในงาน AMD Advancing AI 2026 โดยแสดงให้เห็นว่าซอฟต์แวร์ของบริษัทสามารถเพิ่มประสิทธิภาพการรันโมเดลภาษา (Inference) บน AMD Instinct GPU ได้อย่างมีนัยสำคัญ พร้อมลดต้นทุนการใช้งานสำหรับผู้ให้บริการ AI Cloud และองค์กรขนาดใหญ่
ประเด็นสำคัญของข่าว
- สาธิต LLM Inference บน AMD GPU
- MOREH นำเสนอแพลตฟอร์มสำหรับรัน LLM บน AMD Instinct GPU ในงาน AMD Advancing AI 2026
- เน้นการเพิ่มประสิทธิภาพของระบบ Inference สำหรับโมเดลขนาดใหญ่ โดยไม่ต้องพึ่งฮาร์ดแวร์ของ NVIDIA เพียงอย่างเดียว
- ปรับแต่ง vLLM ให้ทำงานบน AMD ได้มีประสิทธิภาพ
- บริษัทพัฒนา Moreh vLLM ซึ่งเป็นการปรับแต่งเอนจิน vLLM พร้อมไลบรารีด้าน Compute และ Communication ของตนเอง
- จุดเด่นคือเพิ่ม Throughput ลดเวลาตอบสนอง (Latency) และใช้ทรัพยากร GPU ได้คุ้มค่ามากขึ้น
- ผลการทดสอบก่อนหน้า
จากรายงานเทคนิคของ MOREH ก่อนหน้านี้ พบว่า Moreh vLLM สามารถ- เพิ่ม Output Throughput ได้สูงสุด 1.68 เท่า
- ลด Time To First Token (TTFT) ได้ 1.75 เท่า
- ลด Time Per Output Token (TPOT) ได้ 1.70 เท่า
เมื่อรันโมเดล DeepSeek V3/R1 บน AMD Instinct MI300X เทียบกับ vLLM เวอร์ชันมาตรฐาน
- ตอบโจทย์ตลาด AI Infrastructure
MOREH ระบุว่าองค์กรจำนวนมากต้องการทางเลือกที่มีต้นทุนต่ำกว่าการพึ่งพา GPU เพียงค่ายเดียว จึงมุ่งพัฒนาแพลตฟอร์มที่ช่วยให้การใช้งาน AMD GPU สำหรับงาน LLM ทั้งการฝึกโมเดล (Training) และการให้บริการโมเดล (Inference) มีประสิทธิภาพมากขึ้น
ทำไมข่าวนี้จึงสำคัญ
- เป็นสัญญาณว่าระบบนิเวศ AI บน AMD ROCm เติบโตขึ้นอย่างต่อเนื่อง
- เพิ่มทางเลือกให้ผู้ให้บริการ AI Cloud และองค์กรที่ต้องการลดต้นทุนด้านฮาร์ดแวร์
- ช่วยผลักดันการแข่งขันในตลาด AI Accelerator ซึ่งเดิม NVIDIA ครองส่วนแบ่งหลัก ส่งผลให้ตลาดมีการแข่งขันด้านประสิทธิภาพและต้นทุนมากขึ้น
แหล่งที่มา
- PR Newswire (เผยแพร่ผ่าน Yahoo Finance): MOREH Showcases High-Performance LLM Inference on AMD GPUs at AMD Advancing AI 2026
- MOREH Blog: รายงานและบทความด้านประสิทธิภาพ Moreh vLLM บน AMD Instinct GPU
- AMD Advancing AI 2026 – Session Catalog
**ห้ามคัดลอก ทำซ้ำ ดัดแปลงเนื้อหา**