Contact Information

Somdej Phra Pinklao Hospital 11, Soi Somdej Phra Chao Taksin 22, Bukkhlo Subdistrict, Thonburi District, Bangkok 10600

We Are Available - Call Now.

MOREH สตาร์ทอัพด้าน AI Infrastructure จากเกาหลีใต้ ประกาศความสำเร็จในการสาธิตประสิทธิภาพของ Large Language Model (LLM) บน GPU ของ AMD ภายในงาน AMD Advancing AI 2026 โดยแสดงให้เห็นว่าซอฟต์แวร์ของบริษัทสามารถเพิ่มประสิทธิภาพการรันโมเดลภาษา (Inference) บน AMD Instinct GPU ได้อย่างมีนัยสำคัญ พร้อมลดต้นทุนการใช้งานสำหรับผู้ให้บริการ AI Cloud และองค์กรขนาดใหญ่

ประเด็นสำคัญของข่าว

  • สาธิต LLM Inference บน AMD GPU
    • MOREH นำเสนอแพลตฟอร์มสำหรับรัน LLM บน AMD Instinct GPU ในงาน AMD Advancing AI 2026
    • เน้นการเพิ่มประสิทธิภาพของระบบ Inference สำหรับโมเดลขนาดใหญ่ โดยไม่ต้องพึ่งฮาร์ดแวร์ของ NVIDIA เพียงอย่างเดียว
  • ปรับแต่ง vLLM ให้ทำงานบน AMD ได้มีประสิทธิภาพ
    • บริษัทพัฒนา Moreh vLLM ซึ่งเป็นการปรับแต่งเอนจิน vLLM พร้อมไลบรารีด้าน Compute และ Communication ของตนเอง
    • จุดเด่นคือเพิ่ม Throughput ลดเวลาตอบสนอง (Latency) และใช้ทรัพยากร GPU ได้คุ้มค่ามากขึ้น
  • ผลการทดสอบก่อนหน้า
    จากรายงานเทคนิคของ MOREH ก่อนหน้านี้ พบว่า Moreh vLLM สามารถ
    • เพิ่ม Output Throughput ได้สูงสุด 1.68 เท่า
    • ลด Time To First Token (TTFT) ได้ 1.75 เท่า
    • ลด Time Per Output Token (TPOT) ได้ 1.70 เท่า
      เมื่อรันโมเดล DeepSeek V3/R1 บน AMD Instinct MI300X เทียบกับ vLLM เวอร์ชันมาตรฐาน
  • ตอบโจทย์ตลาด AI Infrastructure
    MOREH ระบุว่าองค์กรจำนวนมากต้องการทางเลือกที่มีต้นทุนต่ำกว่าการพึ่งพา GPU เพียงค่ายเดียว จึงมุ่งพัฒนาแพลตฟอร์มที่ช่วยให้การใช้งาน AMD GPU สำหรับงาน LLM ทั้งการฝึกโมเดล (Training) และการให้บริการโมเดล (Inference) มีประสิทธิภาพมากขึ้น

ทำไมข่าวนี้จึงสำคัญ

  • เป็นสัญญาณว่าระบบนิเวศ AI บน AMD ROCm เติบโตขึ้นอย่างต่อเนื่อง
  • เพิ่มทางเลือกให้ผู้ให้บริการ AI Cloud และองค์กรที่ต้องการลดต้นทุนด้านฮาร์ดแวร์
  • ช่วยผลักดันการแข่งขันในตลาด AI Accelerator ซึ่งเดิม NVIDIA ครองส่วนแบ่งหลัก ส่งผลให้ตลาดมีการแข่งขันด้านประสิทธิภาพและต้นทุนมากขึ้น

แหล่งที่มา

  • PR Newswire (เผยแพร่ผ่าน Yahoo Finance): MOREH Showcases High-Performance LLM Inference on AMD GPUs at AMD Advancing AI 2026
  • MOREH Blog: รายงานและบทความด้านประสิทธิภาพ Moreh vLLM บน AMD Instinct GPU
  • AMD Advancing AI 2026 – Session Catalog

**ห้ามคัดลอก ทำซ้ำ ดัดแปลงเนื้อหา**

Spread the love

administrator