Qualcomm ประกาศเข้าซื้อกิจการ Nexa AI และเปิดตัว GenieX ระบบ runtime สำหรับการประมวลผล AI แบบ on-device บนชิป Hexagon ของ Snapdragon ล่าสุด โดยรองรับโมเดลจาก Hugging Face และ Qualcomm AI Hub ผ่านอินเทอร์เฟซ CLI, Python, Docker และ OpenAI-compatible server ระบบดังกล่าวสามารถประมวลผล LLM และ VLM พร้อมกัน ผู้ใช้สามารถติดตั้งผ่านคำสั่งเฉพาะสำหรับ Windows, Linux, Android และ Docker พร้อมสนับสนุนการปรับแต่งโมเดลผ่าน API ฟรี ทีมพัฒนาอธิบายว่าการรวม runtime สองรูปแบบเพิ่มความยืดหยุ่นในการใช้งาน AI บนอุปกรณ์ปลายทาง รวมถึงเปิดรับ contribution จากชุมชนผ่าน open-source GenieX ออกแบบมาเพื่อเพิ่มประสิทธิภาพการประมวลผล AI แบบ real-time บนอุปกรณ์เคลื่อนที่ โดยเฉพาะงานวิเคราะห์ภาพหรือการแปลภาษาแบบเรียลไทม์ ซึ่งสอดคล้องกับกลยุทธ์ของ Qualcomm ในการขยายการใช้งาน AI บนชิปเซ็ตของตนเอง ผู้ใช้สามารถเรียกใช้โมเดลผ่านคำสั่งง่ายๆ บนหลายแพลตฟอร์ม พร้อมรองรับการติดตั้งแบบ remote session ผ่าน Qualcomm Device Cloud
สรุปด้วย MAF Local AI · เนื้อหาต้นฉบับเป็นของแหล่งข่าว