ผู้พัฒนา ChatSorter ระบบจัดการความจำสำหรับแชทบอต ทดสอบประสิทธิภาพโมเดลขนาดเล็กพบว่าเมื่อใช้ ChatSorter โมเดลขนาด 4B-12B พารามิเตอร์สามารถทำคะแนนความแม่นยำได้ 55-60% ใกล้เคียงกับ GPT-4o ที่ไม่มีระบบจัดการความจำ แม้จะใช้ทรัพยากรน้อยกว่ามาก การทดสอบใช้โมเดล Gemma 2 9B, Gemma 3 4B และ Gemma 3 12B พบว่าผลลัพธ์เริ่มต้นที่ 75% ถูกบิดเบือนเพราะโมเดลตัดสินที่เล็กกว่าให้คะแนนผิดพลาดเป็นผ่าน แต่เมื่อใช้โมเดลตัดสินขนาดใหญ่ขึ้น คะแนนลดเหลือ 55-60% แม้จะต่ำกว่าค่าเฉลี่ยของบริษัท MemoryLake ที่อ้างอิง 96% แต่เป็นการทดสอบกับโมเดลระดับ frontier ที่มีขนาดใหญ่กว่า 17 เท่า ผลการทดสอบแสดงให้เห็นว่า ChatSorter ช่วยให้โมเดลขนาดเล็กทำงานได้ใกล้เคียงกับโมเดลใหญ่ที่ไม่มีระบบจัดการความจำ โดยใช้ทรัพยากรน้อยกว่ามาก แม้จะต่ำกว่าค่าเฉลี่ยของบริษัทอื่น แต่เป็นการเปรียบเทียบกับโมเดลที่มีขนาดใหญ่กว่า 17 เท่า
สรุปด้วย MAF Local AI · เนื้อหาต้นฉบับเป็นของแหล่งข่าว