ทีมวิจัยจาก Google Research และ Technion พบว่าโมเดลภาษาขนาดใหญ่ (LLMs) สามารถเรียกคืนข้อมูลที่ไม่สามารถจำได้โดยตรงได้ถึง 65% แม้จะไม่ได้ถูกเก็บในพารามิเตอร์ของโมเดล งานวิจัยชี้ว่าโมเดลเช่น GPT-5 และ Gemini-3 ถอดรหัสข้อมูลได้ถึง 95-98% ของข้อเท็จจริงที่ทดสอบ แสดงว่าปัญหาหลักคือการเรียกคืน (recall) ไม่ใช่การถอดรหัส (encoding) ทีมวิจัยเสนอวิธีการประเมินใหม่ที่เรียกว่า fact-level profiling แทนการวัดความถูกต้องของคำถามเดี่ยว วิธีนี้ตรวจสอบว่าข้อมูลถูกเก็บในพารามิเตอร์ของโมเดลหรือไม่ รวมถึงความสามารถในการตอบคำถามในรูปแบบต่างๆ และความพยายามในการคำนวณที่ต้องใช้เพื่อเรียกข้อมูล กรอบการทำงานนี้แยกแยะระหว่างข้อมูลที่ถูก 'ถอดรหัส' (encoded) และข้อมูลที่ถูก 'รู้' (known) โมเดลถือว่า 'ถอดรหัส' ข้อมูลได้หากสามารถสร้างข้อมูลนั้นได้เมื่อถูกกระตุ้นด้วยบริบทการฝึกอบรมเดิม ในขณะที่โมเดลถือว่า 'รู้' ข้อมูลได้หากสามารถตอบคำถามเกี่ยวกับข้อมูลนั้นได้อย่างน่าเชื่อถือแม้จะมีการเปลี่ยนรูปแบบคำถามและทิศทางการถามแตกต่างกัน
สรุปด้วย MAF Local AI · เนื้อหาต้นฉบับเป็นของแหล่งข่าว