SafeAI ออก Open-Source วิเคราะห์ความเสี่ยง AI แบบออฟไลน์ ไม่ต้องใช้ LLM

SafeAI เปิดตัวเครื่องมือวิเคราะห์ความเสี่ยง AI แบบ Open-Source สำหรับ Agent ที่ทำงานออฟไลน์ โดยไม่ต้องใช้ LLM หรือฝึกโมเดลใหม่ ช่วยตรวจสอบช่องโหว่ด้านความปลอดภัย ความเสี่ยงการใช้งานผิดวัตถุประสงค์ และข้อบกพร่องด้านการกำกับดูแล (governance) ในระบบ AI แบบเรียลไทม์ เครื่องมือใช้แนวทาง Static Analysis ที่ไม่ต้องเรียกใช้ LLM หรือฝึกโมเดลใหม่ รองรับ Framework หลักอย่าง LangGraph, CrewAI, OpenAI's MCP และอื่นๆ พร้อมบูรณาการกับ CI/CD Pipeline ขององค์กร ตรวจจับช่องโหว่เช่น Prompt Injection, Agent Tool Misuse และการไม่ปฏิบัติตามข้อกำหนดด้านความเป็นส่วนตัว (privacy) แบบอัตโนมัติ ทั้งยังเปิดให้ใช้งานผ่าน Open-Source ฟรี

สรุปด้วย MAF Local AI · เนื้อหาต้นฉบับเป็นของแหล่งข่าว