สตาร์ทอัพฟ้อง Palo Alto Networks หลังระบบ AI สร้างข้อมูลเท็จ ทำให้ธุรกิจเสียหาย

บริษัทสตาร์ทอัพในสหรัฐฯ ฟ้องบริษัท Palo Alto Networks ผ่านแผนก Koi Security หลังระบบ AI ของบริษัทสร้างรายงานความปลอดภัยไซเบอร์ที่มีข้อมูลไม่ถูกต้องและไม่มีแหล่งอ้างอิง ทำให้บริษัทสตาร์ทอัพตัดสินใจผิดพลาด ส่งผลให้เกิดความเสียหายทางการเงินและชื่อเสียง รายงานดังกล่าวถูกสร้างโดยระบบ AI ของ Koi Security ซึ่งใช้ในการวิเคราะห์ข้อมูลด้านความปลอดภัยไซเบอร์ แต่ปรากฏว่ามีข้อผิดพลาดร้ายแรง (AI hallucination) ที่ไม่ได้รับการตรวจสอบอย่างเข้มงวด กรณีนี้สะท้อนความเสี่ยงของระบบ AI ในอุตสาหกรรมความปลอดภัยไซเบอร์ที่แม้จะมีประสิทธิภาพสูง แต่ยังมีข้อจำกัดด้านความถูกต้องของข้อมูล

สรุปด้วย MAF Local AI · เนื้อหาต้นฉบับเป็นของแหล่งข่าว