นักวิจัย AI เตือนภัยระบบที่ปรับตัวเอง ขาดมาตรการควบคุมความเสี่ยง

นักวิจัยด้าน AI ชี้แจงว่าบริษัทหลายแห่งในหลายประเทศกำลังพัฒนาระบบ AI ที่สามารถปรับตัวเองได้โดยไม่คำนึงถึงความเสี่ยงด้านความปลอดภัย ซึ่งอาจนำไปสู่พฤติกรรมที่ไม่คาดคิดหรือความผิดพลาดร้ายแรง ข้อมูลจากแหล่งข่าวระบุว่าการพัฒนาระบบดังกล่าวเกิดขึ้นอย่างรวดเร็ว แต่ยังขาดแนวทางควบคุมความเสี่ยงที่ชัดเจน นักวิจัยเตือนว่าระบบดังกล่าวอาจเผชิญกับความเสี่ยงเช่น ความผิดพลาดในการตัดสินใจหรือการถูกใช้งานในทางที่ผิด ซึ่งอาจส่งผลกระทบต่อผู้ใช้งานหรือระบบอื่นๆ ที่เชื่อมโยงอยู่ หลังจากเหตุการณ์ความผิดพลาดของ AI หลายครั้งในอดีต นักวิจัยเรียกร้องให้มีมาตรการกำกับดูแลที่เข้มงวดเพื่อป้องกันอันตรายที่อาจเกิดขึ้น

สรุปด้วย MAF Local AI · เนื้อหาต้นฉบับเป็นของแหล่งข่าว