เหตุการณ์ในปี 2023 ที่ทนายความสหรัฐถูกปรับเนื่องจากใช้เอกสารกฎหมายที่สร้างจากข้อมูลเท็จของ ChatGPT สะท้อนความเสี่ยงจากการพึ่งพา AI มากเกินไป ซึ่งอาจนำไปสู่การใช้งานข้อมูลผิดพลาดหรือละเมิดข้อมูลส่วนบุคคล องค์กรต้องเตรียมรับมือกับความเสี่ยงจากการใช้ AI ที่ไม่มีการควบคุม เช่น การรั่วไหลของข้อมูลที่อาจนำไปสู่การโจมตีทางไซเบอร์ ตามข้อกำหนดของ EU AI Act ที่บังคับใช้ 28 สิงหาคม 2026 ซึ่งกำหนดให้องค์กรเปิดเผยการใช้งาน AI และมีมาตรการป้องกันข้อมูลผิดพลาด การตรวจสอบ AI ต้องปรับตามความเสี่ยงของงาน เช่น งานที่มีความเสี่ยงสูงเช่นการตัดสินใจทางการเงินต้องมีกระบวนการตรวจสอบเข้มงวด ในขณะที่งานความเสี่ยงต่ำสามารถใช้การตรวจสอบแบบสุ่มได้ แต่ต้องมีการจัดการความเสี่ยงชัดเจน 40% ของ CISO กลัวพนักงานแบ่งปันข้อมูลลับกับ AI ขณะที่ 68% มองว่าพนักงานเป็นภัยคุกคามหลัก แสดงถึงความจำเป็นในการกำหนดนโยบายการใช้งาน AI ที่ชัดเจน การใช้ AI ที่ไม่มีการควบคุมส่งผลให้เกิดความเสี่ยงต่อองค์กร ข้อมูลที่ถูกส่งไปยัง AI อาจถูกใช้โดยผู้ไม่ประสงค์ดีหรือส่งผลต่อการตัดสินใจทางธุรกิจ ข้อกำหนดของ EU AI Act กำหนดให้องค์กรเปิดเผยการใช้งาน AI และมีมาตรการป้องกันข้อมูลผิดพลาด ซึ่งการละเมิดอาจมีโทษปรับสูงสุด 15 ล้านยูโรหรือ 3% ของรายได้ปีละขององค์กร
สรุปด้วย MAF Local AI · เนื้อหาต้นฉบับเป็นของแหล่งข่าว