องค์กรกำลังเปลี่ยนผ่านจาก AI ที่ตอบคำถามไปสู่ AI agents ที่ทำงานอัตโนมัติได้โดยไม่ต้องแทรกแซงจากมนุษย์มากนัก ซึ่งเปิดโอกาสทางธุรกิจแต่เพิ่มความเสี่ยงด้านความปลอดภัย ปัจจุบัน AI agents สามารถตัดสินใจใช้เครื่องมือและ API ได้ด้วยตนเอง ทำให้ระบบเดิมที่พึ่งพาการเขียนโค้ดล่วงหน้าไม่สามารถควบคุมได้ แม้ AI agents จะผ่านการยืนยันตัวตนแล้ว แต่ระบบเดิมยังไม่สามารถตรวจสอบว่ามันทำงานอย่างปลอดภัยต่อเนื่องได้ แนวทางใหม่คือ 'runtime trust' ซึ่งต่างจากวิธีการยืนยันตัวตนที่เน้นการระบุตัวตน (identity) แต่ไม่สร้างความไว้วางใจ (trust) แม้ AI agents จะใช้ระบบยืนยันตัวตนขององค์กรเข้าถึงระบบเช่น Microsoft 365 หรือ Salesforce ได้ แต่การควบคุมพฤติกรรมของมันหลังจากนั้นยังเป็นช่องโหว่ที่ต้องแก้ไข การรักษาความปลอดภัยในปัจจุบันมุ่งที่การแทรกแซงคำสั่ง (prompt injection) หรือการรั่วไหลของข้อมูล แต่เมื่อ AI agents ทำงานอัตโนมัติแล้ว วิธีการดังกล่าวไม่เพียงพอ แนวทางใหม่ 'runtime trust' ต้องการสร้างความไว้วางใจในระหว่างการทำงานของ AI agents ไม่ใช่แค่ยืนยันตัวตนก่อนเริ่มงาน ซึ่งเป็นความท้าทายใหม่สำหรับการรักษาความปลอดภัยในระบบอัตโนมัติ
สรุปด้วย MAF Local AI · เนื้อหาต้นฉบับเป็นของแหล่งข่าว