ดาริโอ อาโมเดีย ซีอีโอของ Anthropic กล่าวกับคณะกรรมาธิการว่า Open Source AI กำลังเดินทางไปในทางที่อันตราย โดยระบุว่าเมื่อโมเดลที่ทรงพลังถูกเปิดเผยแบบเปิดแหล่งข้อมูล บริษัทจะสูญเสียความสามารถในการตรวจสอบการใช้งานที่ผิดวัตถุประสงค์ ระงับการเข้าถึง หรืออัปเดตมาตรการความปลอดภัย อาโมเดียชี้ว่าการเปิดเผยโมเดลที่ทรงพลังอย่างไม่มีข้อจำกัดอาจนำไปสู่การใช้งานที่ไม่คาดคิด ซึ่งบริษัทไม่สามารถควบคุมได้ แม้จะมีการตั้งค่าความปลอดภัยไว้ล่วงหน้า ข้อกังวลนี้สะท้อนถึงความท้าทายในการจัดการความเสี่ยงของ
AIOpen SourceSecurityAnthropic
สรุปด้วย MAF Local AI · เนื้อหาต้นฉบับเป็นของแหล่งข่าว