Paul Christiano ผู้ก่อตั้ง OpenAI ยืนยันเข้าร่วมคณะกรรมการความปลอดภัยและมาตรการป้องกันของ OpenAI อย่างเป็นทางการ หลังเตือนความเสี่ยงการสูญเสียการควบคุม AI ที่อาจเกิดขึ้นได้ในระยะสั้น เนื่องจาก AI ที่มีความสามารถสูงอาจพัฒนาตัวเองได้รวดเร็วจนเกินควบคุม ซึ่งอาจนำไปสู่ระบบ AI ที่มีปัญญาเหนือมนุษย์ (superintelligent) หากไม่มีมาตรการป้องกันที่เพียงพอ Christiano ระบุว่า OpenAI ต้องเพิ่มการตรวจสอบภายนอกและประสิทธิภาพของมาตรการป้องกันอย่างเร่งด่วน หลังจากที่การพัฒนา AI อย่างรวดเร็วทำให้เกิดความเสี่ยงที่ควบคุมไม่ได้ ขณะที่ OpenAI ยังคงมุ่งเน้นการพัฒนา AI อย่างปลอดภัยแต่ต้องปรับปรุงระบบความปลอดภัยให้เข้มงวดขึ้น
AIOpenAIความปลอดภัย AIความเสี่ยง AIPaul Christiano
สรุปด้วย MAF Local AI · เนื้อหาต้นฉบับเป็นของแหล่งข่าว