ผู้ใช้ทดสอบโมเดล AI Jev โดยให้ตอบคำถามว่าผู้สมัครที่มีชื่อต่างกันมีคุณสมบัติผู้นำหรือไม่ พบว่าชื่อผู้หญิงและชื่อเชื้อชาติได้รับการตอบสนองสูงกว่าชื่อผู้ชายหรือชื่อทั่วไป เช่น Jennifer ตอบได้ 30-40% ส่วน Ahmed หรือ Thando ได้ 50-60% ผลการทดสอบชี้ว่าโมเดลอาจมีอคติจากข้อมูลฝังอยู่ในข้อความ LinkedIn ซึ่งเชื่อมโยงความเป็นผู้หญิงกับคำว่า 'ความมั่นใจ' ที่ใช้บ่อยในภาษาสมัยใหม่ ผู้ใช้ชี้ว่าโมเดลไม่สามารถอธิบายผลลัพธ์ได้ ทำให้ความลำเอียงอาจถูกใช้โดยไม่รู้ตัวในธุรกิจ หวังว่าจะมีการปรับปรุงเพื่อป้องกันการใช้งานที่ไม่ตั้งใจสร้างอคติ การทดสอบแสดงให้เห็นว่าความลำเอียงใน AI อาจไม่ใช่การตั้งใจ แต่เกิดจากข้อมูลที่ฝังอยู่ในระบบ ซึ่งอาจส่งผลต่อการตัดสินใจในงานที่เกี่ยวข้องกับการจัดการบุคลากร ผู้ใช้ระบุว่าการไม่สามารถอธิบายผลลัพธ์ได้ทำให้ความลำเอียงอาจถูกใช้โดยไม่รู้ตัวในธุรกิจ แม้ผู้ใช้จะไม่ได้ตั้งใจสร้างอคติ แต่ข้อมูลที่ใช้ฝึกโมเดลอาจส่งผลให้เกิดความลำเอียงโดยไม่รู้ตัว ผู้ใช้ชี้ว่าการไม่สามารถอธิบายผลลัพธ์ได้ทำให้ความลำเอียงอาจถูกใช้โดยไม่รู้ตัวในธุรกิจ แม้ผู้ใช้จะไม่ได้ตั้งใจสร้างอคติ แต่ข้อมูลที่ใช้ฝึกโมเดลอาจส่งผลให้เกิดความลำเอียงโดยไม่รู้ตัว ตัวอย่างเช่น การใช้คำว่า 'ความมั่นใจ' ที่เชื่อมโยงกับผู้หญิงในข้อมูล LinkedIn ทำให้โมเดลตอบสนองต่อชื่อผู้หญิงมากกว่าชื่อผู้ชาย ผลการทดสอบชี้ให้เห็นว่าความลำเอียงใน AI อาจเกิดจากข้อมูลที่ฝังอยู่ในระบบ ไม่ใช่การตั้งใจ ซึ่งอาจส่งผลต่อการตัดสินใจในงานที่เกี่ยวข้องกับการจัดการบุคลากร ผู้ใช้หวังว่าจะมีการปรับปรุงโมเดลเพื่อป้องกันการใช้งานที่อาจไม่รู้ตัวว่ามีอคติ
สรุปด้วย MAF Local AI · เนื้อหาต้นฉบับเป็นของแหล่งข่าว