Facebook Twitter
gPlus 

AI พบว่ามีความลำเอียงในเพศและสีผิว


ข่าวไอที นักวิจัยจาก MIT และมหาวิทยาลัย Stanford ได้ค้นพบว่าโปรแกรมวิเคราะห์ใบหน้า 3 ชนิดที่แตกต่างกัน ต่างมีความลำเอียงต่อเพศและสีผิว โดยบทความฉบับสมบูรณ์นั้นจะนำเสนอในที่ประชุมความเป็นธรรม ความรับผิดชอบและความโปร่งใสภายในเดือนนี้


โดยเฉพาะอย่างยิ่ง ทางทีมได้พิจารณาอัตราความถูกต้องของการจดจำใบหน้าโดยแบ่งตามเพศและเชื้อชาติ โดยอัตราความถูกต้องนั้นมีมากกว่า 97 เปอร์เซ็นสำหรับระบบจดจำใบหน้าที่พวกเขาได้ออกแบบมา แต่ชุดข้อมูลที่ใช้ในการประเมินประสิทธิภาพนั้นมีมากกว่า 77 เปอร์เซ็นที่เป็นเพศชาย และกว่า 83 เปอร์เซ็นที่มีผิวขาวซึ่งจากฐานข้อมูลที่ค่อนข้างแคบแล้วส่งผลให้อัตราความผิดพลาดสูงขึ้นสำหรับผู้ที่ไม่ใช่เพศชายหรือมีผิวขาว

เพื่อทดสอบระบบเหล่านี้นักวิจัยจาก MIT, Joy Buolamwini ได้ทำการเก็บภาพมากกว่า 1,200 ภาพที่มีสัดส่วนของผู้หญิงที่มีสีผิวตามรหัสสีผิวตามระดับของ Fitzpatrick ซึ่งร่วมมือกับศัลย์แพทย์ผิวหนัง หลังจากนั้นทาง Buolamwini ก็ได้ทดสอบระบบจดจำใบหน้าด้วยชุดข้อมูลใหม่อันนี้

ผลการวิจัยนั้นเป็นไปในแง่ของการจำแนกเพศ สำหรับผู้หญิงที่มีผิวคล้ำอัตราการผลิดพลาดอยู่ที่ 20.8, 34.5 และ 34.7 เปอร์เซ็นต์แต่สำหรับระบบอีกสองระบบนั้นอัตราข้อผิดพลาดสำหรับผู้หญิงที่มีผิวคล้ำที่สุดในชุดข้อมูลยิ่งแย่กว่าเดิมคือ 46.5 และ 46.8 เปอร์เซ็นต์ อีกทั้งส่วนใหญ่แล้วสำหรับผู้หญิงเหล่านี้ระบบยังคาดเดาเพศแบบสุ่มอีกด้วย


ก่อนหน้านี้ก็ได้มีข้อกล่าวหาเกี่ยวกับอคติในด้านเทคนิคของอัลกอริทึมนี้ และเป็นที่ทราบกันดีว่าระบบจดจำใบหน้ามักจะไม่ทำงานกับโทนผิวสีดำ แม้ว่ามันจะมีสติปัญญาในระดับสูง การพิสูจน์ในครั้งนี้เผยให้เห็นความไม่แน่นอนอย่างชัดเจนของมัน ซึ่งสำคัญกับบริษัทที่ทำงานเกี่ยวกับซอร์ฟแวร์ประเภทนี้คือต้องคำนึงถึงความหลากหลายที่มีอยู่ในฐานข้อมูลของผู้ใช้ของตนแทนที่จะจำกัดตัวเองแค่กับผู้ชายผิวขาวที่มักจะเป็นแรงงานของพวกเขา

กลับขึ้นด้านบน