ในวงการของ AI ก่อนหน้านี้ได้มีความพยายามที่จะต่อสู้กับปัญหาไบแอส (bias) ในระบบตรวจจับใบหน้า (face detection) โดยใช้วิธีการสร้างข้อมูลสำหรับใช้เทรนให้ดีขึ้น หากแต่โดยทั่วไปการหาข้อมูลใหม่ๆ นั้นก็มักจะมีการดำเนินการจัดหาโดยมนุษย์อยู่ด้วยวิธ๊การ manual อยู่ดี ด้วยเหตุนี้ ทางห้องปฏิบัติการ CSAIL ของ MIT จึงได้หาวิธีการที่จะทำให้ดีขึ้นกว่าเดิมได้ โดยได้พัฒนาอัลกอริทึมที่สามารถจัดการข้อมูลสำหรับเทรนระบบ AI ตรวจจับใบหน้าให้ลดความไบแอส (de-bias) ลงไปได้อัตโนมัติ เพื่อที่จะทำให้มั่นใจได้ว่าข้อมูลที่มีนั้นได้รองรับขอบเขตใบหน้ามนุษย์ได้กว้างขวางขึ้น
ตัวโค้ดนั้นสามารถสแกนข้อมูล data set แล้วเข้าใจความ bias ในข้อมูลได้ อีกทั้งสามารถที่จะสุ่ม sample ใหม่ เพื่อที่จะรับประกันตัวแทนข้อมูลที่ดีขึ้นสำหรับตรวจจับใบหน้าคนโดยไม่คำนึงถึงสีผิวได้
ในเชิงเทคโนโลยีนั้นไม่ได้จำเป็นที่จะเอา bias ออกไปให้หมดสิ้นเพราะผลลัพธ์ที่ได้ออกนั้นมีนัยสำคัญมากกว่า ซึ่งในการทดสอบของระบบ MIT จะเป็นการลด “ไบแอสตามประเภทข้อมูล (categorical bias)” โดยลดลงไปได้ประมาณ 60% ซึ่งไม่ได้ส่งผลกระทบกับความแม่นยำแต่อย่างใด อีกทั้งยังสามารถช่วยให้ประหยัดเวลา โดยเฉพาะอย่างยิ่งกรณีที่ข้อมูลมีจำนวนมากซึ่งจะต้องใช้เวลาในการเทรนมากขึ้นเช่นกัน
อย่างไรก็ดี คุณจะยังไม่ได้เห็นวิธีการดังกล่าวนี้ในการใช้งานจริงอีกสักพักใหญ่ อย่างไรก็ดี มันจะกลายเป็นเรื่องที่สำคัญมากขึ้นเรื่อยๆ แน่นอน ตามที่ทางตำรวจและบริษัทต่างๆ ได้เริ่มพึ่งพาระบบตรวจจับใบหน้าอัตโนมัติมากขึ้นเรื่อยๆ ซึ่งการรู้จำใบหน้า (face recognition) นั้นไม่ได้เป็นเพียงการทำให้ใช้อุปกรณ์บางอย่างได้ยากขึ้นเท่านั้น หากแต่ถ้าระบบตอบข้อมูลที่เป็น false positive หรือผิดที่ตัวระบบได้ให้ข้อมูลออกมานั้นอาจจะนำไปสู่การจับกุมประชาชนบริสุทธิ์ได้ ด้วยเหตุนี้ การลบเอา bias ได้อัตโนมัตินั้นจะช่วยบรรเทาความกังวลดังกล่าวได้บ้าง
จากข้อมูลข้างต้น อาจจะทำให้คุณไม่ชอบระบบ AI ตรวจจับใบหน้าในตอนแรก แต่อย่างน้อยสิ่งนี้ก็จะช่วยให้คุณไม่ถูกเลือกปฏิบัติเมื่อเทคโนโลยีเริ่มมีบทบาทในชีวิตของเรา
Source : https://www.engadget.com/2019/01/27/mit-automatically-reduces-racist-biases-in-face-detection/