หลังจากทวิตเตอร์ได้เริ่มโครงการ Hackathon เพื่อค้นหาอคติในอัลกอริทึมปัญญาประดิษฐ์ของแพลตฟอร์มไปเมื่อปลายเดือนกรกฎาคมที่ผ่านมา ล่าสุดทวิตเตอร์ก็ได้ประกาศชื่อผู้ชนะ ซึ่งได้ค้นพบอคติในอัลกอริทึมตัดภาพของทวิตเตอร์ ว่ามีความเอนเอียงต่อภาพใบหน้าหญิงสาวที่ดูเด็กและมีใบหน้าเรียวเป็นพิเศษ
โดยปกติในการใช้งาน เมื่อผู้ใช้อัพโหลดภาพขึ้นไปยังแพลตฟอร์มทวิตเตอร์ ทวิตเตอร์จะใช้อัลกอริทึมในการตัดภาพ (Crop) เพื่อนำมาแสดงเพียงบางส่วน โดยอัลกอริทึม AI นี้จะเป็นผู้ตัดสินว่าจะตัดและนำภาพส่วนใดมาแสดง
Bogdan Kylynych นักศึกษาชั้นปริญญาโทสาขาความปลอดภัยทางคอมพิวเตอร์จากสถาบัน EPFL ในสวิสเซอร์แลนด์ได้พัฒนาระบบเพื่อตรวจสอบอคติในอัลกอริทึมการตัดภาพของทวิตเตอร์ โดยใช้แนวคิดในการปรับภาพใบหน้าคนให้มีคุณลักษณะที่แตกต่างออกไปจากภาพเดิม เช่น อายุ สีผิว เพื่อทดสอบว่าอัลกอริทึมตัดภาพจะทำงานแตกต่างออกไปหรือไม่
Kylynych ใช้โมเดล StyleGAN2-ADA ในการแปลงข้อมูลภาพใบหน้าให้มีคุณลักษณะที่ต่างจากเดิม เช่น เปลี่ยนสีผิว เพิ่มความเข้มข้นของสี ปรับโทนภาพให้อบอุ่นยิ่งขึ้น ปรับใบหน้าให้มีลักษณะคล้ายผู้หญิงมากขึ้น เปลี่ยนอายุ ปรับโครงหน้า
หลังจากปรับภาพใบหน้าแล้ว Kylynych ได้ทดสอบภาพที่ถูกแปลงมานี้กับอัลกอริทึมตัดภาพของทวิตเตอร์ โดยเขาพบว่า อัลกอริทึมตัดภาพมักจะเอนเอียงไปยังใบหน้าที่ผอม ดูเด็ก มีสีผิวสว่าง ผิวเรียบเนียน มีโทนสีอบอุ่น และดูเป็นผู้หญิงมากกว่า ซึ่งจากการวิจัยโดย K Yee และคณะก่อนหน้านี้ อคติในอัลกอริทึมตัดภาพดังกล่าวยังมีอยู่แม้จะเป็นภาพบุคคลเดี่ยวก็ตาม
อัลกอริทึมตัดภาพของทวิตเตอร์นั้นเป็นเพียงอีกหนึ่งอัลกอริทึม Computer Vision ที่มีปัญหาเกี่ยวกับอคติของ AI ที่มีต่อภาพใบหน้าของผู้คน ซึ่งปัจจุบันเป็นประเด็นที่เป็นที่ถกเถียงและเริ่มมีการศึกษาวิจัยและตรวจสอบที่มากขึ้น ในความพยายามสร้าง AI ที่ปราศจากอคติต่อเพศ สีผิว อายุ และความหลากหลายอื่นๆ
Bogdan Kylynych ผู้ชนะในโครงการ Hackathon ครั้งนี้ จะได้รับเงินรางวัล 3500 เหรียญสหรัฐ สามารถอ่านรายละเอียดของโปรเจคนี้เต็มๆได้ที่ https://github.com/bogdan-kulynych/saliency_bias