สำนักข่าว BBC ทำการสืบสวนเครื่องเช็ครูปพาสปอร์ตของสหราชอาณาจักรและพบว่ารูปถ่ายของหญิงผิวดำมีแนวโน้มจะถูกประเมินว่าไม่ผ่านตามกฎมากกว่าชายผิวสีอ่อนกว่าถึง 2 เท่า
เว็บไซต์ทำพาสปอร์ตของสหราชอาณาจักรใช้เครื่องมือตรวจสอบภาพถ่ายอัตโนมัติเพื่อตรวจสอบว่าภาพถ่ายพาสปอร์ตของผู้ใช้งานมีคุณภาพและผ่านเกณฑ์ที่ Home Office กำหนดไว้หรือไม่ โดยเกณฑ์ที่ว่ามีเช่น สีหน้าปกติ ปิดปาก และเป็นภาพถ่ายหน้าตรง เป็นต้น
สำนักข่าว BBC ทำการทดสอบระบบดังกล่าวด้วยการอัพโหลดภาพนักการเมืองทั่วโลก 1,130 รูปจากชุดข้อมูลในการศึกษา Gender Shades ขึ้นไปยังระบบ และพบว่าภาพของหญิงผิวดำถูกประเมินว่ามีคุณภาพต่ำราว 22% ของภาพทั้งหมด ในขณะที่ภาพหญิงผิวขาวถูกประเมินว่าคุณภาพต่ำ 14% และในทำนองเดียวกัน ภาพชายผิวดำถูกประเมินว่ามีคุณภาพต่ำ 15% ของรูปทั้งหมด ในขณะที่ภาพชายผิวขาวมีอัตราการตกประเมินอยู่ที่ 9%
นอกจากนี้ ภาพของหญิงที่มีผิวในเฉดสีที่มืดที่สุดยังมีแนวโน้มที่จะถูกประเมินว่าเป็นภาพคุณภาพต่ำมากกว่า 4 เท่า เมื่อเทียบกับภาพถ่ายของหญิงที่มีผิวเฉดสว่างที่สุด
Elain Owusu ผู้ใช้เว็บไซต์ซึ่งเป็นหญิงผิวดำกล่าวกับ BBC ว่าเธอต้องทำการโต้แย้งคำตัดสินของเครื่องมือดังกล่าวเพราะระบบตรวจจับริมฝีปากของเธอผิดพลาดว่าเปิดอยู่ แม้เธอจะลองอัพโหลดรูปภาพที่ต่างกันถึง 5 รูป โดย Owusu กล่าววว่าระบบนี้แสดงให้เห็นว่าการเหยียดเชื้อชาติอย่างเป็นระบบ (Systemic Racism) แพร่กระจายอย่างไร
ตัวอย่างเหตุผลของระบบในการตัดสินว่าภาพนั้นมีคุณภาพต่ำในการทดสอบของ BBC ก็มีเช่น “มีเงาสะท้อนบนใบหน้าของคุณ” และ “แยกภาพของคุณและพื้นหลังได้ยาก”
กรณีนี้เป็นอีกหนึ่งตัวอย่างที่คลาสสิกของอคติในอัลกอริทึม ซึ่งเป็นผลมาจากการใช้ข้อมูลในการเทรนอัลกอริทึมที่ไม่หลากหลายเพียงพอที่จะครอบคลุมประชากรในกลุ่มสีผิว ชาติพันธุ์ และชุมชนต่างๆ การที่ระบบรู้จำใบหน้าทำงานได้ไม่ดีในการตรวจสอบรูปพาสปอร์ตอาจสร้างเพียงความรำคาญใจและภาระเพิ่มเติมเพียงเล็กน้อย ทว่าในระบบที่ใช้ประกอบการตัดสินใจที่สำคัญกว่า เช่น ระบบวิเคราะห์ใบหน้าของตำรวจ อคติเหล่านี้อาจส่งผลกระทบถึงชีวิตและทรัพย์สินได้อย่างมาก