งานวิจัยจากห้องแล็บ AI ของ Facebook เผย อัลกอริธึมรู้จำวัตถุ (object recognition algorithm) ที่บริษัทใหญ่ๆ อย่าง Google, Microsoft และ Amazon พัฒนานั้น ทำงานได้แย่ลงเมื่อต้องระบุสิ่งของที่มาจากประเทศที่มีรายได้ต่ำ แสดงให้เห็นว่า AI มีอคติที่สื่อถึงความไม่เสมอภาคทั้งภายในและระหว่างประเทศ
ในงานวิจัย นักวิจัยได้ทดสอบอัลกอริธึมรู้จำวัตถุยอดนิยมทั้งห้า ได้แก่ Microsoft Azure, Clarifai, Google Cloud Vision, Amazon Rekognition และ IBM Watson เพื่อศึกษาว่าแต่ละระบบสามารถระบุสิ่งของในบ้านที่เก็บข้อมูลมาจากทั่วโลกได้ดีแค่ไหน ซึ่งชุดข้อมูลประกอบด้วย 117 หมวดหมู่ (ตั้งแต่รองเท้า สบู่ ไปจนถึงเก้าอี้โซฟา) และเป็นสิ่งของจากแหล่งที่มีรายได้ครัวเรือนและพื้นที่ทางภูมิศาสตร์ที่แตกต่างกันไป (ตั้งแค่ครอบครัวในประเทศบุรุนดี (ทวีปแอฟริกา) ที่มีรายได้ 27 ดอลลาร์ต่อเดือน ไปจนถึงครอบครัวในยูเครนที่มีรายได้ 10,090 ดอลลาร์ต่อเดือน)
นักวิจัยพบว่า อัลกอริธึมรู้จำวัตถุทั้งหลายมีข้อผิดพลาดประมาณ 10 เปอร์เซ็นต์เมื่อให้ระบุของใช้ในบ้านจากครัวเรือนที่มีรายได้ต่อเดือน 50 ดอลลาร์ เทียบกับครัวเรือนที่ทำรายได้ต่อเดือนได้มากกว่า 3,500 ดอลลาร์ ในด้านความแม่นยำนั้น อัลกอริธึมจะระบุวัตถุจากสหรัฐอเมริกาได้ดีกว่า 15 ถึง 20 เปอร์เซ็นต์ เทียบกับวัตถุที่มาจากโซมาเลียและบูร์กินาฟาโซ (ทวีปแอฟริกา) ซึ่งผลการศึกษาจากบริการคลาวด์เซอร์วิสด้านระบบรู้จำนั้นคงที่สม่ำเสมอทั้งห้าระบบ
อคติลักษณะนี้เป็นปัญหาของ AI ที่รู้กันดี และมีสาเหตุเนื่องมาจากชุดข้อมูลที่ใช้สร้างอัลกอริธึมนั้นแสดงถึงชีวิตและภูมิหลังของเหล่าวิศวกรผู้รับผิดชอบ ซึ่งส่วนใหญ่เป็นผู้ชายผิวขาวจากประเทศรายได้สูง ดังนั้นโลกที่พวกเขาใช้สอนระบบก็จะเป็นสิ่งของที่เกี่ยวกับชีวิตประจำวันของพวกเขานั่นเอง
ในด้านระบบรู้จำวัตถุนั้น ผู้วิจัยกล่าวว่า ความคลาดเคลื่อนดังกล่าวอาจเกิดมาจากสาเหตุดังนี้ ประการแรกคือ ชุดข้อมูลฝึกที่ใช้สร้างระบบนั้นมีข้อจำกัดที่เกี่ยวข้องกับภูมิศาสตร์ และประการที่สองคือ ระบบไม่สามารถแยกแยะความแตกต่างทางวัฒนธรรมได้ ทั้งนี้ ชุดข้อมูลที่ใช้ฝึกส่วนใหญ่มาจากทวีปยุโรปและอเมริกาเหนือ และมีชุดข้อมูลไม่เพียงพอจากภูมิภาคที่มีประชากรขนาดใหญ่ เช่น ในทวีปแอฟกริกา ประเทศอินเดีย ประเทศจีน และภูมิภาคเอเชียตะวันออกเฉียงใต้
นอกจากนี้ ชุดข้อมูลภาพใช้คำนามภาษาอังกฤษเป็นจุดเริ่มต้นในการเก็บข้อมูล นั่นหมายความว่า หมวดสิ่งของบางหมวดอาจจะหายไป หรือวัตถุที่ดูคล้ายกันอาจถูกจำแนกไปอยู่ต่างหมวดก็เป็นได้ เช่น สบู่ล้างจานอาจมีหน้าตาเป็นก้อนหรือมาในรูปแบบขวดบรรจุของเหลว และงานแต่งที่มีรูปแบบงานต่างกันในอเมริกาและอินเดีย เป็นต้น
ระบบที่สร้างโดยใช้อัลกอริธึมเหล่านี้จึงใช้งานได้ไม่ดีเท่าใดนักสำหรับผู้ที่มาจากประเทศรายได้น้อยและประเทศแถบอื่นที่ไม่ใช่ประเทศตะวันตก เนื่องจากบริษัทเทคโนโลยีในอเมริกาเป็นผู้นำโลกด้าน AI จึงอาจส่งผลต่อทุกสิ่งตั้งแต่บริการพื้นที่เก็บรูปและการใช้งานค้นหาภาพไปจนถึงระบบสำคัญๆ อย่างกล้องรักษาความปลอดภัยอัตโนมัติและรถยนต์ขับเคลื่อนด้วยตัวเอง