ทีมนักวิจัยจาก University of Toronto ได้ออกแบบอัลกอริธึมเพื่อขวางการทำงานของเทคโนโลยีจดจำใบหน้า (Facial recognition)
ช่วงสองสามเดือนที่ผ่านมามีกระแสเรื่องความปลอดภัยและความเป็นส่วนตัวของข้อมูล ดังที่เห็นได้ชัดจากข่าว Mark Zuckerberg CEO ของ Facebook เข้าให้การกรณีบริษัทที่ปรึกษาด้านการเมือง (Cambridge Analytica) ถูกกล่าวหาละเมิดข้อมูลส่วนตัวผู้ใช้เฟซบุ๊ก
รูปแบบข้อมูลอย่างหนึ่งมาจากเทคโนโลยีจดจำใบหน้าที่ใช้อัลกอริธึมช่วยระบุจุดเด่นบนใบหน้า ทุกครั้งที่คุณอัปโหลดรูปขึ้นเฟซบุ๊ก อินสตาแกรม หรืออื่นๆ คุณก็ได้ป้อนข้อมูลอีกชุดให้ระบบได้เรียนรู้ชุดข้อมูลใบหน้าของคุณและใครก็ตามในรูป รวมถึง metadata อื่นๆ เช่น ประเภทโทรศัพท์และที่ตั้ง
เพื่อที่จะแก้ปัญหานี้ ทีมนักวิจัยจาก University of Toronto นำโดย Prof. Parham Aarabi และนักศึกษา ป.โท Avishek Bose ได้พัฒนาอัลกอริธึมเพื่อรบกวนการทำงานของเทคโนโลยีนี้ โดยใช้ “การฝึกแบบปรปักษ์ (adversarial training)” ที่ใช้อัลกอริธึมสองชุดให้ทำงานขัดกัน ทีมวิจัยได้สร้างโครงข่ายประสาทเทียม (neural network) สองระบบ อันหนึ่งใช้ระบุใบหน้า ส่วนอีกอันพยายามขัดขวางการทำงาน ทั้งสองระบบต่างเรียนรู้จากกันและกัน ซึ่งผลสุดท้ายคือทำให้ระบบเก่งขึ้นทั้งคู่
Bose ให้สัมภาษณ์ว่า “AI ที่ขัดขวางการทำงานสามารถ “โจมตี” สิ่งที่ AI ตรวจจับใบหน้ากำลังมองหา สมมติว่าถ้า AI ตัวนั้นกำลังพยายามระบุขอบดวงตา ตัว AI อีกตัวก็จะปรับดวงตานั้นให้ไม่เป็นที่สังเกตได้ โดยจะปรับแก้เพียงเล็กน้อยแต่เพียงพอที่จะหลอกระบบได้”
ในทางปฏิบัติ นั่นหมายความว่าผู้ใช้จะใช้ฟิลเตอร์ (แบบที่ใช้ใน Instagram หรือ Snapchat) เปลี่ยนพิกเซลในรูปซึ่งมองด้วยตาเปล่าแล้วดูไม่แตกต่าง แต่ถือว่าทำให้ระบบตรวจจับใบหน้าไม่ได้ได้สำเร็จ
ในงานวิจัยจากภาพใบหน้ากว่า 600 ภาพที่หลากหลายไปตั้งแต่ชาติพันธุ์ แสง และสภาพแวดล้อม ระบบสามารถลดการจดจำใบหน้าจาก 100 เปอร์เซ็นต์ เหลือเพียง 0.5 เปอร์เซ็นต์เท่านั้น
ฤดูร้อนนี้ ทีมวิจัยจะนำเสนอผลวิจัยเรื่อง Multimedia Signal Processing ในงาน 2018 IEEE International Workshop และหลังจากนั้นคาดว่าจะเปิดให้ใช้ฟิลเตอร์นี้ได้ทั่วกันผ่านแอปหรือเว็บไซต์
Aarabi เผยว่า “เมื่อสิบปีก่อนยังต้องให้คนเป็นคนจัดการอัลกอริธึม แต่ปัจจุบันนี้มีระบบโครงข่ายประสาทเทียมที่เรียนรู้ได้ด้วยตัวเอง ทำให้คุณไม่ต้องคอยป้อนข้อมูลเข้าไป ท้ายที่สุดแล้วระบบก็ทำให้เกิดสิ่งอัศจรรย์และแสดงศักยภาพได้อย่างยิ่งใหญ่ในช่วงเวลานี้”