ในเดือนกันยายน 2562 ที่ผ่านมา Facebook ได้เปิดการแข่งขัน Deepfake Detection Challenge (DFDC) การแข่งขันสาธารณะที่พัฒนาระบบตรวจจับด้วยอัลกอริทึมอัตโนมัติเพื่อต่อสู้กับภัยคุกคามของวีดีโอ deepfake ที่กำลังเกิดขึ้น ซึ่งหลังจากเวลาผ่านไปเกือบปี แพลตฟอร์มโซเชียลมีเดียก็ได้ประกาศผู้ชนะการแข่งขันแล้วจากผู้เข้าแข่งขันทั่วโลกกว่า 2,000 ราย
Deepfake นำเสนอความท้าทายที่แตกต่างให้กับแพลตฟอร์มโซเชียลมีเดีย ซึ่งสามารถที่จะสร้างข้อมูลขึ้นมาโดยใช้ GPU ระดับสูงกว่าผู้ใช้งานทั่วไปเพียงเล็กน้อยกับซอฟต์แวร์ที่สามารถดาวน์โหลดได้จากอินเตอร์เน็ต ทำให้แต่ละคนสามารถสร้างวีดีโอคลิปปลอมขึ้นมาได้อย่างง่ายดายและรวดเร็ว โดยสามารถวีดีโอที่บุคคลในนั้นพูดหรือทำอะไรออกมาทั้งๆ ที่พวกเขาไม่ได้ทำ ซึ่งความท้าทายของ Facebook คือการต่อสู้กับข้อมูลที่ไม่ถูกต้องเหล่านี้ในระดับขนาดใหญ่โดยต้องการให้สามารถตรวจจับและระบุวีดีโอที่มีโอกาสจะทำผิดกฎหมายอยู่ได้อัตโนมัติเพื่อที่จะนำไปตรวจสอบในขั้นตอนถัดไปอีกที
“บอกตามตรงว่าฉันค่อนข้างเหนื่อยใจกับเวลาและพลังงานที่นักวิจัยอัจฉริยะมากมายได้ลงแรงไปกันไปเพื่อที่จะทำให้ deepfake ดีขึ้นโดยที่ไม่ได้มีการลงทุนในเรื่องวิธีการตรวจจับและต่อสู้กับการใช้งานที่ไม่ดีอย่างสมน้ำสมเนื้อเท่าไหร่นัก” Facebook CTO คุณ Mike Schroepfer กล่าว “พวกเราพยายามคิดเกี่ยวกับแนวทางที่จะกระตุ้น ไม่ใช่แค่การลงทุนของพวกเราเท่านั้นแต่จะมุ่งเน้นในอุตสาหกรรมในวงกว้างมากขึ้นกับเครื่องมือและเทคโนโลยีที่ช่วยพวกเราตรวจจับสิ่งเหล่านี้ ดังนั้น ถ้าหากมันถูกนำมาใช้ในทางที่ไม่ดี เราก็จะยังมีวิธีการในวงกว้างเพื่อที่จะต่อสู้กับมันได้”
จาก Deepfake Detection Challenge ทาง Facebook ได้ลงทุนราว 10 ล้านดอลลาร์สหรัฐในการแข่งขันและจ้างนักแสดงมากกว่า 3,500 คนเพื่อสร้างวีดีโอหลายพันคลิป รวมแล้วมีความยาวราว 38.5 วัน ซึ่งจะเป็นวีดีโอแบบมือสมัครเล่นทำกันคือใช้มือถือบันทึกข้อมูลเหมือนที่เราจะได้เห็นกันในโลกโซเชียลมีเดียแทนที่จะเป็นการถ่ายแบบระดับมืออาชีพหรือว่าถ่ายในสตูดิโอ
จากนั้นบริษัทได้ให้ข้อมูล dataset เหล่านี้แก่นักวิจัย ซึ่งจะมีชุด public ที่เข้าถึงได้ทั่วไปกับอีกชุดเป็น “black box” ที่มีมากกว่า 10,000 วีดีโอโดยมีการเพิ่มเติมเทคนิคใส่เข้าไปนิดหน่อย อย่างเช่น การปรับแต่งคุณภาพวีดีโอและ frame rate ใส่ภาพซ้อนทับ การสลับภาพที่ไม่เกี่ยวข้องสลับไปมาในวีดีโอบางเฟรม หรือว่าจะใส่บางอย่างที่ช่วยในการวัดผลได้
จากข้อมูล data set แบบ public ผู้เข้าแข่งขันโดยเฉลี่ยจะได้ความถูกต้องอยู่แถวๆ มากกว่า 82% อย่างไรก็ดี ด้วยสำหรับชุด black box ตัวโมเดลที่ชนะเลิศจากคุณ Selim Seferbekov เฉลี่ยจะมีความถูกต้องอยู่ที่ 65% แม้ว่าจะมีกลลวงหรือกับดักที่ใส่ไว้แล้วก็ตาม
“การแข่งขันประสบความสำเร็จมากกว่าที่ฉันคาดหวังไว้” คุณ Schroepfer กล่าว “พวกเรามีผู้เข้าร่วมเข้ามา 2,000 รายที่ได้ส่งโมเดลมาทดสอบ 35,000 โมเดล โดยที่หนึ่งช่วงแรกๆ นั้นมีความถูกต้องประมาณ 50% ซึ่งยังใช้ไม่ได้ แต่ก็ดีขึ้นจนเริ่มมีความถูกต้องที่ 59% และโมเดลที่ชนะนั้นได้ความถูกต้องถึง 82%” ซึ่งน่าประทับใจตรงที่ความก้าวหน้าเหล่านี้ตามมาเพียงไม่กี่เดือนไม่ใช่ถึงกับต้องรอเป็นปี คุณ Schroepfer เพิ่มเติม
Source : https://www.engadget.com/facebook-security-deepfake-detection-challenge-150030290.html