AI นั้นได้กลายมาเป็นเครื่องมือที่สำคัญในการจัดการกับ Fake news หรือข้อมูลลวงบนแพลตฟอร์มของ Facebook โดยเฉพาะอย่างยิ่งในปีนี้ที่ทั่วโลกกำลังเผชิญกับวิกฤตโรคระบาดและสหรัฐเพิ่งจะมีการเลือกตั้งประธานาธิปดีเสร็จสิ้นไป โดยล่าสุด Facebook ได้ออกมาเปิดเผยถึงเครื่องมือ AI ต่างๆที่มีการใช้งานอยู่ในปัจจุบัน เพื่อจัดการกับข้อมูลลวงบนแพลตฟอร์มของพวกเขา
SimSearchNet++
ในการตรวจจับ Fake news ระบบของ Facebook จะทำการค้นหาโพสต์ที่มีแนวโน้มว่าจะเป็นข้อมูลลวง จากนั้นจะส่งโพสต์เหล่านั้นไปให้ทีม Fact checker ที่จะตรวจสอบว่าโพสต์นั้นเป็นข้อมูลลวงหรือไม่ และหากใช่ หลังจากนั้นเมื่อมีการแพร่กระจายของโพสต์นี้ ไม่ว่าจะเป็นรูปที่คล้ายกัน รูป Screenshot หรือรูปที่ถูกตัดออกบางส่วน ระบบก็ต้องรู้ได้ว่าโพสต์นี้เป็นข้อมูลลวงที่ถูกตรวจสอบไปแล้วและแจ้งเตือนแก่ผู้ใช้
เพื่อที่จะค้นหาโพสต์ที่มีความคล้ายคลึงกันทั้งหมดบนแพลตฟอร์มและแจ้งเตือนผู้ใช้ Facebook ได้พัฒนาระบบ SimSearchNet++ ซึ่งทำงานได้อย่างแม่นยำการค้นหารูปภาพที่คล้ายคลึงหรือเหมือนกันในรูปแบบต่างๆ ไม่ว่าจะเป็นภาพเดียวกันที่เบลอ โดนตัด หรือเป็นรูปใน Screenshot โดย SimSearchNet++ นี้มีความแม่นยำ Recall ที่สูงกว่า SimSearchNet เดิม และปัจจุบันมีการใช้งานจริงแล้วทั้งใน Facebook และ Instagram
ระบบค้นหาภาพที่มีเนื้อหาเดียวกันที่มีรูปแบบต่างกัน
อีกหนึ่งความท้าทายคือการค้นหาข่าวลวงที่มีเนื้อหาเดียวกันแต่ไม่อยู่ในรูปแบบเดียวกัน เช่น รูปภาพที่มีข้อความที่แตกต่างกันโดยสิ้นเชิง แต่สื่อความหมายเดียวกันอย่าง “หน้ากากอนามัยอันตราย” และ “การปิดจมูกและปากนั้นไม่ปลอดภัย” หรือการนำเสนอออกมาในรูปแบบที่แตกต่างกัน เช่น Meme และป้ายเตือน ซึ่ง Facebook ก็ได้พัฒนาระบบเข้ามาช่วยคำนวณความคล้ายคลึงระหว่างคอนเทนต์เพื่อที่จะจัดกลุ่ม และแจ้งเตือนหากคอนเทนต์ภายในกลุ่มถูกตัดสินว่าเป็นข้อมูลลวง
ระบบที่ว่านี้ประกอบไปด้วยเทคโนโลยีหลายชนิด เช่น ObjectDNA ซึ่งเป็นเครื่องมือสำหรับตรวจสอบวัตถุที่มีความสำคัญในรูปภาพ โดย Facebook ได้ประยุกต์นำมาใช้หาจุดที่เป็นใจความสำคัญในโพสต์ข่าวลวงนั่นเอง
นอกจากนี้ Facebook ยังใช้ระบบ LASER ซึ่งช่วยตรวจสอบความคล้ายของความหมายของประโยคและทำงานได้หลายภาษา เพื่อทำการจัดกลุ่มคอนเทนต์ที่มีเนื้อหาในทำนองเดียวกันไว้
ระบบตรวจจับ Deepfake
Deepfake นั้นเป็นเทคโนโลยีค่อนข้างใหม่ที่ยังไม่มีการใช้งานแพร่หลายมากนัก ทว่า Facebook ก้ได้เตรียมเครื่องมือไว้ป้องกันล่วงหน้า โดยพวกเขาได้พัฒนาโมเดล Deep Learning ขึ้นจากชุดข้อมูลของ Deepfake Detection Challenge ซึ่งมีตัวอย่างวิดีโอมากกว่า 100,000 คลิป
เครื่องมือที่ใช้ตรวจจับ Deepfake นี้มีการอัพเดทโมเดลอย่างสม่ำเสมอ โดยเมื่อตรวจพบวิดีโอ Deepfake ระบบจะใช้โมเดลที่ทำงานโดย Generative Adversarial Networks (GANs) หลายตัวในการสร้างวิดีโอใหม่โดยมีวิดีโอที่ตรวจพบเป็นต้นแบบ วิดีโอซึ่งเป็นผลลัพธ์นี้จะถูกเพิ่มไปเป็นหนึ่งในข้อมูลในการเทรนนิ่งโมเดลและทำให้โมเดลได้เรียนรู้อย่างหลากหลายมากกว่าเดิม