ในช่วงปีที่ผ่านมา อัลกอริธึมมีความสามารถมากขึ้นเรื่อยๆ ในการสร้างคลิปปลอมที่ดูแยกไม่ออกจากความจริง ผู้เชี่ยวชาญต่างพยายามค้นหาวิธีตรวจจับคลิปปลอม deepfake และ Google เองก็ต้องการเป็นส่วนหนึ่งที่ช่วยสนับสนุนนักวิจัยที่ทำงานพัฒนาเครื่องมือตรวจจับ deepfake ด้วยการปล่อยชุดข้อมูลวีดีโอ deepfake ขนาดใหญ่เป็นฐานข้อมูลโอเพ่นซอร์สจำนวน 3,000 คลิป
Deepfake เป็นวีดีโอถูกตัดต่อให้ดูสมจริง น่าเชื่อถือ และมักนำมาใช้เพื่อเผยแพร่ข้อมูลเท็จและบิดเบือนข้อเท็จจริง โดยเฉพาะยิ่งใกล้ช่วงเลือกตั้งประธานาธิบดีสหรัฐอเมริกาเข้าไปทุกที อีกทั้งยังนำไปสู่ประเด็นอีกนับไม่ถ้วน อย่างกรณีที่มีบรรดาคนดังถูกนำภาพใบหน้าไปตัดต่อเป็นวีดีโออนาจารที่ดูเหมือนจริง เป็นต้น
Google ถ่ายวีดีโอนักแสดงในฉากต่างๆ และใช้วิธีการสร้างคลิปปลอมในการสร้างฐานข้อมูลราว 3,000 คลิป นักวิจัยสามารถใช้ชุดข้อมูลนั้นในการฝึกเครื่องมือตรวจจับ deepfake ได้อัตโนมัติ และสามารถพัฒนาให้ระบบมีประสิทธิภาพและแม่นยำมากขึ้นเมื่อต้องตรวจจับภาพที่สังเคราะห์ด้วย AI ทั้งนี้ Google ให้คำมั่นว่าจะเพิ่มวีดีโอไปยังฐานข้อมูลอีกโดยหวังว่าจะไล่ตามเทคนิคการสร้างคลิป deepfake ที่พัฒนาอย่างรวดเร็วได้ทัน
Google ไม่ได้เป็นเพียงบริษัทเดียวที่ออกมาต่อสู้กับคลิปปลอม deepfake ทั้ง Facebook และ Microsoft เองก็ข้องเกี่ยวกับการเปิดชุดเครื่องมือโอเพ่นซอร์สที่บริษัทต่างๆ รัฐบาล และองค์กรสื่อสามารถใช้งานเพื่อตรวจจับวีดีโอที่ผ่านการดัดแปลงได้เช่นกัน