Zao เป็นแอปสร้างคลิปปลอมด้วยการอัปโหลดรูปภาพเพียงรูปเดียว แล้วสามารถสลับหน้าผู้ใช้กับตัวละครในฉากรายการโทรทัศน์และภาพยนตร์ แอปนี้พึ่งเปิดตัวใช้งานได้ฟรีเมื่อวันศุกร์ที่แล้วและเป็นกระแสฮิตติดชาร์ตใน iOS App Store ของจีน แต่ขณะนี้ก็กำลังโดนต่อต้านถึงเรื่องความเป็นส่วนตัวของผู้ใช้เช่นเดียวกับกรณีก่อนหน้านี้อย่าง FaceApp แอปเปลี่ยนหน้าแก่
Here’s for Asian representation in Hollywood 😂 #ZAO #AI #Deepfake pic.twitter.com/qrSs3VajfL
— Allan Xia (@AllanXia) September 1, 2019
Allan Xia ผู้ใช้งาน Twitter รายหนึ่งได้สาธิตการทำงานของแอปนี้ด้วยการปล่อยคลิป 30 วินาทีที่มีใบหน้าของเขาเองแทนที่ใบหน้าของ Leonardo Dicaprio ในหลายๆ ฉากภาพยนตร์ ซึ่งคลิปใช้เวลาประมวลผลรูปภาพเพียง 8 วินาทีในการสร้างคลิปวีดีโอ ตัวแอปยังมีการให้ผู้ใช้ถ่ายรูปเป็นชุดโดยให้ผู้ใช้ขยับใบหน้าเปิดปิดปากหรือเปิดปิดตาเพื่อให้ได้ผลลัพธ์ที่สมจริงยิ่งขึ้น
https://twitter.com/AllanXia/status/1168049059413643265
เทคโนโลยีที่ใช้พัฒนาแอปนี้มีลักษณะคล้ายกับงานวิจัยของ London’s Imperial College ที่สามารถเปลี่ยนรูปภาพรูปเดียวให้ร้องเพลงได้ ความต่างอยู่ที่แอป Zao นั้นใส่ใบหน้าผู้ใช้ลงในวีดีโอที่มีอยู่แล้วและแปลงให้ภาพนั้นเคลื่อนไหวได้ทันที อย่างไรก็ตาม นี่เป็นการแสดงให้เห็นว่าเทคโนโลยีพัฒนาไปอย่างรวดเร็วแค่ไหนจากที่เมื่อก่อนต้องใช้ภาพนับหลายร้อยในการสร้างคลิปปลอมให้ดูน่าเชื่อถือ แต่ตอนนี้กลับใช้เพียงแค่รูปภาพเพียงรูปเดียวเท่านั้น
แต่นโยบายด้านความเป็นส่วนตัวของ Zao ก็ทำให้มีผู้ใช้งานไปถล่มออกความเห็นเชิงลบใน App Store เกือบจะทันที บริษัทจึงต้องออกมารับมือกับกระแสวิพากษ์วิจารณ์โดยระบุว่าจะไม่ใช่ภาพและวีดีโอเพื่อการอื่นนอกเหนือจากเพื่อวัตถุประสงค์การพัฒนาแอปโดยไม่ได้รับความยินยอมจากผู้ใช้ และจะลบข้อมูลผู้ใช้ออกจากเซิร์ฟเวอร์เมื่อผู้ใช้ลบข้อมูลของตนออกจากแอปแล้ว
เมื่อใดก็ตามที่มีบริการฟรีในลักษณะนี้ นั่นย่อมหมายถึงการที่บริษัทได้ประโยชน์จากการแลกข้อมูลของผู้ใช้งาน ไม่ว่าจะเป็นจุดประสงค์เพื่อการยิงโฆษณา หรือการฝึก AI เพื่อให้รู้จำใบหน้าได้ดียิ่งขึ้น ซึ่งผู้ใช้งานมักจะไม่รู้วัตถุประสงค์เบื้องหลัง จึงควรระมัดระวังในการใช้แอปลักษณะเช่นนี้