Facebook เปิดอัลกอริธึมเป็น open-source สำหรับตรวจจับภาพที่แสวงหาประโยชน์จากเด็กและภาพการก่อการร้าย

0

Facebook จะเปิดอัลกอริธึมสองตัวชื่อว่า PDQ และ TMK+PDQF บน Github เป็น open-source สำหรับใช้ระบุภาพที่ใช้ฉวยประโยชน์ทางเพศจากเด็ก โฆษณาชวนเชื่อของผู้ก่อการร้าย และภาพความรุนแรง โดยอัลกอริธึมทั้งสองเก็บบันทึกไฟล์เป็นดิจิทัลแฮชและเปรียบเทียบข้อมูลดังกล่าวกับตัวอย่างเนื้อหารุนแรง

Facebook หวังว่า บริษัทเทคโนโลยีเจ้าอื่น องค์กรไม่แสวงหาผลกำไร และนักพัฒนาอิสระจะใช้เทคโนโลยีนี้ในการระบุเนื้อหาที่รุนแรงและเพิ่มข้อมูลเข้าไปยังฐานข้อมูลร่วม ซึ่งจะช่วยให้ลบภาพเนื้อหาเหล่านั้นที่มีคนพยายามอัปโหลดได้อย่างเร็วขึ้น

การเคลื่อนไหวของ Facebook มาในช่วงที่มีวีดีโอเนื้อหารุนแรงโพสต์ทางออนไลน์มากขึ้นเรื่อยๆ ซึ่งจากข้อมูลของวงการเทคโนโลยีที่รายงานต่อ CyberTipline นั้น ภายในหนึ่งปี มีวีดีโอการทารุณเด็กทางเพศเพิ่มขึ้นถึง 541% ทาง John Clark ประธานและ CEO แห่งศูนย์เพื่อเด็กหายและถูกฉวยผลประโยชน์แห่งชาติของสหรัฐอเมริกา (the National Center of Missing and Exploited Children หรือ NCMEC) เผยว่า “เรามั่นใจว่าการสนับสนุนจาก Facebook ในด้านเทคโนโลยี open-source นี้จะนำไปสู่การระบุเนื้อหารุนแรงและช่วยเหลือเยาวชนผู้เป็นเหยื่อจากการข่มเหงทางเพศได้มากขึ้น”

นับเป็นครั้งแรกที่ Facebook เปิด open-source เทคโนโลยีจับคู่ภาพและวีดีโอเช่นนี้ ก่อนหน้านี้ทาง Microsoft และ Google ก็เคยออกเทคโนโลยีลักษณะเดียวกันมาก่อนเช่นกัน

นอกจากนี้ Facebook ยังได้ร่วมมือกับมหาวิทยาลัยต่างๆ อาทิ the University of Maryland, Cornell University, MIT และ the University of California, Berkeley ในการคิดหาวิธีหยุดการแปลงภาพและวีดีโอที่ถูกแบนเพื่อหลีกเลี่ยงจากระบบความปลอดภัย