ทีมนักวิจัยจาก IBM กำลังดำเนินการแก้ไขหนึ่งในปัญหาที่มีความสำคัญมากที่สุดในโลกของอินเตอร์เน็ตนั่นก็คือการใช้ภาษาที่ก้าวร้าวและหมิ่นประมาท ด้วยความช่วยเหลือจากระบบ deep learning จึงทำให้ทีมสามารถเทรนระบบโครงข่ายประสาทเทียมที่จะสามารถแปลงคอมเมนต์ที่มีความก้าวร้าวให้กลายเป็นคอมเมนต์ทั่วไปที่ไม่ก้าวร้าวได้
“ในการใช้ภาษาที่ก้าวร้าวนั้นเป็นปัญหาทั่วไปของพฤติกรรมหมิ่นประมาทในโลกโซเชียลมีเดียออนไลน์” นักวิจัยกล่าวในงานตีพิมพ์ “โดยงานนี้คือก้าวแรกของแนวทางวิธีการใหม่ที่เป็นไปได้ที่จะต่อสู้กับโพสที่มีการหมิ่นประมาทในโลกโซเชียลมีเดียได้”
โดยทีมงานได้เทรนระบบโครงข่ายประสาทเทียม encoder-decoder บนเฟรมเวิร์ก TensorFlow กับข้อมูล dataset ที่รวมข้อความที่เป็นลักษณะก้าวร้าวและไม่ก้าวร้าวจำนวนหลายพันประโยคที่พวกเขารวมมาจาก Twitter และ Reddit ซึ่งเมื่อพวกเขาได้เทรนโครงข่ายเสร็จสิ้น ผลพบว่าสามารถที่จะแทนการใช้ภาษาที่ก้าวร้าวได้ด้วยความถูกต้องสูงถึง 99%
“จากความรู้ที่ดีที่สุดของพวกเรา ในงานก่อนหน้านี้มาทั้งหมดมุ่งไปที่ปัญหาของการใช้ภาษาก้าวร้าวบนโลกโซเชียลมีเดียในมุมเรื่องของการ classify ข้อความเพียงเท่านั้น ซึ่งวิธีการเหล่านั้นจะใช้วิธีการติดเครื่องหมายเนื้อหาที่ก้าวร้าวแล้วก็คัดข้อมูลออกไป แต่วัตถุประสงค์ของวิธีการของพวกเรานั้นจะไปในอีกก้าวหนึ่งโดยสร้างเนื้อหาทางเลือกในอีกเวอร์ชันหนึ่งที่ไม่มีความก้าวร้าวขึ้นมา” นักวิจัยอธิบาย
นักวิจัยกล่าวว่าวิธีการของพวกเขานั้นสามารถทำให้ผู้ใช้ที่มีแผนที่จะโพสข้อความที่ก้าวร้าวได้รับการแจ้งเตือนว่าเนื้อหานั้นมีความก้าวร้าวและจะถูกบล็อค ซึ่งจะเป็นการเสนอให้พวกเขาเหล่านั้นปรับช้อความให้มีความสุภาพมากขึ้นและพวกเขาสามารถที่จะโพสได้
“พวกเราเชื่อว่าเวอร์ชันที่ปรับปรุงเพิ่มเติมของวิธีการที่เสนอนี้ รวมไปถึงการใช้ข้อมูลเทรนที่มีขนาดใหญ่ขึ้นกว่าเดิมมากนั้นจะสามารถที่จะจัดการกับโพสที่หมิ่นประมาทอื่นๆ อย่างเช่นโพสที่มีข้อความคำพูดความเกลียดชัง เหยียดสีผิว และการแบ่งแยกเพศ” ทีมกล่าว
Source : https://news.developer.nvidia.com/ai-tackles-offensive-language-on-social-media/