ตอนนี้ Facebook, Instagram และ Twitter ได้จำกัดจำนวนข้อมูลที่ให้สามารถเข้าถึงได้โดยสตาร์ทอัพ Predictim สตาร์ทอัพในแคลิฟอร์เนียที่ใช้ระบบการเรียนรู้ของเครื่อง (Machine Learning) เพื่อที่จะตรวจสอบศักยภาพของพี่เลี้ยงเด็ก โดยระบบโซเชียลต่างๆ ก็ได้ดำเนินการต่อต้านบริษัทนี้หลังจากที่มีรายงานโดย The Washington Post เมื่อสัปดาห์ก่อนเกี่ยวกับรายละเอียดวิธีการของมัน ซึ่งทำให้เกิดการวิพากษ์วิจารณ์กันในวงกว้าง
Predictim เคลมว่าได้ใช้ “ระบบปัญญาประดิษฐ์ที่ก้าวหน้า (advanced artificial intelligence)” เพื่อที่จะตัดสินถึงความเหมาะสมของพี่เลี้ยงเด็ก โดยสิ่งนี้ได้รวมไปถึงเรื่องราวของ Facebook, Instagram และ Twitter ส่วนบุคคลก่อนที่จะมีการนำเสนอผลการประเมินถึงคุณลักษณะได้อัตโนมัติ อีกทั้งบริษัทยังได้เคลมว่ามันสามารถที่จะทำนายได้ถึงแต่ละคนว่าเป็นผู้ที่ใช้ยาเสพติดหรือไม่ หรือว่าพวกเขามีโอกาสที่จะไประรานหรือกลั่นแกล้งคนอื่นๆ ได้ หรือแม้แต่เรื่องว่าพวกเขาอาจมีทัศนคติที่ไม่ดีได้อีกด้วย
ผู้เชี่ยวชาญได้วิพากษ์วิจารณ์ถึงบริการของ Predictim ว่าไม่ถูกหลักทางวิทยาศาสตร์ โดยกล่าวว่าระบบ Machine Learning นั้นมีชื่อความน่าเชื่อถือเมื่อจะต้องมีการประมวลผลกับข้อมูลที่ซับซ้อนอย่างเช่นคำพูดของมนุษย์ โดยระบบ AI อาจจะดีในการรู้จำวัตถุ (object recognition) ในภาพหรือว่าการทำให้ลายมือเขียนให้กลายเป็นดิจิทัลได้ หากแต่มันไม่สามารถตีความโทนหรือน้ำเสียงที่มีความแตกต่างกันน้อยมากได้อย่างน่าเชื่อถือ เช่น การพูดถากถางเหน็บแนมหรือว่าพูดติดตลก ผู้เชี่ยวชาญในเรื่องนโยบายข้อมูลยังกล่าวอีกว่าซอฟต์แวร์ของ Predictim นั้นไม่ได้มีการอธิบายว่าการตัดสินใจนั้นๆ มาได้อย่างไร ซึ่งแปลว่ามีโอกาสที่พี่เลี้ยงเด็กคนนั้นจะต้องพลาดงั้นนั้นไปโดยที่ไม่ได้รับทราบเลยว่าเพราะอะไร และไม่มีการอธิบายอะไรให้อีกด้วย
:no_upscale()/cdn.vox-cdn.com/uploads/chorus_asset/file/13588960/predictm1.png)
Facebook, Instagram และ Twitter จึงได้ดำเนินการต่อต้านทาง Predictim ไปเมื่อหลายสัปดาห์ก่อน โดย Facebook กล่าวว่าได้มีการจำกัดการเข้าถึงข้อมูลผู้ใช้บน Facebook และ Instagram หนักแน่นหลังจากที่มีการฝ่าฝืนจนต้องแบนนักพัฒนาระบบที่นำข้อมูลเหล่านี้ไปใช้ตรวจสอบผู้สมัครงาน ส่วนทาง Twitter ก็ได้ถอนการเข้าถึงของ Predictim ที่เข้าทาง API (ซึ่งเป็นการใช้เพื่อเข้าถึงข้อมูลในระดับที่ใหญ่มากกว่าการอ่าน profile แต่ละคน) ออกไปเมื่อต้นสัปดาห์ที่ผ่านมา โดยโฆษกท่านหนึ่งได้กล่าวกับ Post ว่า “พวกเราห้ามอย่างเคร่งครัดในการใช้ข้อมูล Twitter และ API สำหรับวัตถุประสงค์การตรวจตรา รวมไปถึงการตรวจสอบประวัติ”
ทางด้านของ CEO และผู้ก่อตั้ง Predictim คุณ Sal Parsa ได้ออกมากล่าวว่าบริษัทไม่ได้ทำอะไรผิด “ทุกๆ คนก็เข้าไปดูข้อมูลบนโลกโซเชียลกันอยู่แล้ว โดยไปค้นหาใน Google ได้” คุณ Parsa กล่าวกับทาง BBC News “พวกเราเพียงแค่ดำเนินการขั้นตอนนี้ได้อย่างอัตโนมัติ”
คุณ Parsa ยังได้แนะว่าระบบโซเชียลซึ่งได้มีการแสกนข้อมูลผู้ใช้เพื่อที่จะมุ่งขายโฆษณานั้นได้มีแรงจูงใจที่จะบล็อคซอฟต์แวร์นี้ “Twitter และ Facebook นั้นก็มีการ mining ข้อมูลเราอยู่แล้ว” คุณ Parsa กล่าวกับทาง Post “มันอยู่ที่นั่น ข้อมูลที่ผู้ใช้สร้างขึ้นมา และตอนนี้ก็มีสตาร์ทอัพอีกเจ้าหนึ่งที่พยายามนำประโยชน์จากข้อมูลเหล่านั้นมาเพื่อช่วยให้พ่อแม่เลือกพี่เลี้ยงได้ดีกว่าเดิมได้ และสร้างเงินขึ้นมาเล็กน้อยในกระบวนการ”
อย่างไรก็ดี บางผู้เชี่ยวชาญก็ยังมองว่าซอฟต์แวร์ของ Predictim นั้นอาจละเมิดเสมือนระดับที่พนักงานไปเข้าถึงข้อมูลโซเชียลของผู้สมัครงาน หากแต่บริษัทก็ยังคงที่จะสร้างบริการการสกรีนที่ใช้ระบบ AI ต่อไป ซึ่งไม่ได้เพียงแต่เข้าถึงกิจกรรมของโลกโซเชียลอย่างเดียว หากแต่รวมไปถึงตัวชี้วัดอื่นๆ อย่างเช่น ผลประสิทธิภาพการสัมภาษณ์ส่วนบุคคล หากแต่ผู้เชี่ยวชาญก็ยังคงกังวลว่าการมอบหมายการตัดสินใจที่สำคัญมากไปที่อัลกอริทึมที่ไม่สามารถอธิบายถึงการคิดหรือเข้าใจของพฤติกรรมมนุษย์ได้จริงนั้นอาจเป็นวิธีการที่ไม่ฉลาด ในขณะที่ฝ่ายขายของบริษัทกล่าวว่าวิธีการที่ใช้ระบบนี้มีรายละเอียดมากกว่าและเป็นกลาง