ล่าสุด Microsoft ได้ปล่อยเครื่องมือ opensource ใหม่ที่มีชื่อว่า Counterfit ที่ออกแบบมาเพื่อช่วยให้นักพัฒนาระบบสามารถทดสอบความปลอดภัยในระบบ AI และ Machine Learning ได้ ซึ่งบริษัทกล่าวว่า Counterfit สามารถทำให้องค์กรต่างๆ จัดการประเมินความเสี่ยงเพื่อให้มั่นใจได้ว่าอัลกอริทึมที่ใช้ในธุรกิจนั้นมีความเสถียร และเชื่อถือได้
แม้ว่า AI จะมีการใช้งานกันอย่างแพร่หลายในทุกๆ อุตสาหกรรม แต่หลายๆ องค์กรมักจะยังขาดการวางกลยุทธเพื่อลดความเสี่ยง โดยจากแบบสำรวจของ Microsoft ค้นพบว่า 25 ใน 28 ธุรกิจนั้นไม่ได้มีทรัพยากรที่จะช่วยป้องกันความปลอดภัยของระบบ AI ส่วนหนึ่งอาจจะเป็นเพราะผู้เชี่ยวชาญความปลอดภัยนั้นยังต้องค้นหาแนวทางที่เฉพาะเจาะจงในแต่ละแบบโดยเฉพาะอีกด้วย
Microsoft กล่าวว่า Counterfit เกิดขึ้นมาเนื่องจากบริษัทมีความต้องการที่จะประเมินระบบ AI เพื่อดูช่องโหว่ต่างๆ ด้วยเป้าหมายที่จะรักษาความปลอดภัยของระบบ AI ในบริการต่างๆ ซึ่งเครื่องมือเริ่มต้นด้วยการมีชุดคำสั่งโจมตีที่เขียนเพื่อมุ่งเป้าไปที่โมเดล AI ต่างๆ ซึ่งจากนั้นก็ได้ปรับปรุงจนกลายมาเป็นผลิตภัณฑ์ที่ช่วยวัดผลได้หลายๆ ระบบแบบอัตโนมัติ
โดยภายใต้ Counterfit นั้นจะเป็นเครื่องมือ command line ที่จะมีชั้นสำหรับเฟรมเวิร์ก adversarial หรือโมเดลที่ preload ไว้ด้วยอัลกอริทึมต่างๆ ที่สามารถนำมาเรียกใช้ได้ ซึ่ง Counterfit จะไปค้นหาการโจมตีที่มีเปิดเผยในชุมชนความปลอดภัยต่างๆ มาและสามารถนำมาสร้างหรือจัดการและทดลองการโจมตีได้
ในขณะที่มีการทดสอบความปลอดภัยบนระบบ AI ด้วย Counterfit ทีมความปลอดภัยก็จะสามารถเลือกใช้ค่าเริ่มต้น หรือทดลองตั้งค่าตัวแปรแบบสุ่ม หรือปรับเปลี่ยนจุดโหว่ต่างๆ ได้อย่างหลากหลาย ซึ่งองค์กรต่างๆ ที่มีโมเดลจำนวนมากจะสามารถใช้เครื่องมือ Counterfit มาทดสอบลองสแกนได้แบบอัตโนมัติได้เลย โดย Counterfit จะมี log ที่บันทึกผลการโจมตีไปยังโมเดลปลายทางออกมาให้ ซึ่ง Microsoft โน้ตไว้ว่า แนวทางดังกล่าวจะช่วยผลักดันให้ทีมวิศวกรสามารถปรับปรุงความเข้าใจในระบบที่เกิดปัญหาขึ้นมาได้อีกด้วย
ใครสนใจทดลองใช้งาน สามารถเข้าไปที่ GitHub เพื่อ clone มาทดลองใช้งานได้เลย