จากงานสัมมนา Digital Developer Conference ทาง IBM ได้ opensource ชุดเครื่องมือใหม่ที่มีชื่อว่า Uncertainty Quantification 360 (UQ360) ที่มุ่งเน้นในการทำให้ AI เข้าใจและสื่อสารถึงความไม่แน่นอนของตัวเองได้
ตามรอยมาจาก AI Fairness 360 และ AI Explainability 360 ของ IBM เอง เป้าหมายของ UQ360 นี้จะส่งเสริมให้กลุ่มนักวิจัย นักวิทยาศาสตร์ข้อมูล นักพัฒนาระบบ และอื่นๆ เพื่อที่จะนำไปสู่ความเข้าใจและสื่อสารกันได้ดีขึ้นเกี่ยวกับข้อจำกัดของระบบ AI
เป็นที่เข้าใจกันว่าโมเดล deep learning นั้นมักจะมีความมั่นใจมากเกินไป (overconfident) แม้ว่าจะมีความผิดพลาดเกิดขึ้นก็ตาม ซึ่งความไม่แน่นอนแบบ Epistemic (Epistemic uncertainty) เป็นคำที่ใช้เพื่ออธิบายว่าโมเดลที่ไม่รู้นั่นเป็นเพราะข้อมูลเทรน (training data) นั้นไม่ได้มีความเหมาะสม ซึ่งถ้าหากว่าให้ข้อมูลเทรนมากเพียงพอแล้วค่าความไม่แน่นอนดังกล่าวนี้จะลดลงไป แต่ความไม่แน่นอนแบบ Aleatoric (Aleatoric uncertainty) ซึ่งเป็นความไม่แน่นอนทางสถิติซึ่งจะเกิดขึ้นจากการสุ่มตามธรรมชาตินั้นจะไม่ได้ลดลงไปแม้วาจะมีข้อมูลมากขึ้นก็ตาม
ดังนั้น UQ360 นี้จะเป็นอัลกอริทึมและอนุกรมวิธาน (taxonomy) ในการทำให้ความไม่แน่นอนนั้นกลายเป็นปริมาณ (quantify) ออกมาได้ เช่นเดียวกับความสามารถที่จะวัดผลและปรับปรุง Uncertainty Quantification (UQ) ได้ ซึ่งทุกๆ อัลกอริทึม UQ ที่มีใน UQ360 Python นั้น ผู้ใช้งานจะสามารถเลือกสไตล์อัลกอริทึมที่เหมาะสมโดยดำเนินการตามคำแนะนำของ IBM ในการประเมินและสื่อสารค่า UQ ออกมา นอกจากนี้ UQ360 ยังมี tutorial เชิงลึกที่จะสาธิตการใช้ UQ ภายในการพัฒนาระบบ AI ขึ้นมาอีกด้วย
สำหรับใครที่สนใจสามารถศึกษาข้อมูลเพิ่มเติมได้ที่ GitHub repo นี้