AI ที่สามารถอธิบายการได้มาซึ่งคำตอบหรือการตัดสินใจนั้นเป็นหนึ่งโจทย์ใหญ่ที่ยังคงรอการค้นหา ด้วยการจะนำ AI หรือ Machine Learning ไปใช้ในเรื่องสำคัญๆนั้น ระบบจะต้องมีความโปร่งใส ตรวจสอบออดิทได้ ทั้งเพื่อป้องกันข้อผิดพลาด และในกรณีการสืบสวนความรับผิดชอบเมื่อเกิดความผิดพลาดขึ้น Chaofan Chen จาก University of Maine เป็นนักวิจัยรายหนึ่งที่สนใจศึกษาในประเด็นนี้